3 place 0 fresh
![[Перевод] Масштабирование LLM: от одного чипа до ЦОДа. Глава 2. Шардинг](https://times42.com/media/5/5/6/12477556_640x200.jpg "[Перевод] Масштабирование LLM: от одного чипа до ЦОДа. Глава 2. Шардинг")
Это продолжение цикла статей о масштабировании тренировки и инференса LLM. Предыдущая глава находится по этой ссылке.Итак, с основами разобрались, давайте теперь разбираться с тем, как распихать матрицы по нескольким чипам, перемножить, а затем собрать это все в удобоваримый результат. По-умному это называется шардинг. Для начала давайте определимся, зачем этот шардинг вообще нужен. А нужен он потому что, как я уже писал в предыдущей статье, при работе с действительно большими нейронками матрицы и вектора п
A newsletter a day!
You may get 10 most important news around midday in daily newsletter. Press the button and we will send you the most important news only, no spam attached.
LIKE us on Facebook so you won't miss the most important news of the day!
Habr
An East Bay apartment complex has been bought at a price that's well below its prior value. Read more ›
0
A PG&E Corp. unit has bought a San Jose building in a move to bolster the utility's South Bay operations. Read more ›
0
Tequipy, a Polish-British startup that ships, services, and retrieves employee IT devices, has raised over €3 million in funding to expand its platform beyond hardware into software and security operations. The round was led by Smedvig Ventures, with participation from Manta Ray and Unfold.vc. “I’ve seen ambitious, talented IT specialists, who should have been building ... Read more ›
0 newcommer
Привет, Хабр! Меня зовут Витя, я проектирую интерфейсы в Selectel. Недавно рассказывал о выделенных ядрах — новой функциональности в облачных серверах, направленной на повышение производительности и стабильную работу вашей инфраструктуры. А сегодня хочу рассказать о новой линейке 10G Net, которую мы также совсем недавно запустили.Как можно догадаться из названия линейки, ее ключевая особенность — это ширина канала приватной сети в 10 Гбит/с, которая дополняет предложение современных высокочастотных процессо Read more ›
0 newcommer
D2C jewellery brand GIVA has roped in Bollywood actor and Hyphen cofounder Kriti Sanon as its brand ambassador and investor.… Read more ›
0 fresh
Owners are unhappy about missing AirDrop compatibility on their Galaxy S23 phones. Read more ›
0 fresh
The upcoming iOS 27 update will reportedly allow third-party media-casting protocols, to comply with regulations. Read more ›
0 fresh
Waymo temporarily suspended rider service in six cities and paused highway rides as the company works to improve its autonomous-driving software. Read more ›
0 fresh
A new report shows Hyperliquid is rapidly expanding beyond crypto into pre-IPO markets, prediction contracts, and 24/7 asset trading, putting Wall Street giants on high alert. Read more ›
0 fresh
Steve Kamb, a fitness coach, encourages clients to ask themselves if what they're doing is realistic and enjoyable. Read more ›
0 fresh
Here's how to watch Cheese Rolling 2026 online from anywhere in the world, completely FREE. Read more ›
0 fresh
В узких кругах я широко известен как адепт цифровой схемотехники на электронной базе ушедших эпох. Дайте мне стрелку Пирса — и я сделаю на этом Электронно-вычислительную машину, будь то Релейный компьютер или ламповый. По силам даже на струйной логике — который в интернетах почему-то известен как паровой. При этом, университет я заканчивал как специалист по электротехнике в целом и по аналоговому электроприводу в частности. Многоконтурный следящий электропривод с тиристорным преобразователем... Read more ›
0 fresh
![[Перевод] IPO компании SpaceX: хорошая попытка, но нет](https://times42.com/media/7/8/3/12477783_640x200.jpg "[Перевод] IPO компании SpaceX: хорошая попытка, но нет")
Когда компания решает выйти на биржу, Комиссия по ценным бумагам и биржам США требует подать проспект по форме S-1. Так уж сложилось, что это одни из самых сухих образцов письма, которыми когда-либо марали бумагу. Их пишут корпоративные юристы для других корпоративных юристов, чтобы никто нигде и никогда случайно не получил удовольствие от чтения. Но когда два дня назад SpaceX подала документы для выхода на биржу, при чтении стало сразу ясно:... Read more ›
0 fresh
Tequipy, a platform that ships, services, and retrieves employee IT devices in 180+ countries, has raised over €3 million in a round led by Smedvig Ventures, with participation from Manta Ray and Unfo... Read more ›
0 fresh
Last week, we tracked more than 65 tech funding deals worth over €1.1 billion, and over 5 exits, M&A transactions, rumours, and related news stories across Europe.Haberin devamını okumak için tıklayın... Read more ›
0 fresh
European startups like Legora and Lovable are challenging US tech dominance, driven by AI advancements and better access to VC funding. Read more ›
0 fresh
Ни когда не думал, что программированием можно увлечься, но около года назад я узнал про существование микроконтроллеров и тут началось.Мне нужен шрифт, причём срочно! — Так я подумал спустя полгода. В сумбурном поиске я попробовал много вариантов, приводивших к систематическому разочарованию. Спустя еще пару месяцев этот вопрос начал тормозить моё обучение и вводить в депрессию. Читать далее Read more ›
0 fresh
Рассказываем про путь развития проекта, который помогает дарить подарки: веб-платформу GiftsHub. С ней удобно организовывать дни рождения и другие мероприятия.Статья о том, как проект вырос от MVP для хакатона до полноценного бэкенд-приложения, об ограничениях во время работы и некоторых подробностях технического решения. Читать далее Read more ›
0 fresh
Habr
Довольно многие, кто близок к миру web разработки, не раз слышали про метрики web-vitals. По-настоящему значимыми они стали в середине 2021 года — в этот период Google официально стал учитывать метрики в ранжировании для мобильного поиска. С тех пор многие компании стремятся добиться хороших показателей метрик web-vitals. И, пожалуй, самая важная из этих метрик — LCP.Привет! Меня зовут Николай, я — frontend-разработчик в компании Иви. В зоне моей ответственности как... Read more ›
0
Помните программу «Сто вопросов взрослому», где герою задают прямые и неудобные вопросы, на которые нельзя ответить отговорками? По-моему, это отличный формат и для общения с отделом разработки. Особенно когда приходится защищать перед техлидами нестандартные решения — например, миграцию вообще без использования облачного API.В идеальном мире миграция работает как часы: контроллер подключается к платформе по API, автоматически создает сети, разворачивает машины и переносит данные. В суровой реальности крупн Read more ›
0
Одна из самых неприятных особенностей production-проблем заключается в том, что они почти никогда не происходят тогда, когда разработчик готов их исследовать.Во время разработки всё работает. На тестовом стенде тоже всё выглядит нормально. Логи кажутся вполне достаточными, а диагностическая информация — продуманной и аккуратно организованной. Но затем в production внезапно появляется странная проблема: соединение иногда сбрасывается без видимой причины, один запрос из нескольких тысяч начинает вести себя ин Read more ›
0
На связи Анна Астахова, директор по развитию ИТ-интегратора «Белый код». Сама по себе типовая синхронизация не так интересна, однако тут все кроется в деталях. Во-первых, клиент только переезжает в «1С:УПО», и на момент, когда мы настраиваем интеграцию, учет ведется в «1С-Рарус». Во-вторых, смены, суммы, типы оплат, номенклатуры — все это нужно сопоставить. Читать далее Read more ›
0
npm снова горит — и на этот раз атакующим даже не пришлось ломать код.Разбираем свежую supply chain-атаку на node-ipc, где доступ к популярному npm-пакету получили через… просроченный домен за $9. Без взлома npm, без bypass 2FA — только forgotten password и DNS.В статье: как payload крал AWS, SSH и .env, почему эксфильтрация шла через DNS TXT, почему SIEM почти ничего не увидел, как dormant-аккаунты становятся оружием — и почему подобные... Read more ›
0
ИИ-музыка перестала быть демо-игрушкой.Современные модели уже генерируют не просто лупы, а полноценные треки: с вокалом, куплетами, припевами, аранжировкой, миксом и экспортом в готовый аудиофайл. Это не заменяет композитора или саунд-дизайнера, но резко сокращает путь от идеи до черновика. Для музыканта это быстрый эскиз. Для продюсера — способ проверить направление. Для разработчика игры — временный саундтрек. Для контент-мейкера — фон, интро или джингл без поиска по стокам.Дальше — разбор двух заметных... Read more ›
0
Тест Тьюринга явно устарел, сейчас пытаются придумать новые тесты на сильный ИИ. Но как оценить интеллект модели, если учёные сильно расходятся в оценке даже человека. Существует как минимум 70 определений интеллекта для сапиенсов.И ещё эти многочисленные научные статьи на тему сознания у LLM. Тут вообще странная постановка вопроса. По опыту человека известно, что наиболее эффективно мыслительные процессы идут на подсознательном уровне, а вмешательство самосознания только мешает решению сложных проблем. На. Read more ›
0
Хабр, привет! Меня зовут Андрей Вихров, я создавал аналитические системы и внедрял data governance (DG) в крупных компаниях больше 15 лет, а сейчас занимаюсь метаданными в Data Office МТС. Тема порядка в данных для меня не нова, а какие выгоды можно извлечь из нее сегодня — стоит отдельного рассказа.В компании накоплен огромный массив данных — только в дата-каталоге зарегистрировано более 500 тысяч таблиц. С ними ежедневно работают сотни специалистов: от... Read more ›
0
Геймдев часто представляют как романтичную индустрию, где идея рождается на вдохновенном брейншторме, а дальше команда просто «делает игру мечты». В реальности всё сложнее: сценарий, прототипы, бюджет, пайплайны, десятки профессий, постоянная коммуникация и риски, которые невозможно посчитать в Excel до конца.Я, Александр, автор телеграм-канала «Shulepov Code», поговорил с Альбертом Жильцовым — автором телеграм-канала «После титров», креативным продюсером 1С Game Studios, работавшим над «Ил-2 Штурмовик», «К Read more ›
0
В этой статье разберём, как правильно организовать публикацию real-time событий в Laravel: почему не стоит отправлять сообщения напрямую из контроллеров, как использовать Laravel Events и listeners, зачем нужны queue jobs, почему afterCommit() критичен для корректности данных и каким должен быть безопасный payload без полной Eloquent-модели. Читать далее Read more ›
0
Most popular sources
Ars Technica
|
0% |
Vox
|
0% |
Skift
|
0% |
Tom's Hardware
|
0% |
The Verge
|
0% |
| View sources » | |
LIKE us on Facebook so you won't miss the most important news of the day!
25.05.2026 04:34
Last update: 04:25 EDT.
News rating updated: 11:21.
What is Times42?
Times42 brings you the most popular news from tech news portals in real-time chart.
Read about us in FAQ section.
