500 place 0 fresh

544 «Золотая рыбка, хочу LLM без GPU»: как собрать Inference-сервер на CPU

Habr
nsforth (Selectel) @ Habr · today 02:00 EDT

«Золотая рыбка, хочу LLM без GPU»: как собрать Inference-сервер на CPU

Допустим, вам нужно протестировать LLM на сотни миллиардов или почти триллион параметров в локальной среде — на своих данных, которые вы не хотите отдавать в облако. Задача сводится к сравнительным экспериментам или вообще к развертыванию решения внутри своей сети под небольшую нагрузку, если пользователей мало. Масштаб этих моделей ведет к проблеме: памяти одной видеокарты не хватит, а использование серверов с несколькими GPU может повлечь большие расходы на инфраструктуру. В таких случаях альтернативой ст

To see detailed statistics for the news please log in »

Read the original

Add your comment
You must be logged in with Facebook to read and write comments.

A newsletter a day!

You may get 10 most important news around midday in daily newsletter. Press the button and we will send you the most important news only, no spam attached.

or register

LIKE us on Facebook so you won't miss the most important news of the day!

News from the same source
Habr Habr
Silicon Canals
Vishal Singh @ Silicon Canals 1 place · today 03:55 EDT

The Hague-based Weco raises €600K to “turn waves into watts”

Hague-based Weco secures €600K to continue its work on wave-energy systems and prepare for future development with support from partners. The Hague-based Weco, a company working on wave-energy technology, has secured €600K in new funding. The round includes contributions from the Netherlands Enabling Water Technology fund (NEW-ttt), Init Power B.V., and investor Cyriel de Jong. ... Read more Read more

1,309 fresh

🔮
14.11.2025 ♑︎ Dear Capricorn, today you can expect a diverse and насыщенный day filled with various sensations... Read more ›
GSMArena.com
GSMArena.com 1 place · today 03:21 EDT

OpenAI now piloting group chats in ChatGPT

OpenAI has begun piloting group chats in ChatGPT, allowing you to collaborate with your family, friends, or colleagues in a shared space to discuss ideas or make decisions. So, how does this work? Well, to start a group chat, tap the people icon in the top-right corner of a new or existing chat, and invite people. Once people accept the invite, a copy of your conversation will be created as... Read more

503 fresh

Engadget
Engadget 1 place · today 00:32 EDT

OpenAI is piloting group conversations in ChatGPT

OpenAI has started pilot testing group chats within ChatGPT in Japan, New Zealand, South Korea and Taiwan. Like group chats in messaging apps, you can create conversations with friends and family. In this instance, though, ChatGPT is one of the participants, building an itinerary as you plan a vacation, giving you ideas for renovation projects or helping you find a restaurant everyone in the chat would enjoy if you’re planning... Read more

431 fresh

Business Insider
Lakshmi Varanasi @ Business Insider 1 place · 11/13/2025 15:18 EDT

One of Russia's first humanoid robots face-planted during its public debut

AIDOL, a 14-person Russian startup, told Business Insider it was surprised by the viral reaction to its robot's collapse this week. Read more

364

Wired
Tim Marchman, Leah Feiger @ Wired 1 place · 11/13/2025 15:19 EDT

Jeffrey Epstein Claimed Intimate Knowledge of Donald Trump’s Views in Texts With Bill Gates Adviser

In text messages from 2017, Jeffrey Epstein seemingly represented himself as positioned to pass information from the Trump White House to Bill Gates through an intermediary. Read more

320

Business Insider
Lloyd Lee,Sydney Bradley @ Business Insider 2 place · today 00:02 EDT

The founder of the Jack Dorsey-backed Vine revival is fighting against AI slop

Evan Henshaw-Plath launched diVine as an attempt to bring back authentic video moments on an open-source platform. Read more

314 fresh

Android Authority
Aamir Siddiqui @ Android Authority 1 place · today 03:57 EDT

Like it or not, Apple may be shaping the Galaxy S26’s price and design

The iPhone 17's $799 price tag could be forcing Samsung to drop its Galaxy S26 ambitions in pursuit of cost-cutting Read more

311 fresh

Wired
Louryn Strampe @ Wired 2 place · today 02:10 EDT

Blue Apron Coupon & Promo Codes: $25 Off | November 2025

Browse chef-curated meal plans, plus get $25 off with an exclusive Blue Apron coupon code. You'll get 50% off your first 2 orders, and more top coupons on WIRED. Read more

295 fresh

Business Insider
Allie Kelly @ Business Insider · today 04:14 EDT

Even with the government open, millions of Americans could see their healthcare costs skyrocket

The 43-day government shutdown was largely due to healthcare funding. Costs could still jump for Americans on Medicaid and Affordable Care Act plans. Read more

279 fresh

The Verge
Robert Hart @ The Verge 1 place · today 02:00 EDT

I rode in one of the UK’s first self-driving cars

I never really believed self-driving cars would make it to the UK, so you can imagine my surprise when I found myself clambering into one of Wayve's autonomous vehicles for a journey around north London a few weeks ago. In June, the company announced plans with Uber to begin trialing Level 4 fully autonomous robotaxis […] Read more

270 fresh

Android Authority
Andy Walker @ Android Authority 2 place · today 02:42 EDT

Could you live with Android if the Play Store was your only option?

We want to hear from you. Could you live with this restriction, or would it be bye-bye Android? Read more

251 fresh

The Verge
Tom Warren @ The Verge 2 place · 11/13/2025 08:00 EDT

Valve just built the Xbox that Microsoft is dreaming of

Valve has created a PC-based game console that lives under your TV. The Steam Machine takes everything that's great about the Steam Deck and adds the raw power to compete with the latest PlayStation and Xbox consoles. It also puts a huge amount of pressure on Microsoft to perfect its Windows and Xbox combination, as […] Read more

194

Business Insider
Ayelet Sheffey @ Business Insider · today 04:04 EDT

A new Trump decision could make future relief harder for student-loan borrowers

Trump's administration said that the CFPB is on track to run out of funding next year. It could put protections for student-loan borrowers at risk. Read more

188 fresh

The Verge
Alex Heath @ The Verge 3 place · 11/13/2025 21:00 EDT

What insiders anonymously think about the AI race

This is an excerpt of Sources by Alex Heath, a newsletter about AI and the tech industry, syndicated just for The Verge subscribers once a week. I spent yesterday at Eric Newcomer's Cerebral Valley conference in San Francisco, which is now in its third year. I've attended this event for three years in a row […] Read more

164 fresh

CoinDesk
Omkar Godbole @ CoinDesk 1 place · 11/13/2025 23:38 EDT

Canary's XRP ETF Tops 2025 Debuts with $58M Day-One Volume

The XRPC ETF narrowly surpassed Bitwise’s Solana ETF in first-day trading volume. Read more

151 fresh

Tom's Hardware
Tom's Hardware 1 place · 11/13/2025 07:05 EDT

Banned Russian antivirus maker Kaspersky rolls out new products — basic plan for Linux starts at $59.99 a year

Kaspersky launches antivirus software for Linux, starting at $59.99 per year for one device, with a special first-year price of $38.99 for the basic plan. Read more

150

ScienceDaily
ScienceDaily 1 place · 11/13/2025 23:56 EDT

Exercise appears to spark a whole-body anti-aging cascade, and scientists have now mapped out how it happens—and how a simple oral compound can mimic it. By following volunteers through rest, intense workouts, and endurance training, researchers found that the kidneys act as the hidden command center, flooding the body with a metabolite called betaine that restores balance, rejuvenates immune cells, and cools inflammation. Even more striking, giving betaine on its... Read more

126 fresh

Mashable
Mashable 1 place · today 00:00 EDT

Best Buy Black Friday ad: The best early deals you can buy online

Best Buy Black Friday Ad. Browse the best deals from Best Buy's Black Friday sale in 2025. Read more

120 fresh

The most popular news from the same source for the last week
Habr Habr
Habr
MnsDev (Femida Search) @ Habr 1 place · 11/09/2025 16:14 EDT

Как работает цензура на государственном уровне? Разбираем на примере слитого китайского фаерволла. Часть 1

Мы скачали 500 ГБ утечку из Великого Китайского Файрвола чтобы вам не пришлось и решили их изучить. Разбираемся, как он работает, кого обслуживает и как его обходят. Читать далее Read more

60

Habr
master_program @ Habr 2 place · 11/07/2025 13:15 EDT

Путеводитель по матанализу, который скрывали от вас в вузе

Вы когда-нибудь задумывались, почему в компьютерных играх объекты иногда проваливаются сквозь текстуры? Или почему финансовые модели так сложны, когда пытаются предсказать курс акций, который кажется то плавным, то скачущим? В основе этих, казалось бы, разных проблем лежит одна и та же фундаментальная идея, над которой бились величайшие умы человечества более двух тысяч лет. Идея непрерывности.Это не просто заумный термин из учебников. Это история о том, как мы пытались соединить мир... Read more

50

Habr
shiru8bit (RUVDS.com) @ Habr 2 place · 11/12/2025 02:01 EDT

В поисках компактного ЛБП

Я решил для разнообразия немного отойти от своих любимых тем про видеоигры и жуткие звуки музыки в них, а также и временно воздержаться от ковыряний различных Ардуин. Вместо этого обращусь к другой плоскости своих интересов: к созданию электронных самоделок. А если точнее, созданию самодельных инструментов для создания электронных самоделок.Речь пойдёт о простейшем самодельном компактном регулируемом маломощном источнике питания, также известного среди радиолюбителей и им сочувствующих как «лабораторный бло Read more

25

Habr
Dmytro_Kikot (ua-hosting.company) @ Habr 1 place · 11/12/2025 06:35 EDT

Затемнить солнце: риски стратосферных аэрозолей

Проблема глобального потепления является одной из самых острых и, простите за каламбур, глобальных. Изменения климата, вызванные множеством факторов, в том числе и техногенных, оказывает существенное влияние на многие аспекты жизни планеты и ее обитателей. За последние десятилетия было предложено немало стратегий по борьбе или хотя бы замедлению данного процесса. Некоторые из них перспективны, другие требует серьезных вложений, но есть и весьма спорные. К таковым относится распыление отражающих аэрозолей в. Read more

24

Habr
GreenyNata (Цифровой СИБУР) @ Habr 3 place · 11/07/2025 08:05 EDT

У меня 300 задач, и все самые приоритетные. Вот что я делаю

Меня зовут Наталия Зеленкина, я управляю командой, которая оцифровывает продажи нефтехимической продукции — от поиска клиента до заключения контракта и дальнейшего сопровождения. Моя CRM-система обслуживает 1200 пользователей: от менеджеров по продажам до логистов и производственников.До этого я десять лет работала в финтехе. Разрабатывала банковские приложения, карточные продукты, транзакционные сервисы. Привыкла к метрикам типа конверсии и среднего чека. А потом попала на производство.В первую неделю колл Read more

21

Habr
sokolovps (Online patent) @ Habr 2 place · 11/08/2025 01:18 EDT

«План любой ценой»: Почему российский менеджмент превратил работу в выживание и можно ли с этим бороться

Краткий разбор системных ошибок управления, которые годами тормозят развитие российского бизнеса (и не только в IT) Если вы работали в российской компании — от крупного холдинга до небольшого стартапа — вы, возможно, сталкивались с этим. Не везде, но такое, наверняка случалось. Авралы по выходным, KPI, которые невозможно выполнить, приказы, противоречащие здравому смыслу, и вечное «надо выкручиваться». И наше любимое — всем сейчас и так плохо, нужно затянуть пояса. Это не... Read more

21

Habr
ay8910 @ Habr 3 place · 11/08/2025 10:43 EDT

Топ-15 лучших нейросетей для создания презентаций: бесплатные и платные сервисы

Откройте топ-15 нейросетей для создания презентаций. Gamma, Tome, SlidePoint и другие ИИ-сервисы помогут быстро генерировать слайды, текст и дизайн бесплатно или с подпиской. Экономьте время на бизнес-питчи и образовательные материалы - читайте обзор с плюсами и минусами. Читать далее Read more

13

Habr
IvanZaycev0717 @ Habr 1 place · 11/09/2025 00:56 EDT

Адский эксперимент: личный сайт на нищих микросервисах

Микросервисы тут, микросервисы там… Из каждого утюга доносится дивный сказ про прекрасный мир микросервисов. А ведь это всего лишь один вид из десятка архитектурных стилей, который имеет свои достоинства и недостатки.В этом эксперименте мы внедрим микросервисы в личный сайт, нарушив ключевые принципы DDD. Я создам антипаттерн «бедных сервисов» (Anemic Domain Model) и покажу, чем опасен прямой доступ к данным между микросервисами.Эта статья о том, что за прекрасным внешним видом, большой... Read more

10

Habr
SLY_G @ Habr 1 place · 11/10/2025 11:36 EDT

Стоя посреди поля, мы легко забываем, что живём на круглой планете. Мы настолько малы по сравнению с Землёй, что с нашей точки зрения она кажется плоской.Мир полон таких форм — форм, которые кажутся плоскими для живущих на них муравьёв, хотя в целом они могут иметь более сложную структуру. Математики называют эти формы многообразиями. Введённые Бернхардом Риманом в середине XIX века, многообразия изменили представление математиков о пространстве. Оно перестало быть просто... Read more

5

Habr
Ekaterina-ya @ Habr 3 place · 11/07/2025 08:59 EDT

Rise of RAG: от плоских векторов к темпоральным графам в юридическом домене

Привет, Хабр! Меня зовут Екатерина, я практикующий инхаус-юрист с фокусом на IT, IP и рекламе. Недавно я начала экспериментировать с технологией Retrieval-Augmented Generation и векторным поиском в юридических задачах, а также исследовать архитектурные подходы к построению баз знаний в юриспруденции. Этот материал — обзор трёх публикаций о способах построения таких баз, а также моя попытка начать формулировать методологию структурирования юридического знания для RAG. Буду признательна за любой инпут со стор Read more

3

Most popular sources

  • You see 1,000 news out of 1,000.
  • Sources 61 out of 61.
Business Insider 19% 2
Tom's Hardware 17% 12
The Verge 14% 6
Wired 7% 0
Mashable 5% 1
View sources »

LIKE us on Facebook so you won't miss the most important news of the day!

14.11.2025 04:41
Last update: 04:35 EDT.
News rating updated: 11:32.

What is Times42?

Times42 brings you the most popular news from tech news portals in real-time chart.
Read about us in FAQ section.


Times42 © 2025