8 place 0 fresh

89 Запускаем LLM локально на майнинг ферме из 4 GPU

Habr
malyazin_2010 @ Habr · today 06:14 EDT

Запускаем LLM локально на майнинг ферме из 4 GPU

В последнее время становится все более популярным локальный запуск LLM. У каждогг свои причины, но основные это: проблемы с западными сервисами, нестабильный интернет и утечка данных в открытый доступ (преценденты уже были).В этой статье я расскажу как запускал LLM локально на майнинговом железе, какие тонкости есть при запуске. Расскажу архитектуру моей сборки и примерную стоимость железа. Также протестирую скорость работы с некоторыми наиболее популярными MoE LLM, включая модели от гугла и ChatGPT. По пов

To see detailed statistics for the news please log in »

Read the original

Add your comment
You must be logged in with Facebook to read and write comments.

A newsletter a day!

You may get 10 most important news around midday in daily newsletter. Press the button and we will send you the most important news only, no spam attached.

or register

LIKE us on Facebook so you won't miss the most important news of the day!

News from the same source
Habr Habr
Silicon Valley
George Avalos @ Silicon Valley 1 place · 02/07/2106 01:28 EDT

Newark apartment complex bought for much less than prior value

An East Bay apartment complex has been bought at a price that's well below its prior value. Read more

0

🔮
03.07.2026 ♓︎ Dear Pisces, today promises to be a particularly bright and vibrant day filled with opportunities... Read more ›
Silicon Valley
George Avalos @ Silicon Valley 2 place · 02/07/2106 01:28 EDT

PG&E buys San Jose building to bolster South Bay operations

A PG&E Corp. unit has bought a San Jose building in a move to bolster the utility's South Bay operations. Read more

0

Habr
Uglyfireman @ Habr 1 place · today 08:08 EDT

Интеграция LLM в MS Word с помощью VBA

Работа с текстом — это, пожалуй, одна из главных областей применения больших языковых моделей (LLM). Существует много способов редактирования текста. Аналитики, например, часто работают с разметкой markdown — такой текст почти ничего не весит, с ним легко работать в любом текстовом редакторе и его легко можно сгенерировать при помощи скриптов. Но не секрет, что для подавляющего большинства пользователей редактор Word по‑прежнему остается основным инструментом. Мой личный опыт работы с текстом... Read more

0 newcommer

Business Insider
Megan Arnold @ Business Insider 1 place · today 08:05 EDT

Why managing a brand's reputation is more complex than ever in the age of AI

Marking and communications leaders shared specific tips for navigating this evolving landscape during a roundtable discussion. Read more

0 newcommer

CoinDesk
Shaurya Malwa @ CoinDesk 1 place · today 08:04 EDT

Trump says there is ‘nothing wrong’ with family’s crypto windfall

The president reported at least $1.4 billion in crypto income for 2025. He told CNBC he did nothing illegal and was not aware of the extent of his holdings. Critics say he is profiting from the office while his administration writes the industry's rules. Read more

0 fresh

Habr
Ka1seR (Selectel) @ Habr 2 place · today 08:01 EDT

6 полезных фишек FluxCD. Выжимаем все соки из GitOps

Если вы применяете в своей инфраструктуре GitOps-подход, то вам точно знакомы такие решения по автоматизации доставки для Kubernetes, как FluxCD и ArgoCD. Это популярные инструменты, которые позволяют синхронизировать наполнение отслеживаемого Git-репозитория и отобразить его в кластере Kubernetes. Сегодня воздержимся от их сравнения и сконцентрируемся на разговоре о том, какие удобства при работе может предоставить FluxCD. Читать далее Read more

0 newcommer

Irish Tech News
Ronan Leonard @ Irish Tech News 1 place · today 08:00 EDT

Vodafone Ireland and Government trial satellite technology to keep emergency services connected

Vodafone Ireland, in partnership with the Office of the Government Chief Information Officer (OGCIO), has successfully tested the integration of satellite technology for emergency and public service organisations. Delivered under a Memorandum of Understanding (MoU) with the OGCIO, the technology would keep emergency services running during severe weather events or major outages, when mobile networks can be impacted by […] Read more

0 fresh

The Verge
Andrew Webster @ The Verge 1 place · today 08:00 EDT

Apple TV is hitting its stride

Since its inception, Apple TV, née Apple TV Plus, has built a reputation on quality over quantity. It has far fewer shows and movies than the likes of Netflix or Disney Plus, but generally speaking, the projects it does put out are quite good. It's a strategy that has brought comparisons to the HBO of […] Read more

0 fresh

Habr
naslou1 (МТС) @ Habr 3 place · today 08:00 EDT

Выстрелит ли лазерная передача энергии вместе с космической индустрией

Пока компании выстраивают орбитальные группировки и формируется индустрия космических сот — связанной инфраструктуры спутников, наземных станций и высотных платформ, — одна технология все чаще оказывается в центре внимания. Это лазерная передача энергии. Она развивается прежде всего как инструмент для самой космической инфраструктуры: подпитки спутников, орбитальных узлов, беспилотников. И у нее есть принципиальное преимущество перед другими подходами: лазеры уже вовсю используются для межспутниковой связи, Read more

0 fresh

Habr
sea-team (R-Vision) @ Habr · today 07:58 EDT

В фокусе RVD: трендовые уязвимости июня

Хабр, привет!На связи команда инженеров-аналитиков R-Vision. В июне 2026 года мы выделили 19 трендовых уязвимостей, а по итогам месяца традиционно подготовили дайджест с наиболее интересными из них.В этом материале мы разобрали условия эксплуатации каждой уязвимости, возможные последствия их успешной эксплуатации и рекомендации по защите. Этот обзор поможет ИБ-командам расставить приоритеты при обновлении систем и быстрее закрыть наиболее критичные риски. Читать далее Read more

0 fresh

Digital Trends
Shikhar Mehrotra @ Digital Trends 1 place · today 07:57 EDT

OxygenOS made OnePlus phones special. Now, it might go away forever

OxygenOS and Realme UI are reportedly being discontinued, with ColorOS replacing both globally, and OnePlus is also narrowing its geographic focus to India and China. Read more

0 fresh

Habr
NoName12332112 @ Habr · today 07:55 EDT

Как я запустил перцептрон на обычном непрограммируемом калькуляторе Casio

Всем привет, это моя первая статья на Хабре, и я решил посвятить ее своему недавнему мини‑проекту, сутью которого является обучение небольшого перцептрона 2-5-1 с помощью Python без сторонних библиотек (типа NumPy), и его последующий инференс на непрограммируемом инженерном калькуляторе Casio‑Fx-82-Es Plus (2nd edition). В качестве задачи для перцептрона я выбрал определение того, находится ли точка в пределах графика следующей лемнискаты Бернулли: (x² + y²)² — 2a²(x² — y²) = 0... Read more

0 fresh

GSMArena.com
GSMArena.com 1 place · today 07:51 EDT

HMD announces four new Nokia feature phones with AI

HMD is not giving up on feature phones, and its latest lineup of Nokia models is in with the times. The Nokia 200 4G, 210 4G, 215 4G 2nd Edition, and 235 4G 2nd Edition come with an on-device AI assistant which is accessible via the AI button placed front and center on their D-pad. HMD Nokia 200 4G The AI features are powered by Sikey AI and allow users... Read more

0 fresh

The Verge
Robert Hart @ The Verge 2 place · today 07:49 EDT

A behind-the-scenes look at Midjourney’s medical scanner leaves many questions unanswered

Midjourney has shown more of its futuristic medical scanner. It still hasn't shown much proof it works. The AI startup, best known for generating images, released a behind-the-scenes video of its dunk-tank ultrasound scanner, which it plans to deploy in spas and hopes will transform medicine with cheap, detailed, radiation-free imaging. The nearly 20-minute tour […] Read more

0 fresh

The most popular news from the same source for the last week
Habr Habr
Habr
oopatow @ Habr · 06/26/2026 07:57 EDT

Тихая-тихая мировая революция. Мы сделали модель распознавания для любых задач компьютерного зрения – и выше уровня SOTA

Практический эффект TAPe+ML v2 сейчас лучше всего видно в object detection. Так, TAPe+ML v2 на конкретной практической задаче рудозасорения (см главу про промышленный пилот), без COCO-головы, на новом backbone, основанном на данных клиента, дает точность детекции 96%, по mAP50 – точность  90% и по mAP50–95 – 85%. То есть TAPe‑детекция выходит на уровень RF‑DETR по mAP50 при числе параметров меньше 100 тысяч против порядка 127 миллионов у RF‑DETR 2XL.Мы применили... Read more

0

Habr
olga_sergeyeva (Greengage DB) @ Habr · 06/26/2026 07:56 EDT

Мажорное обновление Greengage с помощью pg_upgrade и ggupgrade

Разбираем мажорное обновление Greengage с версии 6 на 7: как работает pg_upgrade, какие шаги нужны для обновления кластера, чем помогает ggupgrade и какой выигрыш по времени дают копирование файлов и режим жестких ссылок. Читать далее Read more

0

Habr
denomi3 (Киберстанция E-station) @ Habr · 06/26/2026 08:03 EDT

Рабочее место мечты: сетапы, железо и технологии, которые меняют эргономику

Привет, Хабр! Я Денис Захаров — создатель станции E-station.За несколько лет мы прошли путь от первых прототипов, сваренных в гараже, до шоурумов в 20+ городов РФ и стран СНГ. В процессе познакомились с людьми и компаниями, которые делают крутые вещи: разрабатывают новые технологии в акустике, придумывают эргономичные клавиатуры и трекболы, делают ультратонкие мониторы (что то еще про них дописать). Вместе мы строим что-то большее, чем просто рабочее место — экосистему,... Read more

0

Habr
alextoo @ Habr · 06/26/2026 08:03 EDT

Серия статей «Пишем ELM327-совместимый адаптер на PIC18F25K80»

Если вы когда-нибудь приезжали на техосмотр или к механику, вы, скорее всего, видели, как он достаёт небольшое устройство, вставляет его под торпедо и смотрит в ноутбук. Этот разъём — OBD-II (On-Board Diagnostics, версия II). С 1996 года он обязателен для всех легковых автомобилей, продаваемых в США, с 2001 — для бензиновых, а с 2004 — для дизельных легковых в Европе (стандарт EOBD). Сегодня OBD-II / EOBD присутствует в подавляющем большинстве... Read more

0

Habr
t3chnowolf (МТС) @ Habr · 06/26/2026 08:01 EDT

Как грязные диски помогали спидранерам быстрее проходить классические игры

В спидране — скоростном прохождении игр — всегда находились энтузиасты, готовые искать преимущества не только внутри самой игры, но и в особенностях оборудования, на котором она работала. Иногда старые консоли, оптические приводы и картриджи становились источником необычных сбоев и эффектов. Со временем находчивые игроки научились использовать такие особенности для экономии драгоценных секунд. Одна из самых необычных историй такого рода — прохождение SpongeBob SquarePants: Battle for Bikini Bottom («Губка Б Read more

0

Habr
Germanlawyer @ Habr · 06/26/2026 08:19 EDT

Как получить субсидию до 80 млн. на роботизацию от Минпромторга?

Минпромторг регулярно анонсирует субсидии для промышленных компаний с разными условиями и бюджетами. Уследить за всеми сложно, поэтому рассказываем про самое интересное. В этой статье разбираю субсидию до 80 миллионов на роботизацию производств — условия, подводные камни и шансы. Если вы промышленник, читайте внимательно: возможно, это ваш шанс. Или нет. Читать далее Read more

0

Habr
gorillas32 (YADRO) @ Habr · 06/26/2026 08:19 EDT

Создаем потокобезопасную очередь с условными переменными: «академический» пример против реальности

Представьте, что вы едете в ночном поезде. Чтобы гарантированно выйти на нужной станции, придется не спать всю ночь и внимательно отслеживать остановки. Свою станцию вы не пропустите, но сойдете с поезда уставшим. Другой способ: узнать из расписания предполагаемое время прибытия поезда, поставить будильник на нужное время с небольшим запасом и лечь спать. Этого вполне достаточно, чтобы не пропустить свою станцию, но, если поезд задержится, пробуждение окажется слишком ранним. Идеальным решением... Read more

0

Habr
vaalimusic @ Habr · 06/26/2026 08:25 EDT

Как пробросить свой UDP-транспорт через RustDesk без патча сервера

Привет, Хабр!Есть RustDesk-инфраструктура: rendezvous-сервер (hbbs) для NAT traversal и relay (hbbr) для проброса трафика, когда P2P не получился. И есть свой UDP-транспорт реального времени для видео (у меня это EVRT), который хочется гнать напрямую между пирами, минуя relay — ради задержки. Вопрос: как двум пирам договориться о прямом UDP-канале, если они общаются только через RustDesk? Ответ короткий: RustDesk relay — это «тупая труба». Он передаёт зашифрованные PeerMessage между пирами и... Read more

0

Habr
ANTON62 @ Habr · 06/26/2026 08:21 EDT

Российские зеркала пакетов и DevOps-платформы: что уже работает и как это использовать в условиях блокировок

Когда Docker Hub и другие платформы стали ограничивать доступ для российских пользователей, многие разработчики почувствовали то, что раньше казалось абстрактной угрозой. Но к тому моменту инфраструктура уже готовилась - платформа GitVerse, зеркала Яндекса и VK. Подробный разбор что делать разработчик в случае реальных блокировок. Читать далее Read more

0

Habr
Kursor (Туту) @ Habr · 06/26/2026 08:29 EDT

Дизайн-система Kite: путь от «порядка» к «воздушному змею»

Привет! Меня зовут Рома. С 2023 года я отвечаю за технику и архитектуру дизайн-системы в Туту, а с 2025 — возглавляю саму команду. За это время я понял: дизайн-система — это сложный и местами болезненный компромисс между кодом, дизайном и бизнесом. Написать гибкие компоненты и собрать UI-кит — лишь 20% успеха. Остальные 80% — это долгие детальные переговоры и поиск точек соприкосновения. Продуктовые команды тоже хотят делать качественный продукт, но... Read more

0

Most popular sources

  • You see 754 news out of 754.
  • Sources 61 out of 61.
AlleyWatch 0%
Droid Life 0%
150sec 0%
Ars Technica 0%
Skift 0%
View sources »

LIKE us on Facebook so you won't miss the most important news of the day!

03.07.2026 08:26
Last update: 08:20 EDT.
News rating updated: 15:20.

What is Times42?

Times42 brings you the most popular news from tech news portals in real-time chart.
Read about us in FAQ section.


Times42 © 2026