Новое в теме

Локальный запуск

Garlic LLM: Qwen3.5-9B запустили на взломанной PS4 без интернета со скоростью около 35 токенов в секунду

Открытое приложение Garlic LLM запускает Qwen3.5-9B на видеочипе взломанной PlayStation 4 без компьютера и интернета. В текстовом чате модель выдаёт 31–39 токенов в секунду, на…

Локальный запуск

Видеокарта для нейросетей в 2026 году: как выбрать GPU для глубокого обучения и LLM

Глубокое обучение работает на видеокартах, и от выбора GPU зависит, займёт эксперимент минуты или дни и поместится ли модель на ваш компьютер вообще. В 2026 году выбор сложнее…

Локальный запуск

Bonsai 27B: модель с 27 миллиардами параметров впервые запустили на смартфоне благодаря 1-битным весам

Стартап PrismML, основанный исследователями из Caltech, представил Bonsai 27B — это бинарная и тернарная версии модели Qwen3.6-27B, которые сохраняют 90–95% качества исходной…

Картинки и видео

LongLive-2.0: NVIDIA научила модель генерировать длинное видео в реальном времени с квантованием NVFP4

Исследователи из NVIDIA опубликовали LongLive-2.0 — инфраструктуру для обучения и запуска моделей генерации длинного видео с использованием квантования до 4-битной точности…

Локальный запуск

QeRL: 32B модель обучается с подкреплением на одном GPU H100 вместо трех, превосходя LoRA в точности

QeRL — фреймворк для обучения языковых моделей методом обучения с подкреплением, который одновременно снижает требования к GPU и превосходит в точности традиционные методы LoRA и…

Открытые LLM

MiniCPM4: открытая локальная модель достигает производительности Qwen3-8B при 7-кратном ускорении инференса

Команда исследователей OpenBMB представила MiniCPM4 — высокоэффективную языковую модель, разработанную специально для локальных устройств. MiniCPM4-8B достигает сопоставимой с…

Локальный запуск

На CES 2025 Nvidia представила серию GPU RTX 50 и микросервисы NIM для локального запуска ИИ-пайплайнов

Nvidia анонсировала крупное обновление на выставке CES 2025, включающее новые графические процессоры RTX 50 и микросервисами NIM для локального развертывания крупных моделей от…

Новинки нейросетей в Telegram

Другие темы