Локальные модели

Garlic LLM: Qwen3.5-9B запустили на взломанной PS4 без интернета со скоростью около 35 токенов в секунду

Разработчик Леонардо Алегрия представил Garlic LLM — неофициальный проект с открытым кодом, который позволяет запускать крупную языковую модель Qwen3.5-9B от Alibaba непосредственно на графическом чипе взломанной консоли PlayStation 4. Система…
Hugging Face
Локальные модели

Видеокарта для нейросетей в 2026 году: как выбрать GPU для глубокого обучения и LLM

Глубокое обучение работает на видеокартах, и от выбора GPU зависит, займёт эксперимент минуты или дни и поместится ли модель на ваш компьютер вообще. В 2026 году выбор сложнее, чем когда-либо:…
State-of-the-art

DTM: новая аппаратная архитектура снижает энергопотребление до 10000 раз по сравнению с GPU

Исследователи из Extropic Corporation представили эффективную аппаратную архитектуру для вероятностных вычислений, основанную на Denoising Thermodynamic Models (DTM). Анализ показывает, что устройства на базе этой архитектуры могут достичь паритета производительности с…
Новости

Cerebras представила суперкомпьютер Andromeda: 2,6 триллиона 7-нм транзисторов, 850 000 ядер, мощность 15 кВт

Компания Cerebras, производящая самый крупный в мире чип Wafer Scale Engine 2 (WSE-2), представила свой суперкомпьютер Andromeda. Andromeda объединяет 16 чипов WSE-2 размером около 20 сантиметров в один кластер с…
Новости

Triton 1.0: язык программирования GPU для нейросетей

OpenAI представила open-source язык программирования Triton для графических процессоров. Triton схож с Python и позволяет не имеющим опыта работы с CUDA пользователям писать высокоэффективный код. Triton, впервые представленный в 2019-м…
Локальные модели

Оценка эффективности инференса нейронных сетей

Развитие рынка нейронных сетей подразумевает под собой удешевление стоимости железа при постоянном росте производительности. Обычно нейронная сеть проходит три жизненных этапа: обучение, деплой и инференс. Если про обучение и деплой…
Новости

t-SNE-CUDA: как визуализировать многомерные данные на GPU

t-SNE-CUDA — это оптимизированная имплементация алгоритма t-SNE на GPU. t-SNE используется для визуализации многомерных данных в 2D. t-SNE-CUDA работает в 50-700 раз быстрее предыдущих реализаций. При этом оптимизация не влияет…
Новости

Как выдавать предсказания с BERT-Large за 5.8 миллисекунд

NVIDIA обновили инструмент для ускорения инференса модели TensorRT 6. В новой версии TensorRT оптимизировали BERT-Large. BERT-Large — это полная версия модели BERT, state-of-the-art модели в обработке естественного языка. Теперь есть…
Новости

Нейросеть анализирует видео с камер во время операций

Kaliber Labs разрабатывают нейросеть, которая интерпретирует видео с камер внутри пациента во время операций. Модель определяет оперируемую область и выдает рекомендации, которые выводятся на монитор в операционной. Kaliber Labs —…
Новости

VideoGorillas используют нейросети для преобразования видео в 4К

Разработчики в VideoGorillas обучили нейросеть улучшать разрешение видео. Нейросеть конвертирует видео из 480p разрешения в 4K. Модель используется для предсказания недостающих пикселей.  За последние несколько лет стандарты видеосъемки значительно возросли.…
Фреймворки

Tensorpack: быстрый интерфейс для обучения нейросетей на TensorFlow

Tensorpack — это интерфейс для обучения нейронных моделей, который основан на TensorFlow. Обучение моделей на Tensorpack занимает в 1.2-5 раза меньше времени, чем на Keras, оригинальной высокоуровневой библиотеке на TensorFlow. …
Новости

Глубокое обучение в облаке: полный список GPU провайдеров

Использование облачных GPU для машинного обучения — один из лучших способов выполнения высокопроизводительных вычислений. Не нужно приобретать дорогостоящую аппаратуру и ПО, нанимать специалистов для обслуживания. Публикуем список облачных платформ –…
Новости

Архитектура Turing от Nvidia: что она дает и как получить максимум производительности

Архитектура Turing – одно из главных достижений в компьютерной графике за 20 лет, по заявлению самой Nvidia. Turing SDK теперь доступен для разработчиков. Дизайнеры и художники могут создавать контент с улучшенной…

Сравнение облачных GPU для машинного обучения

Результаты тестов популярных GPU для машинного обучения: Amazon AWS, Google Cloud Engine, Hetzner, Leader GPU, IBM, Paperspace. Читайте также: Глубокое обучение в облаке: полный список GPU провайдеров Тестируемые GPU платформы  В этот…

Kepler.gl — мощный инструмент визуализации карт от Uber с открытым исходным кодом

Большинство людей сходятся во мнении, что big data — набор данных, который со временем растет в геометрической прогрессии. Проще говоря, такие данные настолько объемны и сложны, что традиционные средства обработки…