Локальные модели

llama.cpp 1.0.0: первый стабильный API и новые возможности для локального запуска моделей

На Hugging Face вышла llama.cpp 1.0.0 — первая стабильная версия приложения для локального запуска моделей. Новый API позволит понять, может ли обновление сломать работу приложения, по номеру версии. Теперь несовместимые…
State-of-the-art

DTM: новая аппаратная архитектура снижает энергопотребление до 10000 раз по сравнению с GPU

Исследователи из Extropic Corporation представили эффективную аппаратную архитектуру для вероятностных вычислений, основанную на Denoising Thermodynamic Models (DTM). Анализ показывает, что устройства на базе этой архитектуры могут достичь паритета производительности с…
Фреймворки

Metaflow: фреймворк для управления data science проектами от Netflix

Netflix опубликовали фреймворк на Python для создания и управления data science проектов. Metaflow представляет собой API к инфраструктуре для запуска ML пайплайнов: от прототипирования до внедрения в продукт. Библиотека была…
Новости

Какие ошибки чаще всего совершают при обучении нейросетей

Исследователи из USI выделили основные проблемы, с которыми сталкиваются разработчики при обучении нейросетей. Выборка состояла из 1059 проблем и коммитов ML-репозиториев на GitHub, которые были вручную проанализированы. Чтобы валидировать выделенный…
Новости

Gradient: инструмент для обучения ML моделей на GPU

Компания Paperspace опубликовала инструмент для обучения ML алгоритмов на бесплатных GPU. Gradient Community Notebooks — это бесплатный облачный GPU сервис, который основан на Jupyter ноутбуках.  Настройка и поддержка окружения для…
Фреймворки

Как упорядочить работу с моделями машинного обучения

MLFlow, DVC и Sacred — это три инструмента для поддержки воспроизводимости моделей машинного обучения. Каждый из них решает отдельные задачи. DVC приоритезирует воспроизводимость моделей простоте использования. MLFlow используется  для проверки…
Фреймворки

CrypTen: инструмент для обучения моделей на зашифрованных данных

CrypTen — это обертка над PyTorch для обучения нейросетевых моделей на зашифрованных данных. Это снимает ограничения в использовании PyTorch в задачах, где секретность данных приоритетна. Несмотря на прогресс в обучении…
Новости

Sotabench: платформа с лучшими моделями для отдельных задач

Sotabench — это платформа для агрегации и ранжирования моделей, которые решают отдельные задачи. Любой желающий может проверить свою модель на доступных задачах и сравнить с остальными моделями. На текущий момент…
Фреймворки

Hydra: фреймворк для разработки приложений Python

FAIR опубликовали фреймворк для разработки приложений на Python — Hydra. Python является наиболее популярным языком для обучения нейросетевых моделей. Hydra может быть полезен для прототипирования приложений с использование нейросетей. В…
Фреймворки

Популярность PyTorch в среднем выросла на 243% за год

Исследователи из The Gradient опубликовали сравнительное исследование популярности фреймворков PyTorch и TensorFlow. Исследование основывается на данных крупных ML-конференций: CVPR, NAACL, ACL, ICLR, ICML и др. Использование PyTorch в среднем выросло…
Новости

HuggingFace опубликовали библиотеку с трансформерами для TF

Transformers 2.0 — это библиотека со всеми state-of-the-art моделями для предобработки естественного языка на TensorFlow. Использование библиотеки позволяет сократить количество строк кода для обучения модели до 3-х. Разработчиками библиотеки являются…
Новости

Как выдавать предсказания с BERT-Large за 5.8 миллисекунд

NVIDIA обновили инструмент для ускорения инференса модели TensorRT 6. В новой версии TensorRT оптимизировали BERT-Large. BERT-Large — это полная версия модели BERT, state-of-the-art модели в обработке естественного языка. Теперь есть…
Новости

ABlaze: как проводят A/B тесты в Netflix

ABlaze — это проприетарный фреймворк для проведения A/B тестов. Netflix рассказали, как в компании работает система аналитики. Перед внедрением ML-моделей в продукт компании оценивают с помощью A/B тестов, как модель…
Новости

Google открыли разработку компилятора для ML-моделей

Google отдают разработку инфраструктуры для обучения ML-моделей организации open-source разработчиков LLVM Foundation. Ранее Google анонсировали MLIR, компилятор для внедрения ML-моделей в приложения. MLIR позволяет исполнять модели на разных устройствах. Компания…