Все статьи

Архитектуры

NBDT: интерпретируемые нейронные деревья решений

NBDT — это нейросетевая архитектура деревьев решений для задач классификации. Модель объединяет в себе интерпретируемость классического алгоритма дерева решений с качеством предсказаний современных нейросетей. Разработчики тестировали модель на задаче классификации…
State-of-the-art

Switch Transformers: Transformer-модель с триллионом параметров

Switch Transformers — это архитектура Transformer-модели с триллионом параметров. Модель разрабатывали в Google Brain. MoE модели с набором экспертов  В глубоком обучении модели обычно переиспользуют одни и те же параметры…
Фреймворки

Robustness Gym: инструмент для оценки стабильности NLP-моделей

Robustness Gym — это открытая библиотека для оценки стабильности NLP-моделей. Библиотека объединяет и унифицирует 4 аспекта устойчивости моделей: субпопуляция, трансформации, тестовые наборы данных и состязательные атаки. Robustness Gym позволяет исследователям…
Фреймворки

Ecco: библиотека для визуализации обученных Transformer-моделей

Ecco — это библиотека для визуализации обученных Transformer-моделей. Библиотека позволяет визуализировать важность каждого прошлого слова при предсказании текущего и активации нейронов в модели. https://www.eccox.io/static/ecco_saliency.mp4 Transformer-модели в обработке естественного языка Архитектура…
State-of-the-art

DALL-E: генерация изображений по описанию от OpenAI

OpenAI опубликовали DALL-E — нейросетевую модель для генерации изображения по текстовому описанию. Архитектура DALL-E основывается на GPT-3, Transformer генеративной модели от OpenAI. Модель принимает на вход предложение с описанием целевого…
Новости

Soft-IntroVAE: генерация стабильных и реалистичных изображений

Soft-IntroVAE — это улучшенная версия глубокого вариационного автоэнкодера IntroVAE. Soft-IntroVAE генерирует более стабильные и реалистичные изображения в сравнении с IntroVAE. Модель предложили исследователи из университета Technion. Кроме повышения стабильности автоэнкодера,…
Фреймворки

CML: библиотека для непрерывной интеграции ML проектов

CML (Continuous Machine Learning) — это библиотека для непрерывной интеграции и доставки (CI/CD) проектов машинного обучения. Библиотеку разрабатывали создатели DVC, открытой библиотеки для версионирования ML моделей и экспериментов.  Совместно с DVC,…
State-of-the-art

FAIR выложили state-of-the-art модель разделения голосов на аудио

Исследователи из FAIR опубликовали имплементацию state-of-the-art голосовой модели, которая способна разделять до 5 голосов на аудиозаписи разговора. Прошлые методы разделения голосов на аудиозаписи были ограничены максимум двумя спикерами. Предложенная модель…
Датасеты

HateXplain: датасет для интерпретируемого распознавания хейтспича

HateXplain — это датасет для обучения моделей распознавания оскорблений в тексте. Датасет собирали исследователи из Indian Institute of Technology и University of Hamburg. Датасет разрабатывали так, что бы учитывать метрики…
Фреймворки

MMTracking: опенсорсная библиотека для обработки видео на PyTorch

MMTracking — это опенсорсная библиотека для обработки видео на PyTorch. Библиотека является частью проекта OpenMMLab. Особенности библиотеки Среди ключевых преимуществ библиотеки разработчики отмечают: унифицированную платформу для обработки видео, модульный дизайн,…
Датасеты

MeDAL: датасет для расшифровки медицинских аббревиатур

MeDAL — это датасет для расшифровки медицинских аббревиатур. Датасет собирали для предобучения моделей обработки естественного языка для медицинского домена. Данные опубликовали на воркшопе ClinicalNLP на конференции EMNLP. По результатам экспериментов,…
State-of-the-art

LambdaNetworks: новая архитектура для задач компьютерного зрения

LambdaNetworks — это нейросетевая архитектура, которая способна захватывать длительные зависимости между входными данными и контекстуальной информацией. Например, пиксель, окруженный другими пикселями. Итоговая архитектура LambdaNetwork требует меньше вычислительных ресурсов и является…
Новости

GraphTransformer: расширение языковой модели для графов

GraphTransformer — это расширение Transformer языковой модели для графовых данных. Зачем это нужно Оригинальный трансформер разрабатывали для обработки естественного языка. Стандартная модель работает с полносвязными графами, которые представляют связи между…
Датасеты

RECCON: датасет для распознавания причины эмоций в тексте

RECCON — это датасет для распознавания причины эмоций в тексте. Создатели предлагают две задачи, которые можно решать с помощью датасета: извлечение каузальных диапазонов в тексте и извлечения каузального следствия эмоции.…
Новости

Нейросеть обучается генерировать изображения за несколько часов

Легковесная GAN — это генеративно-состязательная нейросеть, которая выучивается генерировать изображения в разрешении 1024×1024 за несколько часов на одной RTX-2080 GPU. При этом модель выдает стабильные по качеству результаты, даже если…
State-of-the-art

Нейросеть меняет фон на изображении в высоком разрешении

Исследователи из University of Washington опубликовали нейросетевую модель, которая заменяет задний фон на фотографии. Модель выдает итоговые изображения со скоростью 30 кадров в секунду для разрешения 4K и 60 кадров…
Новости

MPG: GAN генерирует изображения пиццы на основе лейблов

MPG — это GAN модель для условной генерации изображений на основе нескольких лейблов. Архитектура MPG основывается на state-of-theart GAN модели StyleGAN2.  Зачем это нужно  Условная генерация изображений на основе нескольких…
State-of-the-art

Нейросеть генерирует динамические сцены на основе видео

Исследователи из Cornell Tech и Adobe Research опубликовали нейросетевую модель, которая генерирует динамические сцены на основе видеозаписей. Модель принимает на вход видео, снятое с одного ракурса. На выходе модель отдает…
Новости

End-to-end нейросеть для детектирования объектов на изображении

Исследователи из Megvii Technology и Xi’an Jiaotong University предложили архитектуру end-to-end сверточного детектора объектов, который не использует NMS. Реализация модели доступна в открытом репозитории на GitHub. NMS в прошлых моделях…
Новости

ReBeL: RL-агент от FAIR для игры в шахматы, покер и Go

Исследователи из Facebook AI разработали универсальную модель, которая играет в шахматы, покер и Go. ReBeL — это вероятностная модель, которая объединяет в себе обучение с подкреплением и поиск при поиске…
Новости

Rel3D: датасет с разметкой пространственных отношений в 3D

Rel3D — это крупномасштабный датасет с разметкой пространственных отношений в 3D. Сборкой датасета занимались исследователи из University of Michigan и Princeton University. Проблема существующих датасетов Существующие датасеты с разметкой 3D отношений…