Четыре концепции, предопределившие прорыв в NLP

19 февраля 2019
gpt-2 openai

Четыре концепции, предопределившие прорыв в NLP

14 февраля OpenAI выпустила новую языковую модель GPT-2 — нейросеть, которая способна генерировать логичный текст на целые страницы и выполнять другие задачи NLP. Модель оказалась настолько эффективной в задачах генерации продолжения…

OpenAI разработала NLP модель, решающую сразу несколько задач

15 февраля 2019
GPT-2

OpenAI разработала NLP модель, решающую сразу несколько задач

Компания OpenAI разработала языковую модель, которая способна решать несколько задач NLP. Изначально исследователи лишь пытались обучить GPT-2 генерировать реалистичное продолжение текста. Результаты настолько впечатляющие, что разработчики решили не выкладывать модель в…

Как использовать BERT для мультиклассовой классификации текста

14 февраля 2019
BERT для мультиклассовой классификации текста

Как использовать BERT для мультиклассовой классификации текста

Возможно, наиболее важное событие прошедшего года в NLP — релиз BERT, мультиязычной модели на основе трансформера, которая показала state-of-the-art результаты в нескольких задачах NLP. BERT — двунаправленная модель с transformer-архитектурой, заменившая…

Искусственный интеллект IBM проиграл человеку в дебатах мирового уровня

12 февраля 2019
дебаты IBM

Искусственный интеллект IBM проиграл человеку в дебатах мирового уровня

В понедельник 11 февраля состоялись дебаты между человеком и искусственным интеллектом IBM Project Debater. Дискуссия касалась субсидирования дошкольных учреждений. IBM Debater выступал «за», а его оппонент «против». В соревновании с…

BioBERT — open source модель обработки биомедицинских текстов

6 февраля 2019
biobert-model-open-source

BioBERT — open source модель обработки биомедицинских текстов

BioBERT — это доработанная модель оригинальной BERT, натренированная для обработки медицинских текстов. Её можно применять для распознавания именованных сущностей (NER), извлечение семантических связей (RE), ответов на вопросы (QA), поиска информации и…

В Microsoft обучают ИИ понимать шутки на примере новостных заголовков

25 января 2019

В Microsoft обучают ИИ понимать шутки на примере новостных заголовков

Роберт Уэст и Эрик Хорвиц сделали компьютерную игру, которая исследует, как возникает юмор. Игра показывает, как обычная фраза становится смешной на примере новостных заголовков. Игра помогла найти лексические и смысловые…

Библиотека моделей обработки языка PyText от Facebook теперь доступна open source

18 декабря 2018

Библиотека моделей обработки языка PyText от Facebook теперь доступна open source

Команда Facebook AI Research открыла исходный код PyText — библиотеки для создания моделей обработки естественного языка. Социальная сеть ежедневно применяет модели, разработанные с помощью фреймворка, для работы с миллиардами прогнозов.…

Европейский союз — лидер по количеству научных публикаций в сфере ИИ, но Китай догоняет

12 декабря 2018

Европейский союз — лидер по количеству научных публикаций в сфере ИИ, но Китай догоняет

“Китай обгонит Европу по количеству публикаций исследовательских работ в сфере искусственного интеллекта в течение следующих четырех лет, если текущие тенденции сохранятся” — говорится в отчете аналитической компании Elsevier, опубликованном в…

Как HMTL помогает улучшить итоговую точность в задачах NLP

5 декабря 2018
многозадачное обучение hmtl

Как HMTL помогает улучшить итоговую точность в задачах NLP

Да, вы правильно прочитали, это правда HMTL — модель Hierarchical Multi-Task Learning, что дословно переводится как Иерархическое многозадачное обучение. Наблюдается нарастающая волна как в NLP, так и в целом в глубоком…