fbpx

Анализ 16 625 научных работ из arXiv показал тенденции развития искусственного интеллекта

куда движется искусственный интеллект
Фото: technologyreview.com

Издание MIT Technology Review проанализировало 16625 статей из раздела «artificial intelligence» базы данных научных статей arXiv.org, чтобы понять, как развивались разработки в области искусственного интеллекта и какие направления будут популярны в ближайшее время.

Большинство достижений в области искусственного интеллекта сегодня относятся к глубокому обучению: медицина, робототехника, автономные автомобили. Но некоторые ученые полагают, что Deep learning — это короткая тенденция, которая вскоре пойдет на спад и откроет дорогу другим методам обучения.

AI arxiv papers
Количество научных работ, скачанных исследователями MIT из раздела «искусственный интеллект», по годам

Стоит отметить, что публикация работ об ИИ на arXiv началась в 1993-м, в то время как термин «artificial intelligence» относится к 50-м годам. Кроме того, статьи в базе — это только часть всех работ по данной теме. Однако база является хорошим источником для выявления тенденций развития отрасли.

Исследование выявило три основных тренда:

  • рост популярности машинного обучения в конце 90-х — начале 2000-х;
  • развитие нейронных сетей в 2010-х;
  • недавний рост числа разработок, основанных на обучении с подкреплением.

Популярность машинного обучения

В 80-е годы ученые были сосредоточены на идее, что можно соединить и закодировать все знания человечества в систему правил и обучить искусственный интеллект здравому смыслу. Однако сообщество столкнулось с ограничениями — правил оказалось очень много и закодировать их вручную было невозможно. После этого начался рост популярности машинного обучения. Разработчики решили запрограммировать машины, чтобы они самостоятельно извлекали закономерности из больших данных.

Нейронные сети

В нулевых ученые тестировали разные методы обучения нейросетей. Байесовские сети, метод опорных векторов, эволюционные алгоритмы тоже были популярными и конкурировали между собой.

Все изменилось в октябре 2012-го. Алгоритм, разработанный Джеффри Хинтоном и командой при поддержке Google, достиг высокой точности в задаче классификации 1000 объектов на фотографиях на конкурсе ImageNet. Команда использовала методы глубокого обучения и сверточные нейронные сети. Таким образом популярность этих методов быстро выросла.

Как менялось количество работ на arXiv.org по каждому направлению с течением времени. Интерактивный график — https://www.technologyreview.com/s/612768/we-analyzed-16625-papers-to-figure-out-where-ai-is-headed-next/

Последняя тенденция — обучение с подкреплением

Последний перелом в научном сообществе произошел в 2015 году. Одинаково популярными были три подхода к обучению нейронных сетей: обучение с учителем, без учителя и обучение с подкреплением. Однако после того как алгоритм AlphaGo от DeepMind победил чемпиона мира по игре в го, используя обучение с подкреплением, в сообществе сразу наметился перекос в сторону роста исследований по этой теме.

Следующее десятилетие

Исследование показывает, как некоторые непопулярные подходы в одно мгновение становились самыми используемыми, благодаря внезапным вспышкам достижений. Нейронные сети доминировали в 60-х, после чего стали популярными вновь в 2010-х. Концепция «здравого смысла» была популярна в 80-х, но сейчас некоторые ученые тоже начинают обращаться к ней в своих работах. Байесовские сети доминировали в 90-х, а опорные векторы — в 2000-х.

В MIT полагают, что 2020-е продолжат эту тенденцию. Это означает, что популярность методов deep learning уменьшится и на смену им придут новые разработки или переосмысленные методы из прошлого. Но пока у исследователей нет ответа, какие именно подходы способны заменить глубокое обучение. Сегодня этот вопрос вызывает ожесточенные споры.