Издание MIT Technology Review проанализировало 16625 статей из раздела «artificial intelligence» базы данных научных статей arXiv.org, чтобы понять, как развивались разработки в области искусственного интеллекта и какие направления будут популярны в ближайшее время.
Большинство достижений в области искусственного интеллекта сегодня относятся к глубокому обучению: медицина, робототехника, автономные автомобили. Но некоторые ученые полагают, что Deep learning — это короткая тенденция, которая вскоре пойдет на спад и откроет дорогу другим методам обучения.
Стоит отметить, что публикация работ об ИИ на arXiv началась в 1993-м, в то время как термин «artificial intelligence» относится к 50-м годам. Кроме того, статьи в базе — это только часть всех работ по данной теме. Однако база является хорошим источником для выявления тенденций развития отрасли.
Исследование выявило три основных тренда:
- рост популярности машинного обучения в конце 90-х — начале 2000-х;
- развитие нейронных сетей в 2010-х;
- недавний рост числа разработок, основанных на обучении с подкреплением.
Популярность машинного обучения
В 80-е годы ученые были сосредоточены на идее, что можно соединить и закодировать все знания человечества в систему правил и обучить искусственный интеллект здравому смыслу. Однако сообщество столкнулось с ограничениями — правил оказалось очень много и закодировать их вручную было невозможно. После этого начался рост популярности машинного обучения. Разработчики решили запрограммировать машины, чтобы они самостоятельно извлекали закономерности из больших данных.
Нейронные сети
В нулевых ученые тестировали разные методы обучения нейросетей. Байесовские сети, метод опорных векторов, эволюционные алгоритмы тоже были популярными и конкурировали между собой.
Все изменилось в октябре 2012-го. Алгоритм, разработанный Джеффри Хинтоном и командой при поддержке Google, достиг высокой точности в задаче классификации 1000 объектов на фотографиях на конкурсе ImageNet. Команда использовала методы глубокого обучения и сверточные нейронные сети. Таким образом популярность этих методов быстро выросла.
Последняя тенденция — обучение с подкреплением
Последний перелом в научном сообществе произошел в 2015 году. Одинаково популярными были три подхода к обучению нейронных сетей: обучение с учителем, без учителя и обучение с подкреплением. Однако после того как алгоритм AlphaGo от DeepMind победил чемпиона мира по игре в го, используя обучение с подкреплением, в сообществе сразу наметился перекос в сторону роста исследований по этой теме.
Следующее десятилетие
Исследование показывает, как некоторые непопулярные подходы в одно мгновение становились самыми используемыми, благодаря внезапным вспышкам достижений. Нейронные сети доминировали в 60-х, после чего стали популярными вновь в 2010-х. Концепция «здравого смысла» была популярна в 80-х, но сейчас некоторые ученые тоже начинают обращаться к ней в своих работах. Байесовские сети доминировали в 90-х, а опорные векторы — в 2000-х.
В MIT полагают, что 2020-е продолжат эту тенденцию. Это означает, что популярность методов deep learning уменьшится и на смену им придут новые разработки или переосмысленные методы из прошлого. Но пока у исследователей нет ответа, какие именно подходы способны заменить глубокое обучение. Сегодня этот вопрос вызывает ожесточенные споры.
