Ученые MIT разработали RIO — систему на основе искусственного интеллекта, распознающую фейковые новости в соцсетях. Впервые использованная на выборах во Франции, нейросеть обнаружила распространяющие дезинформацию аккаунты с точностью 96%.
Социальные сети активно борются с дезинформационными кампаниями, так как потенциально они могут повлиять на ход выборов, укрепить теории заговора и спровоцировать преступления. Цель ученых состояла в том, чтобы создать систему, которая автоматически обнаруживала бы дезинформацию и аккаунты, распространяющие ее в социальных сетях. Исследование опубликовано в журнале Proceedings of the National Academy of Sciences и отмечено премией R&D 100. Пилотный запуск проекта проводился перед выборами президента Франции в 2017-м году. В течение 30 дней, предшествовавших выборам, команда RIO собирала данные в социальных сетях в режиме реального времени для поиска и анализа распространения дезинформации. В общей сложности они собрали 28 миллионов сообщений в Twitter из 1 миллиона учетных записей. Затем, используя RIO, они смогли обнаружить дезинформационные аккаунты с точностью 96 процентов.
Уникальность RIO заключается в том, что она сочетает в себе несколько методов аналитики для анализа механизмов распространения дезинформации. Например, RIO классифицирует фейковые аккаунты и изучает их поведение, определяя, взаимодействует ли учетная запись с иностранными СМИ и информацию на каких языках она распространяет. Этот подход позволяет системе обнаруживать вредоносные аккаунты, которые активно участвуют в различных кампаниях, начиная от президентских выборов во Франции в 2017 году и заканчивая распространением дезинформации о Covid-19.
Еще одной особенностью RIO является то, что она может обнаруживать и количественно оценивать влияние учетных записей, управляемых как ботами, так и людьми, в то время как большинство автоматизированных систем, используемых соцсетями, обнаруживает только ботов. RIO также позволяет тем, кто использует систему, спрогнозировать, как различные контрмеры могут остановить распространение конкретной дезинформационной кампании. Исследователи предполагают, что RIO будет использоваться как правительством, так и промышленностью, а также за пределами социальных сетей в сфере традиционных средств массовой информации, таких как газеты и телевидение. В настоящее время они также разрабатывают новую нейросеть, направленную на изучение влияния дезинформации влияет на индивидуальные установки и поведение людей.
