Эксперты Всемирного Экономического Форума обеспокоены гендерным неравенством в сфере разработки искусственного интеллекта. Сможет ли он отражать позиции и потребности большинства людей, если его создают преимущественно мужчины?
ИИ все больше проникает в разные сферы человеческой жизни: транспорт, здравоохранение, сельское хозяйство, торговля, производство. По данным доклада ВЭФ от 17 декабря, в США продолжает наблюдаться кадровый разрыв в сфере исследований искусственного интеллекта — женщины занимают меньше четверти рабочих мест.
«Критически важно, чтобы люди, которые создают искусственный интеллект, представляли население в целом» — подчеркивает Кей Ферт-Баттерфилд, глава подразделения ВЭФ по ИИ и машинному обучению. Эксперт отмечает, что предвзятость может повлиять на процессы создания и работы алгоритмов, потому что они не будут отражать потребности всего населения.
По данным аналитиков гендерный разрыв в сфере ИИ в три раза больше, чем в других отраслях. Женщины с меньшей вероятностью будут занимать высокие руководящие должности. И такое несоответствие имеет реальные последствия.
Как пример можно привести чат-бота Tay, запущенного Microsoft в 2016 году. Эксперимент по диалоговому обучению в Twitter закончился неудачно: пользователи стали писать в комментариях расистские и женоненавистнические высказывания, которые бот вскоре начал повторять. А недавно разработчики Google выпустили новую функцию в Gmail, которая помогает подбирать слова и целые фразы для завершения предложений. Алгоритм делал необъективные предположения в отношении местоимений, например, предлагая к слову «медсестра» (анг. — nurse) только местоимение «она». В итоге Google пришлось отказаться от использования гендерных местоимений в SmartCompose, чтобы избежать предвзятости.
Ферт-Баттерфилд также указала на тот факт, что самые популярные виртуальные помощники из Apple, Amazon и Google обладают женским голосом и предназначены для обслуживания и приема заказов. Это связано с тем, что в колл-центрах большинство работников — все еще женщины, и разработчики повторяют этот стереотип.
Изменение соотношения в отрасли потребует активных мер. Гендерное разнообразие команд улучшает результаты работы. Если разные люди будут создавать ИИ, это будет лучше отражать общество и его потребности.
