Искусственный интеллект — источник развития и перспектив для четвертой промышленной революции, говорится в совместном докладе Intel и MIT.
Ученые полагают, что пришел тот момент, когда нужно тщательно продумать будущее ИИ. Как с ним взаимодействовать? Должен ли он подчиняться законам? Как оценивать качество его работы?
Основное внимание в докладе MIT уделяется тому, как искусственный интеллект, автономные автомобили и интернет вещей (Internet of Things, IoT) повлияют на общество.
Читайте: Беспилотные автомобили — насколько мы далеки от полной автономности?
Женевьева Белл, почетный профессор Австралийского Национального Университета, разбивает возникающие вопросы на 5 категорий по поводу ИИ:
Автономность: Будут ли системы полностью автономными и должны ли?
Управление: Кто будет устанавливать правила, контролировать и обеспечивать их выполнение?
Правовые вопросы: Безопасность, риски, ответственность, конфиденциальность и этика — как это будет регулироваться с юридической точки зрения?
Метрики: Как будет измеряться эффективность?
Взаимодействие: Как будет происходить взаимодействие с людьми?
Автономность
Автономность — это действия без прямой отсылки к набору правил. Когда человек слышит выражение «полная автономность», складывается впечатление, что этот ИИ разумный и сознательный и может сам себя обеспечить. В действительности ИИ может работать полностью автономно даже не будучи разумным и сознательным.
Управление
Ученые полагают, что ИИ должен подчиняться тем же правилам, что и человек. «Общество не должно отказываться от преимуществ, которые дает ИИ, только потому что компании будут чувствовать ответственность» — отмечает Гвидо Жоретт, директор по цифровым технологиям в ABB.
Человек тоже совершает ошибки, поэтому не следует требовать от ИИ безошибочной работы. Для каждого правила есть исключения. Белл приводит в пример ситуацию, когда беспилотный автомобиль должен съехать с дороги, чтобы пропустить пожарную машину или скорую помощь. Подобных ситуаций много и их сложно предвидеть.
Ещё один нерешенный вопрос: как общие правила будут работать в разных странах, на разных континентах в условиях разных культур?
Страховые случаи с участием ИИ
Правовые вопросы, такие как риск, ответственность, конфиденциальность и этика тоже важны. Ученые говорят не только об управлении и регулировании ИИ, как части общества, но даже о страховании.
Как страховые компании будут работать с ИИ? Поездки на автономных автомобилях и в летательных аппаратах потребуют свода новых юридических правил.
Метрики качества
Нужны показатели, которые измеряют эффективность работы ИИ. Сэкономил ли он время или деньги, насколько разработка безопасна?
Важные метрики касаются обучающих данных. От данных зависит эффективность работы всей системы. Размер и качество наборов данных оказывает очевидное влияние на точность результата. Как понять, насколько данные хороши? Как они были собраны? Насколько предвзятую информацию они могут содержать?
Взаимодействие с людьми
Взаимодействие с системами, управляемыми ИИ, может быть непривычным для человека. Умные здания с лифтами без кнопок, которые управляются голосовыми командами, управление освещением и отоплением без стандартных переключателей, управление в автономных автомобилях — необходимо создать простые интуитивно понятные интерфейсы и способы взаимодействия.
Выводы
Ученые полагают, что нужно определять безопасность и этичность ИИ, измерять его эффективность и определить способы взаимодействия с ним. Должны быть определены критические ситуации, в которых ИИ будет передавать управление человеку.
AAAI/ACM Conference
В конце января в США прошла конференция AAAI/ACM Conference on Artificial Intelligence, Ethics and Society. На ней обсуждались вопросы этики в контексте искусственного интеллекта и регулирование ИИ.
Некоторые из рассмотренных тем:
- Роботы-убийцы и человеческое достоинство.
- Не только белые и темнокожие: расовая предвзятость в контексте роботов.
- Могут ли боты лгать?
- На перекрестке: автономные транспортные средства и альтернативные схемы компенсации жертвам.
- Восприятие бытовых роботов в разных культурах.
Эти и другие доклады исследователей можно найти на странице конференции.
