Европейский союз завершает работу над «Законом об искусственном интеллекте» (AI Act), который станет первым в мире всесторонним нормативным актом, регулирующим использование ИИ. Европейский парламент принял проект закона большинством голосов: 499 «за», 28 «против» и 93 воздержавшихся. В Законе прописаны обязательства для поставщиков моделей, таких как OpenAI и Google, его планируют принять до конца 2023 года.
Кратко о положениях закона
Акт представляет собой 349-страничный документ, в нем описаны цели регулирования, интеграция в актуальную правовую систему и в требования к производителям моделей ИИ.
Уровни риска
Все модели будут поделены на категории соответсвующие 4 уровням риска:
- незначительный (ИИ в играх, спам-фильтры) — никаких новых ограничений не предусматривается;
- ограниченный (генеративные модели: чат-боты, дипфейк-модели, создание изображений) — от разработчиков потребуется уведомлять пользователей, что они взаимодействуют с ИИ, а не с живым человеком, и раскрыть данные об используемых данных для обучения моделей;
- высокий (беспилотные автомобили, медицина, рекрутмент, юриспруденция, образование) — вводится прозрачная экспертная оценка рисков, допускается использование только одобренных датасетов, обязательное ведение журналов действий модели, предоставление полной документации и обеспечение ясной информации для пользователей.
- неприемлемый (social-scoring) — Китайская система выставления баллов за «правильное» поведение в обществе и подобные ей не будут допускаться для использования в Евросоюзе.
Последствия для разработчиков ИИ
Все разработчики моделей ИИ будут обязаны:
- пройти регистрацию: поставщики ИИ, особенно те, которые классифицируются как высокорисковые, должны пройти процесс обязательной регистрации для работы в Евросоюзе;
- обеспечить прозрачность и надежность: пользователи должны быть информированы о том, что имеют дело с ИИ, и иметь возможность контролировать их данные и решения.
- защищать права и безопасность граждан: предотвращать дискриминацию и неправомерное вмешательство в частную жизнь. Он также ставит задачу гарантировать безопасность искусственного интеллекта и предотвращать злоупотребление.
- платить штрафы за нарушения: в случае несоблюдения требований, штрафы могут превысить 20 000 000 евро или составить 4% годовой выручки компании по всему миру.
Насколько далеки разработчики от выполнения требований
Исследователи Стэнфордского университета оценили десять ведущих языковых моделей с точки зрения соответствия 12 основным требованиям, установленным проектом Закона об искусственном интеллекте ЕС. Большинство моделей набрали менее 50% необходимых баллов.
Модели с закрытым исходным кодом, такие как GPT-4 от OpenAI, набрали всего 25 из возможных 48 баллов. Модель PaLM 2 от Google показала результат 27 баллов, в то время как Command LLM от Cohere получила всего 23 балла. Claude от Anthropic занимает предпоследнее место с 7 баллами.
Модель с открытым исходным кодом BLOOM от Hugging Face показала лучший результат, набрав 36 баллов. Однако другие open source модели, такие как LLaMA и Stable Diffusion v2, набрали всего 21 и 22 балла соответственно.
Вывод
Из общих результатов выявилась заметная тенденция: модели с открытым исходным кодом в целом превосходят модели с закрытым исходным кодом в прозрачности источников данных и использования энергоресурсов. Модели с закрытым исходным кодом показывают лучшее соответствие требованиям о предоставлении полной документации и контроля рисков.
Исследователи предупреждают, что недостаток технической экспертизы может помешать ЕС эффективно регулировать модели.
Несмотря на эти опасения, исследователи выступили за внедрение «Закона об искусственном интеллекте» в ЕС. Они аргументируют, что это «стимулирует создателей ИИ коллективно установить стандарты отрасли, которые повысят прозрачность» и приведут к «позитивным изменениям в экосистеме фундаментальных моделей».
