SPPL — open-source язык вероятностного программирования, разработанный в MIT и нацеленный на точную оценку степени предвзятости искусственного интеллекта в отношении определенных групп людей. SPPL реализован на Python и в 3000 раз быстрее предыдущих систем оценки предвзятости ИИ.
Алгоритмы ИИ оказывают все более глубокое влияние на жизнь людей: они используются для принятия решений о выдаче кредитов, при найме на работу и даже при определении величины залога в судах. Одной из ключевых проблем, с которой сталкиваются разработчики данных алгоритмов — предвзятость ИИ, например, в отношении цветных людей и людей с низким уровнем дохода.
Sum-Product Probabilistic Language (SPPL) представляет собой систему вероятностного программирования. Языки вероятностного программирования облегчают программистам определение вероятностных моделей и выполнение вероятностного анализа, то есть выявляют вероятные объяснения наблюдаемых данных. SPPL оптимизирована для определенного класса моделей и может предоставлять решения в 3000 раз быстрее, чем аналогичные системы.
Разработчики приводят следующие примеры запросов к SPPL:
- Какова вероятность того, что данная модель порекомендует кредит кому-то старше 40 лет?
- Сформируйте профили 1000 претендентов, чья кредитная заявка будет удовлетворена с вероятностью 100%.
- Существует ли разница между вероятностью получения кредита иммигрантом и не иммигрантом с одинаковым социально-экономическим статусом?
- Какова вероятность найма кандидата с учетом того, что (а) его компетенции удовлетворяют требованиям и (б) он входит в непредставленную в организации группу.
Особенностью SPPL является высокая точность оценок, достигнутая за счет ограничения класса поддерживаемых моделей ИИ (в частности, он не может анализировать нейросети). Тем не менее, SPPL поддерживает все ключевые алгоритмы для принятия решений, включая классификатор «дерево решений».
