Популярность Lensa оказала заметное влияние на топ-чарты App Store. Возросший спрос на приложение для редактирования фото при помощи нейросетей вывел аналогичные AI-приложения на верхние строчки чарта американского App Store: в понедельник 11 декабря все три верхних строчки в категории Free занимали Lensa AI, Down — AI Avatars, AI Art — AI Generator by Aiby. На 16 декабря приложение Dawn — AI Avatars продолжает удерживать первую строчку среди всех категорий бесплатных приложений, Lensa опустилась на 6 место.
Редактор фотографий и видео Lensa AI стал вирусным после релиза функции Magic Avatars, основанной на модели Stable Diffusion с открытым исходным кодом, позволяющей пользователям превращать селфи в стилизованные портреты в виде персонажей научной фантастики, аниме или фэнтези.
Популярность Lensa AI
Lensa накопила 12,6 миллиона установок по всему миру с 1 по 11 декабря, что на 600% больше по сравнению с 1,8 миллионами установок за период с 20 по 30 ноября, согласно данным аналитической компании Sensor Tower. По оценкам, на США пришлось 3,6 миллиона новых установок в декабре.
Сейчас приложение особенно популярно в Бразилии. Из всех ноябрьских загрузок 31% приходится на Бразилию, где количество установок выросло на 24 450%.
Prisma Labs, разработчик Lensa AI, использует облачные сервисы AWS для обработки фотографий пользователей. Как только модель обучается на фотографиях пользователя, изображения немедленно удаляются.
Критика
Lensa AI подвергается критике со стороны американок, которые заметили, что женские аватары чрезмерно оголены, в то время как мужские аватары часто одеты в закрывающую всю тело одежду. Журналистка MIT Technology review Мелисса Хейкилла заметила, что 16 из 100 сгенерированных по ее запросу аватаров были топлесс, большая часть оставшихся подчеркивали или гиперполизировали ее сексуальность.
«В то время как Lensa создавала для моих коллег мужчин лестные аватары — представьте себе астронавтов, свирепых воинов и крутые обложки альбомов электронной музыки — я получила массу обнаженных тел. Из 100 созданных мною аватаров 16 были топлесс, а еще 14 я была одет в очень скудную одежду и представала в откровенно сексуальных позах» — пожаловалась Мелисса.
Lensa создает свои аватары, используя Stable Diffusion, модель искусственного интеллекта с открытым исходным кодом, которая генерирует изображения на основе текстовых подсказок. Stable Diffusion обучался при помощи open source датасета LAION-5B, который был скомпилирован путем парсинга изображений из Интернета. И поскольку Интернет переполнен изображениями обнаженных или едва одетых женщин, а также изображениями, отражающими сексистские и расистские стереотипы, набор данных также смещен в сторону таких изображений.
Stability.AI, компания, разработавшая Stable Diffusion, выпустила обновление модели в конце ноября. По словам представителя компании, обновление содержит фильтр, который Lensa, по-видимому, не использовала, поскольку он отсеивал такие результаты. Один из способов, которым Stable Diffusion 2.0 фильтрует контент, — это удаление часто повторяющихся изображений. Чем чаще что-то повторяется, например азиатские женщины в сценах сексуального характера, тем сильнее становится ассоциация в модели.
Данные обучения ИИ наполнены расистскими стереотипами, порнографией и откровенными изображениями изнасилования, как обнаружили исследователи Абеба Бирхане, Винай Удай Прабху и Эммануэль Кахембве после анализа датасета, похожего на тот, который использовался для создания Stable Diffusion. Примечательно, что их выводы были возможны только потому, что набор данных LAION доступен open source. Большинство других популярных ИИ для создания изображений, таких как Imagen от Google и DALL-E от OpenAI, не являются открытыми, но обучены с использованием аналогичных видов обучающих данных, что говорит о том, что это проблема всего сектора.
«Тот факт, что мои результаты настолько гиперсексуализированы, неудивителен,» — говорит Айлин Калискан, доцент Вашингтонского университета, изучающая предубеждения и ошибка в моделях ИИ. «Женщины ассоциируются с сексуальным контентом, а мужчины — с профессиональным контентом, связанным с карьерой в медицине, науке, бизнесе».
Женщины всё делают чтобы выглядеть более сексуальной, но недовольны когда аватар превосходит в сексуальности жалкий оригинал.
Всё верно, чем страшнее женская особь, тем больше она ненавидит красоту.