1 Еще фото
ИИ "раздевает" женщин на фотографиях в сети без их ведома и согласия
(Фото из отчета исследовательской компании "Графика")
Популярность онлайн-сервисов, которые позволяют пользователям "раздевать" женщин с помощью инструментов искусственного интеллекта (ИИ), стремительно растет: в сентябре 2023 года более 24 млн человек посетили 34 сайта, предлагающих эти услуги. Об этом стало известно из отчета исследовательской компании "Графика". Подробности сообщает сайт Ynet.
Речь идет о сайтах, позволяющих пользователям загружать фотографии женщин и с помощью ИИ переделывать их так, будто женщины сфотографированы обнаженными. Это не новое явление: еще в 2019 году было запущено предлагающее подобную услугу приложение DeepNude, но после скандала его удалили. Теперь ему на смену пришел усовершенствованный в последние годы ИИ, который тоже умеет создавать изображения ню, причем выглядят они абсолютно реалистично.
Технология со временем не только улучшилась, но и стала гораздо более доступной: многие модели ИИ предлагаются с открытым исходным кодом, который позволяет теневым поставщикам услуг легко и дешево внедрять их в свои продукты, не трудясь над разработками собственных расширенных возможностей ИИ. Без этих поставщиков, говорится в отчете, пользователям пришлось бы размещать, поддерживать и запускать собственные модели ИИ, а это процесс "потенциально дорогостоящий и трудоемкий".
Последствия этой тенденции заставляют волноваться. Согласно отчету, создание синтетических обнаженных фотографий без согласия субъектов - почти всегда женщин, а на некоторых сервисах и обнаженных фото мужчин - превратилось из услуги нишевых онлайн-форумов в крупномасштабный онлайн-бизнес, использующий множество ресурсов для монетизации и маркетинга.
В отчете говорится, что в 2023 году в социальной сети X (в прошлом Twitter) и на платформе форума Reddit было размещено более 32.000 ссылок, переводящих на 34 веб-сайта и 52 Telegram-канала, которые предлагают пользователям услуги по раздеванию женщин с помощью ИИ. То есть их количество выросло более чем на 2400% по сравнению с 2022 годом.
Как и многие онлайн-компании, эти сайты размещают рекламу в соцсетях и используют инфлюэнсеров для продвижения своих продуктов. Некоторые не скрывают, что их цель - позволить пользователям создавать поддельные изображения обнаженных женщин с помощью ИИ и даже отображать размытые изображения женщин в своей рекламе. В одном из объявлений даже представлен вызывающий беспокойство сценарий, когда пользователь создает обнаженную фотографию женщины и отправляет ей это фото. Другие сайты позиционируют себя как сервисы "искусства ИИ" или "Web3-галерей", но их аккаунты и посты содержат терминологию, связанную с сервисами по созданию синтетических обнаженных фотографий.
Многие из этих сервисов работают по модели freemium - сочетание слов free (свободный) и premium (премиум), - предлагая пользователям создать несколько изображений бесплатно, но требуя оплаты за дополнительные изображения или расширенные функции. Цены варьируются от 2 долларов за одно изображение до 10 долларов за ежемесячную подписку и до 300 долларов за расширенный доступ к интерфейсу прикладного программирования (API) сервиса.
Составители отчета предупреждают, что популярность и доступность этих услуг ИИ может нанести еще больший ущерб, например, посредством создания целевых кампаний домогательств, сексуального шантажа и педофильского контента.
►Многие женщины даже не подозревают о своих фото ню в сети
Эва Гальперин, директор по кибербезопасности в Electronic Frontier Foundation - некоммерческой организации, которая помогает защищать цифровые права, рассказала новостному сайту Bloomberg, что многие женщины даже не знают, что созданные пользователями их поддельные обнаженные фотографии распространяются в сети. Тем, кто узнает об этом, трудно убедить власти расследовать эти дела или самостоятельно финансировать судебные иски. Гальперин заявляет, что использование онлайн-сервисов для создания поддельных обнаженных фотографий уже широко распространено в средних школах и колледжах США.
В ноябре 2023 года издание Wall Street Journal сообщило, что ученики средней школы "Уэстфилд" в Нью-Джерси распространяли поддельные обнаженные фотографии своих одноклассниц, созданные с помощью ИИ. Инцидент вызвал скандал: некоторые родители заявили, что их дочери чувствовали себя униженными и беспомощными из-за этого и боялись, что их синтетические фотографии будут "гулять" в сети и навредят им в дальнейшей жизни. Полиция приступила к расследованию этого дела.
В США нет федерального закона, запрещающего создание порнографических изображений с помощью ИИ, хотя закон запрещает создание таких фото с изображением несовершеннолетних. В ноябре 2023 года Дэвид Татум, 41-летний детский психолог из Северной Каролины, был приговорен к 40 годам тюремного заключения за сексуальную эксплуатацию несовершеннолетних и использование ИИ для создания детской порнографии.
Перевод: Анастасия Тадсон