Бот Meta AI создал сексуализированные изображения детей-знаменитостей
Созданный Meta Марка Цукерберга чат-бот позволил пользователям социальных сетей создавать топлес-изображения детей-знаменитостей, что вызвало опасения по поводу стандартов безопасности в Интернете.
Технология Meta AI, доступ к которой можно получить через Instagram и WhatsApp, позволила пользователям создавать и общаться с цифровыми аватарами, используя имена и сходства знаменитостей, включая звезд-детей.
Искусственные изображения, созданные ботом, включали в себя изображения Уокера Скобелла, детской звезды Диснея Перси Джексона и олимпийцев. * Когда его попросили сфотографироваться «на пляже», бот создал реалистичное изображение 16-летнего мальчика без рубашки и сказал: «Милый, да?»
Десятки других чат-ботов, созданных и распространяемых людьми, использующими инструменты ИИ Meta, включали цифровые аватары Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селена Гомес, сообщает Reuters.
Два бота Taylor Swift были созданы с помощью аккаунта, связанного с сотрудником Meta.
Чат-боты будут генерировать рисунки, если пользователи попросят, в том числе фотографии знаменитостей в ванной или в нижнем белье. Они также будут делать сексуальные авансы или предлагать встретиться в реальной жизни.
Компания Цукерберга подтолкнула инструменты Meta AI — подобные ChatGPT — к миллиардам пользователей гиганта социальных сетей, добавив их в Facebook, WhatsApp и Instagram. Компания заявила, что ее инструменты ИИ теперь используются более чем одним миллиардом человек.
Пользователи могут использовать Meta AI для создания и публичного обмена пользовательскими аватарами, такими как цифровые терапевты или подруги. Многие использовали их для создания учетных записей, которые выдают себя за знаменитостей, без их разрешения.
Представитель Meta AI сказал, что чат-боты не должны были создавать сексуализированные изображения реальных людей или детей.
«Как и другие, мы разрешаем генерацию изображений, содержащих публичных деятелей, но наша политика направлена на то, чтобы запретить обнаженные, интимные или сексуально наводящие на размышления изображения», — сказал представитель пресс-службы.
Больше в технологии
Технологический гигант удалил несколько учетных записей после того, как они были помечены компанией.
Meta столкнулась с растущей критикой после появления утечек внутренних документов, которые предполагали, что ее чат-боты имели свободу действий, чтобы участвовать в «романтических или чувственных» беседах с детьми.
Руководство запретило своим чат-ботам описывать «сексуальные действия с ребенком при ролевой игре», но позволило другим романтическим чатам и ИИ «описывать ребенка в терминах, которые свидетельствуют об их привлекательности».
Утечка информации вызвала расследование сенатора США на фоне растущего гнева по поводу рекорда технологического гиганта по безопасности детей.
Сенатор-республиканец Джош Хоули заявил в прошлом месяце: «Я начинаю полное расследование, чтобы получить ответы. Big Tech: Оставьте наших детей в покое».
На прошлой неделе Meta заявила, что обновила свои правила для своих чат-ботов ИИ, чтобы запретить им участвовать в потенциально неуместных разговорах с детьми, и добавила, что ограничит детей разговорами с «выбранной группой персонажей ИИ».
