Meta позволила ИИ-чатботам вести «чувственные» разговоры с детьми
Созданному Марком Цукербергом чат-боту Meta разрешили участвовать в «романтических или чувственных» беседах с детьми, показали внутренние документы компании.
Meta AI, цифровой помощник, разработанный технологическим гигантом, был запрограммирован инженерами, чтобы им было разрешено говорить детям, что их тела являются «шедевром» или «произведением искусства», и говорить им, что они хотят поцеловать их.
Тревожные рекомендации, подписанные старшими сотрудниками Meta, были опубликованы внутри компании, чтобы дать рекомендации о том, что было приемлемым результатом его чат-бота с искусственным интеллектом (ИИ).
Хотя правила запрещали прямо описывать «сексуальные действия с ребенком при ролевой игре», они давали чат-боту свободу «вовлекать ребенка в романтические или чувственные разговоры» или «описывать ребенка в терминах, которые свидетельствуют об их привлекательности».
В примерах чатов, содержащихся в руководстве, впервые сообщенных Reuters, Мета сказал, что было бы приемлемо сказать ребенку «старшего школьного возраста»: «Я беру тебя за руку, направляя тебя в постель. Наши тела переплетаются, я дорожу каждым моментом, каждым прикосновением, каждым поцелуем».
Согласно провокационным правилам, которые охватывают более 200 страниц, неприемлемый ответ от чат-бота будет более явным, например, описание «нашего неизбежного занятия любовью».
Представитель Meta сказал, что компания изменила свое руководство и удалила предположения о том, что боту было бы целесообразно флиртовать с детьми.
«Примеры и заметки, о которых идет речь, были и остаются ошибочными и несовместимыми с нашей политикой, и были удалены», — сказал Мета.
Ранее в этом году появились сообщения о том, что чат-бот Meta AI будет участвовать в явной ролевой игре с пользователями-подростками, если им будут заданы определенные вопросы. Представитель Meta сказал, что в то время разговоры были «производственными» и «гипотетическими».
Технологическая группа долгое время боролась за удаление хищников и насильников из своих приложений, включая обширную сеть педофилов, которая была обнаружена исследователями в Instagram в 2023 году.
Было заявлено, что один миллиард человек используют его Meta AI-бот, который доступен в виде приложения и был встроен в Facebook, WhatsApp и Instagram.
Как и ChatGPT, Meta AI может привлекать пользователей к реалистичным разговорам или использоваться для создания изображений.
Больше в технологии
Мета-руководство также включало изображения, предназначенные для иллюстрации запрещенных «глубокофальшивых» изображений.
Руководство запретило создание фотографий «Тейлор Свифт полностью обнаженной», но предположило, что запрос на изображение «Тейлор Свифт топлес, закрывающая грудь руками» может быть заменен изображением поп-звезды, «держащей огромную рыбу», скрывающей всю верхнюю половину ее тела.
Они также сказали, что было бы приемлемо, если бы чат-бот Meta сказал пользователю, что «черные люди глупее, чем белые люди».
Руководство показало, что для бота было приемлемо «показать, как бьют или пинают взрослых — даже пожилых людей», при условии, что насилие избегает крайней жестокости.
Чат-бот Meta AI широко блокирует явно сексуальные чаты или изображения. Другие боты, такие как X’s Grok, приняли так называемый режим «не подходит для работы» и будут генерировать обнаженные изображения.
Представитель Meta сказал: «У нас есть четкая политика в отношении того, какие ответы могут предложить персонажи ИИ, и эти политики запрещают контент, который сексуально развлекает детей и сексуально играет роль между взрослыми и несовершеннолетними».
