OpenAI планирует выпустить AI Erotica для ChatGPT, осуждённого Anti-Porn Group, а генеральный директор Сэм Альтман говорит: «Мы не избранная моральная полиция мира»
Технический гигант искусственного интеллекта OpenAI объявил о планах представить сексуально откровенные материалы для своего чат-бота на основе ИИ ChatGPT в конце этого года — шаг, который, по мнению консервативной правозащитной группы, рискует нанести «реальный вред психическому здоровью от синтетической близости» без соответствующих гарантий.
Национальный центр по сексуальной эксплуатации (National Center on Sexual Exploitation) опубликовал заявление, в котором призвал OpenAI отменить свой план по разрешению «эротики» на ChatGPT. Генеральный директор OpenAI Сэм Альтман (Sam Altman) заявил в посте в X вторник, что в декабре, «поскольку мы внедряем возрастные изменения более полно и в рамках нашего принципа «относитесь к взрослым пользователям как к взрослым», мы позволим еще больше [видов контента], таких как эротика для проверенных взрослых» на ChatGPT.
** Больше по версии **
По словам Альтмана, компания изначально сделала ChatGPT «довольно ограничительным, чтобы убедиться, что мы были осторожны с проблемами психического здоровья. Мы понимаем, что это сделало его менее полезным / приятным для многих пользователей, у которых не было проблем с психическим здоровьем, но учитывая серьезность проблемы, мы хотели получить это право».
Альтман продолжил: «Теперь, когда мы смогли смягчить серьезные проблемы психического здоровья и иметь новые инструменты, мы сможем безопасно ослабить ограничения в большинстве случаев». Изменение будет означать, что ChatGPT сможет «ответить очень по-человечески, или использовать тонну смайликов, или вести себя как друг» — или, очевидно, говорить с вами грязно.
NCOSE, ранее известная как Morality in Media, утверждает, что OpenAI добавляет сексуальный контент в чат-бот AI «без надежных гарантий».
«Сексуализированные чат-боты ИИ по своей сути рискованны, нанося реальный вред психическому здоровью от синтетической близости; все в контексте плохо определенных стандартов безопасности отрасли, — сказала Хейли Макнамара, исполнительный директор и главный директор по стратегии в Национальном центре сексуальной эксплуатации. — Хотя проверка возраста [OpenAI] является хорошим шагом, чтобы попытаться предотвратить воздействие явного контента в детстве, реальность такова, что эти инструменты также задокументировали вред для взрослых. Мы уже видели, что другие чат-боты, поощряемые к участию в сексуальных разговорах, имитируют темы жестокого обращения с детьми или подталкивают сексуально насильственный письменный контент на пользователей, которые просили их прекратить».
Макнамара заключил: «Если OpenAI действительно заботится о благополучии пользователей, он должен приостановить любые планы по интеграции этой так называемой эротики в ChatGPT и сосредоточиться на создании чего-то позитивного для человечества».
В своем посте в социальных сетях в среду Альтман написал, что его «твит о предстоящих изменениях в ChatGPT взорвался на эротической точке гораздо больше, чем я думал! Это должен был быть только один пример того, как мы позволяем больше свободы пользователей для взрослых». Он сказал, что OpenAI «принимает решение уделять приоритетное внимание безопасности, а не конфиденциальности и свободе для подростков» и сказал, что «мы не ослабляем никаких политик, связанных с психическим здоровьем».
Больше в бизнесе
В то же время, Альтман сказал: «Мы также очень заботимся о принципе обращения со взрослыми пользователями, как со взрослыми», добавив, что «мы не избранная моральная полиция мира. Точно так же, как общество различает другие соответствующие границы (например, фильмы с рейтингом R), мы хотим сделать здесь аналогичную вещь».
NCOSE, базирующаяся в Вашингтоне, называет себя «ведущей национальной некоммерческой организацией, разоблачающей связи между всеми формами сексуальной эксплуатации, такими как сексуальное насилие над детьми, проституция, сексуальная торговля и вред для общественного здравоохранения порнографии».
Отдельно OpenAI попала под огонь критики со стороны индустрии развлечений за свою систему видеопоколения Sora 2, которая способна производить узнаваемых персонажей фильмов и телевидения. На фоне негативной реакции Ассоциация кинофильмов призвала OpenAI принять «немедленные меры», чтобы исправить свою систему отказа от авторских прав, чтобы взять на себя бремя борьбы с нарушением авторских прав.
** Лучшее разнообразие**
Подпишитесь на новостную рассылку Variety. За последними новостями следите за нами в Facebook, Twitter и Instagram.
