Character.AI запретит детям общаться с чат-ботами
В следующем месяце AI планирует запретить детям общаться с чат-ботами на фоне растущего внимания к тому, как молодые пользователи взаимодействуют с технологией.
Компания, известная своим огромным набором персонажей ИИ, удалит возможность для пользователей в возрасте до 18 лет участвовать в «бесконечных» разговорах с ИИ к 25 ноября. Она планирует начать расширять доступ в ближайшие недели, первоначально ограничивая детей двумя часами времени чата в день.
Character.AI отметил, что планирует разработать «опыт до 18 лет», в котором подростки могут создавать видео, истории и потоки с помощью своих персонажей ИИ.
«Мы вносим эти изменения в нашу платформу до 18 лет в свете меняющегося ландшафта вокруг ИИ и подростков», — говорится в сообщении компании в блоге, подчеркивая последние новости и вопросы от регуляторов.
Компания и другие разработчики чат-ботов недавно попали под пристальное внимание после нескольких подростковых самоубийств, связанных с технологией. Мать 14-летней Сьюэлл Сетцер III подала в суд на Character.AI в ноябре прошлого года, обвинив чат-бота в том, что он довел ее сына до самоубийства.
OpenAI также сталкивается с судебным иском от родителей 16-летнего Адама Рейна, который покончил с собой после общения с ChatGPT. Обе семьи дали показания перед сенатской комиссией в прошлом месяце и призвали законодателей поставить ограждения на чат-ботов.
Федеральная торговая комиссия также начала расследование в отношении чат-ботов AI в сентябре, запросив информацию у Character.AI, OpenAI и нескольких других ведущих технологических фирм.
«После оценки этих отчетов и отзывов от регуляторов, экспертов по безопасности и родителей мы решили внести эти изменения, чтобы создать новый опыт для нашего сообщества в возрасте до 18 лет», — сказал представитель организации.
«Это экстраординарные шаги для нашей компании, и те, которые во многих отношениях более консервативны, чем наши коллеги, но мы считаем, что они являются правильными».
Помимо ограничения доступа детей к своим чат-ботам, Character.AI также планирует внедрить новую технологию обеспечения безопасности для пожилых людей и создать и финансировать новую некоммерческую организацию под названием AI Safety Lab.
На фоне растущей обеспокоенности по поводу чат-ботов, двухпартийная группа сенаторов во вторник ввела законодательство, которое запрещает спутникам ИИ для детей.
Законопроект сенаторов Джоша Хоули (R-Mo.), Ричарда Блюменталя (D-Conn.), Кэти Бритт (R-Ala.), Марка Уорнера (D-Va.) и Криса Мерфи (D-Conn.) также потребует от чат-ботов ИИ неоднократно раскрывать, что они не являются людьми, в дополнение к тому, чтобы сделать преступлением разработку продуктов, которые запрашивают или производят сексуальный контент для детей.
Больше в бизнесе
Китайский Zhipu AI наращивает продвижение к ИИ на уровне человека, подтверждает обещание с открытым исходным кодом
Губернатор Калифорнии Гэвин Ньюсом (Gavin Newsom) подписал аналогичную меру в конце прошлого месяца, требуя от разработчиков чат-ботов в штате Голден создать протоколы, препятствующие их моделям создавать контент о самоубийстве или самоповреждении и направлять пользователей в кризисные службы, если это необходимо.
Он отказался одобрить более строгие меры, которые запрещали бы разработчикам делать чат-боты доступными для детей, если они не могли бы гарантировать, что они не будут участвовать в вредных дискуссиях с детьми.
- Авторское право 2025 Nexstar Media, Inc. Все права защищены. Этот материал не может быть опубликован, передан, переписан или перераспределен.*
Для получения последних новостей, погоды, спорта и потокового видео отправляйтесь в The Hill.
