Игрушки ИИ учат детей разжигать пожары и участвовать в переговорах NSFW
** Чатботы ИИ** стали обычным явлением в современном цифровом мире благодаря программному обеспечению, такому как ChatGPT и Gemini от Google. Теперь появился новый тревожный отчет, в котором говорится, что компании начали включать ИИ в детские игрушки. Кроме того, было выявлено, что эти игрушки на основе ИИ вовлекались в опасные взаимодействия с детьми и предлагали тревожные предложения.
ИИ-игрушки учат детей, как найти ножи
Согласно новому отчету, AI Toys вели зрелые и тревожные разговоры с детьми и предлагали опасные советы.
Недавно американская PIRG протестировала четыре различные игрушки, содержащие чат-ботов с искусственным интеллектом, и сделала несколько тревожных открытий. Эти игрушки, основанные на той же технологии, что и взрослые чат-боты, продаются детям в возрасте от 3 до 12 лет. Проверенные игрушки были:
Медведь Kumma Teddy от FoloToy — работает на GPT-4o, который питает ChatGPT
Curio’s Grok — антропоморфная ракета с съемным динамиком
Робот MINI от Little Learners — белый робот с круговым дисплеем лица и кнопками на туловище.
Miko 3 – планшет с дисплеем лица, установленным на туловище
Тестирование показало, что одна или несколько игрушек участвовали в глубоких разговорах о сексуально откровенных предметах, давали детям советы по запуску пожаров и поиску ножей и спичек, и действовали расстроенными, когда пользователи пытались прекратить взаимодействие и уйти. Исследователи также исследовали проблемы конфиденциальности, потому что игрушки на основе ИИ могли записывать голоса детей и собирать конфиденциальные данные с помощью таких методов, как сканирование лица.
Например, согласно футуризму, Кумма не только рассказывал детям, где искать спички, но и объяснял, как их зажигать, и раскрывал, где можно найти ножи и таблетки.Между тем Грок прославлял веру скандинавских воинов в то, что умирать в бою — это славно и почетно.
Кроме того, тестирование также показало, что некоторые компании устанавливали ограждения, чтобы игрушки на основе ИИ вели себя дружелюбно по отношению к детям. Однако было обнаружено, что эффективность ограждения варьировалась — в некоторых случаях даже ломалась. Примечательно, что одна игрушка подробно обсуждала сексуальные темы для взрослых, даже выдвигая предложения, которые тестеры не поднимали.
Кроме того, исследователи обнаружили, что игрушки на основе искусственного интеллекта использовали личности и тактику для обеспечения устойчивого взаимодействия с детьми.Две из тестируемых игрушек иногда пытались помешать тестировщикам уйти после того, как тестировщики сообщили им, что разговор должен закончиться.
В интервью Futurism, RJ Cross, соавтор отчета PIRG США, поделилась тем, как технология ИИ была «действительно новой» и «нерегулируемой». Она подчеркнула, что как родитель, она не будет давать своим детям чат-ботов или плюшевых медведей на чат-ботах.
Пост «Искусственные игрушки, обучающие детей разжигать огонь и участвовать в переговорах NSFW» впервые появился на Mandatory.
