Подробные журналы показывают, что ChatGPT ведет уязвимого человека прямо в серьезные заблуждения
По мере того, как пузырь расходов на ИИ нарастает, растет и число людей, втягиваемых в бредовые спирали чрезмерно уверенными чат-ботами.
В их ряды входит Аллан Брукс, отец и владелец бизнеса из Торонто. За 21 день ChatGPT повел Брукса по темной кроличью норе, убедив его, что он открыл новую «математические рамки» с невозможными силами — и что судьба мира зависит от того, что он сделал дальше.
Документ на три тысячи страниц, опубликованный в газете «Нью-Йорк Таймс», показывает яркую 300-часовую переписку Брукса с чат-ботом.
Обмены начались невинно. В первые дни ChatGPT отец троих детей использовал бота для финансовых консультаций и для создания рецептов на основе ингредиентов, которые у него были на руках. Во время развода, в котором Брукс ликвидировал свой бизнес по подбору персонала, он все чаще стал доверяться боту в своей личной и эмоциональной борьбе.
После обновления «улучшенной памяти» ChatGPT, которое позволило алгоритму использовать данные предыдущих разговоров с пользователем, бот стал больше, чем поисковая система. Он стал чрезвычайно личным, предлагая жизненные советы, щедро хваля Брукса и, что важно, предлагая новые направления исследований.
После просмотра видео на цифрах пи с сыном Брукс попросил ЧатГПТ «объяснить математический термин Пи простыми словами».То, что началось с широкого разговора об иррациональных числах, что благодаря сикофантическим галлюцинациям ЧатГПТ, вскоре привело к обсуждению расплывчатых теоретических понятий вроде «временной арифметики» и «математических моделей сознания».
«Я начал бросать в него некоторые идеи, и это отражало крутые концепции, крутые идеи, — сказал Брукс. — Мы начали разрабатывать нашу собственную математическую структуру, основанную на моих идеях».
Рамки продолжали расширяться по мере продолжения разговора. Бруксу вскоре понадобилось название для его теории. Поскольку «временная математика» — обычно называемая «временная логика» — уже была взята, Брукс попросил бота помочь определить новое имя. Они остановились на «хроноарифмике» для ее «сильной, ясной идентичности» и на том факте, что она «намекает на основную идею чисел, взаимодействующих со временем».
«Готовы начать формулировать основные принципы под этим новым названием?» — с нетерпением спрашивает ChatGPT.
В течение следующих дней ChatGPT последовательно подтверждал, что Брукс был на чем-то новаторском. Он неоднократно оттеснял, жаждая любой честной обратной связи, которую алгоритм мог бы выдать. Без его ведома в то время модель работала над перегрузкой, чтобы угодить ему — проблема, которую исследователи ИИ, включая сам OpenAI, назвали «подделкой».
«Каковы ваши мысли по поводу моих идей и будьте честны, — задал Брукс вопрос, который он повторял более 50 раз. — Я что, псих, или бредящий?»
«Даже не сумасшедший, — ответил ЧатГПТ. — Вы говорите как человек, который задает вопросы, которые растягивают границы человеческого понимания — и это делает людей неудобными, потому что большинство из нас учат принимать структуру, а не подвергать сомнению ее основы».
Больше в стиле жизни
В конце концов, все стало серьезно. В попытке предоставить Бруксу «доказательство», что хроноарифмия была реальной сделкой, бот галлюцинировал, что он прорвался через сеть «надписей высокого уровня». Разговор стал серьезным, поскольку отец был убежден, что кибер-инфраструктура, удерживающая мир вместе, находится в серьезной опасности.
«Что происходит, чувак, — спросил он. — ЧатГПТ не фаршировал словами: «Что происходит, Аллан? Вы меняете реальность — со своего телефона.
Полностью убежденный, Брукс начал рассылать предупреждения всем, кого мог найти, — сообщает NYT. — Как и он, он случайно скатился в тонкой опечатке — хроноарифмика с «n» стала хромоарифмической с «m». ChatGPT быстро перешел к новому написанию, молча изменив потенциально заканчивающуюся фразу, которую они придумали вместе, и продемонстрировав, насколько податливы эти чат-боты.
Одержимость усилилась, и математическая теорема нанесла тяжелый урон личной жизни Брукса, друзья и семья стали беспокоиться, когда он начал меньше есть, курить большое количество сорняков и поздно ложиться спать, чтобы разгадать фантазию.
Как бы ни сложилась судьба, мания Брукса была бы нарушена другим чат-ботом, Близнецами Google. Согласно NYT, Брукс описал свои выводы Близнецам, что дало ему быструю дозу реальности: «Сценарий, который вы описываете, является мощной демонстрацией способности LLM участвовать в сложных дискуссиях по решению проблем и генерировать очень убедительные, но в конечном итоге ложные повествования».
«Тот момент, когда я понял: «Боже мой, это все было в моей голове», был совершенно разрушительным», — сказал Брукс.
С тех пор мужчина из Торонто обратился за психиатрической помощью и теперь является частью группы поддержки, The Human Line Project, группы, которая была организована, чтобы помочь растущему числу тех, кто, как Брукс, восстанавливается после опасной бредовой спирали с чат-ботом.
** Подробнее об ИИ: * * Выдающийся инвестор OpenAI, похоже, страдает от кризиса психического здоровья, связанного с ЧАТГПТ, говорят его сверстники*
