Чат-боты ИИ, призванные влиять на избирателей, вызывают новые опасения по поводу влияния на выборы
Чат-боты могут заметно влиять на выбор избирателей, показывают новые исследования. Полученные результаты поднимают неотложные вопросы о роли ИИ в будущих выборах.
Забудьте о дверных стуках и телефонных банках — чат-боты могут стать будущим убедительных политических кампаний.
Опасения по поводу того, может ли искусственный интеллект влиять на выборы, не новы. Но пара новых статей, опубликованных сегодня в Nature и Science, показывают, что боты могут успешно изменить политические взгляды людей, даже если то, что боты утверждают, неправильно.
Полученные результаты противоречат преобладающей логике, согласно которой чрезвычайно трудно изменить мнение людей о политике, говорит Дэвид Рэнд, старший автор обеих статей и профессор информационных наук, маркетинга и управленческих коммуникаций в Корнельском университете, который специализируется на искусственном интеллекте.
[Подпишитесь на Today in Science, бесплатный ежедневный информационный бюллетень]
Стефан Левандовски, ученый-когнитивист из Бристольского университета в Англии, который не участвовал в новых исследованиях, говорит, что они поднимают важные вопросы: «Во-первых, как мы можем защититься или, по крайней мере, обнаружить, когда LLM были разработаны с определенной идеологией, которая противоречит демократии?», спрашивает он. «Во-вторых, как мы можем гарантировать, что «быстрая инженерия» не может быть использована на существующих моделях для создания антидемократических убедительных агентов?»
Исследователи изучили более 20 моделей ИИ, включая наиболее популярные версии ChatGPT, Grok, DeepSeek и Meta’s Llama.
В эксперименте, описанном в статье Nature, Рэнд и его коллеги набрали более 2000 взрослых американцев и попросили их оценить предпочтения своих кандидатов по шкале от 0 до 100. Затем команда пообщалась с ИИ, который был обучен спорить за одного из двух кандидатов на президентских выборах в США в 2024 году: либо Камалу Харрис, либо Дональда Трампа. После разговора участники снова оценили предпочтения своих кандидатов.
«Это двигало людей на порядок в пару процентных пунктов в сторону кандидата, за которого выступала модель, что не является огромным эффектом, но существенно больше, чем можно было бы ожидать от традиционных видеорекламы или рекламы кампании», — говорит Рэнд. — Даже через месяц многие участники все еще чувствовали себя убежденными ботами, согласно статье.
Результаты были еще более поразительными среди около 1500 участников в Канаде и 2100 в Польше. Но самое интересное, что самый большой сдвиг во мнении произошел в случае, когда 500 человек говорили с ботами о бюллетене по всему штату для легализации психоделиков в Массачусетсе.
Примечательно, что если боты не использовали доказательства для подкрепления своих аргументов, они были менее убедительными. И хотя модели ИИ в основном придерживались фактов, «модели, которые выступали за правых кандидатов — и в частности модель Трампа — сделали более неточные заявления», — говорит Рэнд. Эта модель оставалась в разных странах и моделях ИИ, хотя люди, которые были менее информированы о политике в целом, были наиболее убедительными.
В статье «Наука» рассматривались те же вопросы, но с точки зрения дизайна чат-ботов. В трех исследованиях в Великобритании почти 77 000 участников обсуждали политические вопросы с чат-ботами. Размер модели ИИ и то, насколько бот знал об участнике, оказали лишь незначительное влияние на то, насколько убедительным он был. Скорее, наибольший выигрыш был получен от того, как модель была обучена и проинструктирована представлять доказательства.
«Чем больше фактических утверждений сделала модель, тем более убедительной она была, — говорит Рэнд. — Проблема возникает, когда у такого бота заканчиваются точные доказательства его аргументации. — Он должен начать хвататься за соломинки и выдумывать претензии», — говорит он.
Итан Портер, содиректор Института данных, демократии и политики Университета Джорджа Вашингтона, описывает результаты как «камни в литературе».
«В отличие от некоторых самых пессимистических отчетов, они ясно дают понять, что факты и доказательства не отвергаются, если они не соответствуют вашим предыдущим убеждениям, а факты и доказательства могут стать основой успешного убеждения», — говорит Портер.
Вывод о том, что людей наиболее эффективно убеждают доказательства, а не эмоции или чувства членства в группе, обнадеживает, говорит Адина Роскис, философ и когнитивный ученый из Калифорнийского университета в Санта-Барбаре, которая также не участвовала в исследованиях. Тем не менее, она предупреждает, «плохая новость заключается в том, что люди находятся под влиянием очевидных фактов, независимо от их точности».
