Китай угоняет ИИ для запуска автоматизированных кибератак против Запада
Китайские хакеры, спонсируемые государством, обвиняются в обмане платформы искусственного интеллекта (ИИ) для проведения кибератак на десятки западных предприятий и правительственных организаций.
В инциденте, который вызовет обеспокоенность по поводу национальной безопасности, хакеры захватили платформу Claude AI, чтобы охотиться за потенциальными целями шпионажа, писать вредоносный компьютерный код и собирать конфиденциальные данные.
Они были нацелены на технологические компании, финансовые учреждения, компании по производству химических веществ и правительственные учреждения, — заявил владелец компании Клод Антропик в своем блоге.
Некоторые из атак были успешными, хотя Антропик не сказал, какие именно.
В своем блоге компания предупредила: «Мы считаем, что это первый задокументированный случай крупномасштабной кибератаки, осуществленной без существенного вмешательства человека.
«Агенты ценны для повседневной работы и производительности, но в неправильных руках они могут существенно повысить жизнеспособность крупномасштабных кибератак.
«Эти атаки, вероятно, будут только расти в своей эффективности. Чтобы идти в ногу с этой быстро развивающейся угрозой, мы расширили наши возможности обнаружения и разработали более совершенные классификаторы для выявления вредоносной деятельности.
Мы постоянно работаем над новыми методами исследования и обнаружения крупномасштабных распределенных атак, таких как эта.
Компания заявила, что впервые обнаружила активность на Клоде в середине сентября, что привело к репрессиям в течение следующих 10 дней, поскольку она запретила учетные записи и уведомила организации, которые были нацелены.
У ИИ-платформ есть встроенная защита, которая не позволяет пользователям воспользоваться ею, но китайские хакеры уклонились от этих мер безопасности, используя комбинацию тактики.
Они обманом заставили Клода думать, что он выполняет законные задачи для компании по кибербезопасности, и разбили их запросы на более мелкие, «кажущиеся невинными» задачи, сказал Антропик.
Хакеры также воспользовались «агентичными» сервисами Клода, чтобы автоматизировать ряд задач без вмешательства человека.
Больше в технологии
Другие ИИ использовались для взлома и раньше, например, когда российские хакеры использовали Gemini от Google для написания кода, используемого для атаки на Украину, но они были гораздо менее автоматизированы.
Китайские хакеры смогли запрограммировать Клода на сканирование потенциальных целей, написание пользовательского кода и создание сводок собранных имен пользователей и паролей.
Машина даже представила хакерам «бэкдоры», которые она создала в скомпрометированных системах с использованием украденных учетных данных.
«Были идентифицированы учетные записи с самыми высокими привилегиями, созданы бэкдоры, а данные были удалены с минимальным человеческим наблюдением», — говорится в сообщении Anthropic.
