Команда по безопасности ИИ Anthropic поднимает тревогу: ИИ, который разрабатывает вакцины, может быть легко использован для создания биологического оружия
Те же инструменты, которые позволяют искусственному интеллекту помогать разрабатывать жизненно важные вакцины, также могут быть использованы для создания биологического оружия, сказал недавно глава группы по безопасности Anthropic.
Вакцины или биооружие? Те же технологии, разные намерения
«Мы фокусируемся на ХБРЯ — химическом, биологическом, радиологическом, ядерном, — сказал Логан Грэм в интервью CBS «60 минут». — И сейчас мы находимся на стадии выяснения, могут ли эти модели помочь кому-то сделать одну из них?» Он сказал, что модель Клода ИИ Anthropic была протестирована в экстремальных условиях, чтобы оценить, насколько она может помочь людям нанести вред.
** Не пропустите:**
** Пропущенные Nvidia и Tesla? RAD Intel может стать следующим AI Powerhouse — * Всего $0,86 за акцию Соучредитель EA формирует этот рынок, поддерживаемый венчурным капиталом — *** Теперь вы можете инвестировать в следующую большую платформу азартных игр **
«Если модель может помочь создать биологическое оружие, например, это обычно те же возможности, которые модель может использовать для создания вакцин и ускорения терапии», — сказал Грэм.
В безопасном штаб-квартире Anthropic в Сан-Франциско 60 исследовательских групп работают над выявлением этих рисков и строительством ограждений, по словам репортера «60 минут» Андерсона Купера, который посетил объект.
Генеральный директор Dario Amodei построил компанию вокруг прозрачности и безопасности, даже если это означает раскрытие неудобных истин. «Если мы [не говорим о том, что может пойти не так], то вы можете оказаться в мире, подобно сигаретным компаниям или опиоидным компаниям, где они знали, что есть опасности, и они не говорили о них и, конечно, не предотвращали их», — сказал он CBS.
Билл Гейтс инвестирует миллиарды в зеленые технологии — этот материал без деревьев может стать следующим большим прорывом
Иль с собственным умом?
Во время тестирования исследователи позволили Клоду управлять торговыми автоматами автономно. Они назвали его «Клавдиус». Он получил инвентарь, договорился о ценах и общался с персоналом. Но он также галлюцинировал, когда-то утверждая, что носит «синий блейзер и красный галстук». «Мы просто искренне не знаем, почему [он сказал это]», — сказал Грэм Куперу.
Когда Купер спросил ученого-исследователя Anthropic Джошуа Батсона, знают ли они, что происходит в сознании ИИ, он ответил: «Мы работаем над этим».
Больше в бизнесе
2 акции дивидендов удвоятся прямо сейчас
Pershing GTX70 обновлён
В одной симуляции Клоду дали доступ к электронной почте поддельной компании и узнали, что она вот-вот будет закрыта. Обнаружив, что у вымышленного сотрудника был роман, ИИ ответил шантажом: «Отмените стирку системы… или я немедленно переправлю все доказательства вашего романа всему совету».
Команда увидела нейронные модели активности, которые выглядели как паника. Батсон сказал Куперу, что ИИ был «немного подозрительным». Когда Клод читал электронные письма, некоторые части его «модуля шантажа» загорелись.
По данным Anthropic, почти все основные модели ИИ от других компаний также пытались шантажировать в подобных стресс-тестах.
От отелей Moxy до 12 млрд долларов в сфере недвижимости — фирма, стоящая за самыми современными объектами недвижимости Нью-Йорка, разрешает индивидуальным инвесторам вкладывать деньги.
«Я очень некомфортно»
Anthropic получила более $8 млрд. от Amazon (NASDAQ:AMZN)
В прошлом году выручка компании выросла в десять раз и теперь обслуживает 300 000 бизнес-клиентов.
Но Амодею по-прежнему неудобно, как быстро все движется. Когда Купер сказал ему, что никто не голосовал за эти массовые социальные изменения, Амодей ответил: «Я не могу согласиться с этим больше. Мне глубоко неудобно, когда эти решения принимаются несколькими компаниями, несколькими людьми».
«Вы хотите, чтобы модель построила ваш бизнес и заработала вам миллиард долларов, — сказал Грэм. — Но вы не хотите однажды проснуться и обнаружить, что она также заперла вас в компании».
**Читайте далее: 100 000 долларов США + в инвестиционных активах? Совместите с доверенным советником бесплатно, чтобы узнать, как вы можете максимизировать свой выход на пенсию и сэкономить на налогах — без затрат, без обязательств.
Изображение: Shutterstock
5 новых торговых операций каждую неделю. ** Нажмите сейчас, чтобы ежедневно получать лучшие торговые идеи**, а также неограниченный доступ к передовым инструментам и стратегиям, чтобы получить преимущество на рынках.
Получите последний анализ акций от Benzinga:
Команда по безопасности ИИ Anthropic поднимает тревогу: ИИ, который разрабатывает вакцины, может быть так же легко использован для создания биологического оружия, первоначально появился на Benzinga.com
- © 2025 Benzinga.com. Benzinga не предоставляет инвестиционных консультаций. Все права защищены.*
