Инсайдеры ИИ живут в страхе перед тем, что они создают
Они могут быть ответственны за создание технологии ИИ, которая, как многие опасаются, уничтожит рабочие места, если не всю человеческую расу, но, по крайней мере, они чувствуют себя так же параноидально и несчастно из-за того, куда все это идет, как и все мы.
На NeurIPS, одной из крупных исследовательских конференций по ИИ, состоявшейся в этом году на конференции в Сан-Диего, видения гибели ИИ были явно на уме многих ученых, присутствующих на ней. Но они серьезно учитывают риски ИИ или слишком заняты тем, что равносильно фантазированию о сценариях, которые они читали в научно-фантастических романах? Это вопрос, поднятый в новой статье Алекса Рейснера для «Атлантика», который посетил NeurIPS и обнаружил, что многие говорили в широких терминах о рисках ИИ, особенно тех, которые привели к созданию гипотетического искусственного общего интеллекта, но упустили из виду обыденные недостатки технологии.
«Многие разработчики ИИ думают о наиболее ощутимых проблемах технологии, в то время как в публичных разговорах об ИИ, в том числе среди самых известных разработчиков, доминируют воображаемые», — пишет Рейснер.
Один исследователь виноват в этом? исследователь Монреальского университета Йошуа Бенджио, один из трех так называемых «крестных отцов» ИИ, чья работа была основой для создания больших языковых моделей, способствующих неумолимому буму в отрасли. Бенджио провел последние несколько лет, озвучивая тревогу по поводу безопасности ИИ, и недавно запустил некоммерческую организацию под названием LawZero, чтобы поощрить безопасное развитие технологии.
Бенджо был обеспокоен тем, что в возможном антиутопическом будущем ИИ может обмануть своих создателей и что «те, у кого будут очень мощные ИИ, могут использовать их для политических преимуществ с точки зрения влияния на общественное мнение», — вспоминает Рейснер.
Но светило «не упомянуло, как поддельные видео уже влияют на общественный дискурс», — заметил Рейснер. — «Он также не осмысленно обратился к растущему кризису психического здоровья чат-ботов или к разграблению искусств и гуманитарных наук. Катастрофический вред, по его мнению, «от трех до 10 или 20 лет».
Рейснер был не единственным, кто наблюдал это разобщение. В основной речи под названием «У нас есть неправильные кошмары об ИИ?» социолог Зейнеп Туфекчи предупредил, что исследователи упускают лес для деревьев, сосредоточившись так много на рисках, связанных с AGI, технологией, которую мы даже не знаем, когда-либо будет возможно создать, и для которой нет согласованного определения. После того, как кто-то в аудитории пожаловался, что непосредственные риски, которые Туфекчи поднял, как зависимость от чат-ботов, уже были известны, Туфекчи ответил: «Я не вижу этих дискуссий. Я продолжаю видеть, как люди обсуждают массовую безработицу против вымирания человека».
Дискурс вокруг безопасности ИИ часто доминирует апокалиптическая риторика, которую продают даже те самые миллиардеры, которые строят материал. Генеральный директор OpenAI Сэм Альтман предсказывает, что ИИ уничтожит целые категории рабочих мест, вызовет кризис широко распространенного мошенничества с идентификацией и признает, что готовится к судному дню, когда система ИИ потенциально ответит человечеству, выпустив смертельный вирус.
И Бенджио не единственный «крестный отец» ИИ, которого расстроило раскаяние. Британский ученый-компьютерщик Джеффри Хинтон, получивший премию Тьюринга в 2018 году вместе с Бенджио и бывшим главным ученым по ИИ в Meta Яном Лекуном, представил себя в качестве фигуры Оппенгеймера в этой области. В 2023 году он лихо сказал, что сожалеет о работе своей жизни после ухода с должности в Google, и недавно провел дискуссию с сенатором Берни Сандерсом, где он долго обсуждал бесчисленные риски технологии, которые включали разрушение рабочих мест и милитаризованные системы ИИ, способствующие империи.
Рейснер сделал ироническое наблюдение: название NeurIPS, сокращенно от «Neural Information Processing Systems», восходит к тому времени, когда ученые значительно недооценили сложность нейронов нашего мозга и сравнили их с обработкой, выполняемой компьютерами.
Больше в технологии
«Независимо от того, центральной особенностью культуры ИИ является одержимость идеей о том, что компьютер — это разум, — написал он. — Антропик и OpenAI опубликовали отчеты с языком о том, что чат-боты, соответственно, «неверны» и «нечестны».
Главная Наука Антропика говорит, что мы быстро приближаемся к моменту, который может обречь нас всех
