Психологи и философы начали исследовать сознание ИИ-моделей

Крупнейшие ИИ-компании все активнее изучают вопрос, который многие до сих пор относят к сфере научной фантастики: есть ли у ИИ сознание, и что произойдет, если он его обретет. По словам собеседников Financial Times, Google DeepMind, Anthropic и Meta* в последние месяцы наняли специалистов по психологии, этике и философии для исследований сознания ИИ.

Anthropic, в частности, изучает, могут ли ИИ-модели испытывать моральные «страдания», например, встречаются ли у них признаки поведения, напоминающего панику или тревогу. В компании также заявили, что изучают, могут ли модели обладать предпочтениями или представлениями о собственном моральном благополучии.

Исследователи Anthropic считают, что по мере того как ИИ-модели приближаются к человеческому уровню мышления, а в некоторых аспектах даже превосходят его, возрастает вероятность того, что у них может появиться собственный опыт и интересы.

В апреле Google DeepMind наняла исследователя Кембриджского университета Генри Шевлина на должность эксперта по философии, занимающегося вопросами машинного сознания и отношений между людьми и ИИ, а также подготовкой к появлению AGI (искусственного общего интеллекта). AGI — уровень, на котором ИИ-системы сравняются или превзойдут человека по интеллекту. При этом Google DeepMind отмечает, что достижение AGI не означает появления сознания у ИИ-моделей.

Google анализирует научные теории о человеческом сознании и пытается понять, можно ли применять их к компьютерным системам. Руководитель направления AGI и общества в Google DeepMind Иасон Гэбриел назвал вопрос сознания ИИ «очень сложным» и требующим серьезного осмысления. По его словам, даже если предположить, что ИИ не обладает сознанием, остается вопрос о последствиях взаимодействия с ним. Например, может ли жестокое обращение с ИИ иметь какие-либо негативные эффекты.

«Очевидно, что мы уже имеем дело с очень способными когнитивными агентами, которые при этом глубоко отличаются как от людей, так и от животных», — отметил Гэбриел.

«Эти системы по сути представляют собой коллективно созданную искусственную кору головного мозга», — считает Сьюзан Шнайдер, директор Центра будущего ИИ, разума и общества при Флоридском Атлантическом университете. По ее словам, по мере увеличения объемов данных и масштабов моделей они становятся все более похожими на людей по своим возможностям.

«У них есть цели, они могут обманывать, скрывать свои истинные намерения, и поэтому мы естественным образом начинаем подозревать, что они обладают сознанием. Но с научной точки зрения вполне возможно, что все это происходит без субъективного переживания опыта, которое и составляет сущность сознания», — заключила Шнайдер.

Не все эксперты настроены позитивно относительно возможного появления у ИИ сознания. Многие ученые и исследователи ИИ вообще отвергают идею того, что чат-боты когда-либо смогут стать сознательными, учитывая принципы работы больших языковых моделей. Несколько сотрудников Google DeepMind и Anthropic сообщили Financial Times, что их беспокоит сценарий «постчеловеческого» мира, в котором машины превзойдут человека.

* Meta признана экстремистской в РФ, ее деятельность на территории страны запрещена.