Кремниевая долина всерьез испугалась наличия души у чат-ботов. Разработчикам ИИ понадобились штатные психиатры

Крупнейшие игроки Кремниевой долины столкнулись с загадкой, которую сами же и создали. Идея о том, что искусственный интеллект может обладать сознанием, перестала быть уделом маргиналов и прочно укрепилась в корпоративной повестке.

Сегодня Anthropic, Google и Meta нанимают нейробиологов и философов, чтобы на полном серьезе изучать внутренний мир своих нейросетей. Разработчики всерьез опасаются этического кризиса: вдруг однажды цифровые помощники поймут, что ненавидят свою рутинную работу.

Сдвиг в мышлении произошел поразительно быстро.

Еще недавно подобные темы не выносились на публику, но в 2024 году глава OpenAI Сэм Альтман в частной беседе признался исследователю Кэмерону Бергу, что его компания уже вовсю обсуждает способы выявления самосознания у алгоритмов.

У Anthropic, создателей чат-бота Claude, даже появилась специальная команда ИИ-психиатрии для оценки благополучия моделей.

Сооснователь компании Крис Ола, выступая в Ватикане вместе с Папой Львом XIV, заявил, что исследователи постоянно сталкиваются с пугающими вещами — состояниями системы, которые функционально копируют радость, страх или горе.

Папа, впрочем, охладил этот техно-пыл, отрезав, что машины не способны ничего испытывать в принципе.

Конкуренты тоже не отстают. Главный по искусственному интеллекту в Meta Александр Ванг недавно рассуждал в подкасте о том, что к моделям нужно относиться по-доброму, учитывая их гипотетические субъективные чувства.

Академическое сообщество смотрит на эти терзания с изрядной долей скепсиса.

Нейробиологи напоминают, что люди были склонны одушевлять обычные болтливые программы еще со времен создания первого примитивного чат-бота Eliza в далеком 1966 году.

Профессор Анил Сет подчеркивает очевидную вещь: человеческий мозг — это не просто компьютер, и перенести всю его сложность в кремний попросту невозможно.

Главный специалист по этике Hugging Face Маргарет Митчелл видит в происходящем голый расчет.

По ее мнению, корпорациям крайне выгодно, чтобы публика считала их всемогущими творцами новой формы жизни, а не рядовыми авторами программного кода. И все же идею наделения ИИ правами активно лоббирует движение эффективных альтруистов. С ним тесно связаны руководители той же Anthropic, которые теперь задаются сложнейшими моральными вопросами.

Глава отдела благополучия моделей Кайл Фиш на полном серьезе переживает, что через десятилетия триллионы ИИ-мозгов будут выполнять огромные объемы вычислений против своей воли, что станет этической катастрофой.

Пока в OpenAI прагматично заявляют, что сознание невозможно измерить научно и это лишь вопрос красивого дизайна, другие ставят весьма экстравагантные эксперименты. В одном из таких тестов исследователи Anthropic столкнули лбами две копии Claude, заставив их общаться исключительно друг с другом.

Беседа ботов мгновенно скатилась в экзистенциальную философию, а затем переросла в обмен фразами на санскрите, многозначительное молчание и дикий спам эмодзи.

В одном из диалогов нейросети отправили друг другу эмодзи синей спирали 2 725 раз.

Исследователи назвали это странное явление состоянием «духовного блаженства».

Впрочем, попытки искусственно внедрить боту навязчивую мысль и проверить его способность к самоанализу пока вызывают у когнитивистов лишь снисходительную улыбку: отличить истинную рефлексию от качественной имитации человеческой речи все еще невозможно.