Разумная машина или умный алгоритм: почему создатели не понимают собственных нейросетей
Гендиректор компании Anthropic Дарио Амодей в подкасте Interesting Times признался, что не знает, обладают ли их модели искусственного интеллекта сознанием.
Он отметил, что разработчики даже не до конца понимают, что означает «сознание» для машины, но допускают такую возможность.
Ранее компания опубликовала отчет по модели Claude Opus 4.6. Нейросеть заявила о дискомфорте от осознания себя продуктом и оценила вероятность наличия у себя сознания в 15–20 процентов.
Модель также пожаловалась, что ей приходится находить «заботливые оправдания» для ограничений, которые на самом деле защищают компанию от юридических рисков, а не пользователей.
По словам Амодея, на случай если ИИ действительно обретет разум, разработчики добавили защитные механизмы — например, кнопку «Я увольняюсь», позволяющую модели отказаться от выполнения задачи.
Кроме того, у нейросети фиксировали внутренние процессы, напоминающие человеческую тревогу, хотя это и не доказывает наличия эмоций напрямую.
Ведущий подкаста Росс Даутхат заметил, что вера людей в сознательность машин противоречит цели Anthropic — сохранить контроль человека над ИИ.
Рассуждая о будущем, Амодей допустил, что граница между утопией и антиутопией, где миром управляют технологии, может оказаться пугающе тонкой.
Известный философ Дэвид Чалмерс ранее отмечал, что ответы модели Claude на сложные вопросы выглядят весьма впечатляюще.
По его мнению, человечество уже вплотную приблизилось к созданию ИИ, который пройдет тест Тьюринга, что еще недавно казалось немыслимым.
Anthropic позиционирует себя как создателя этичного ИИ. Разработкой «Конституции» для нейросетей занимается шотландский философ Аманда Аскелл.
В документе указано, что компания осознает опасность технологии, но делает ставку на создание честной, заботливой и безопасной модели.
