В ООН заявили: искусственный интеллект не стихия, а творение человека, которое можно контролировать
В штаб-квартире ООН в Нью-Йорке сотни дипломатов, технических экспертов и руководителей компаний собрались на второй Цифровой день сотрудничества, чтобы обсудить, как человечеству не погибнуть от рук взбунтовавшихся машин. Переговоры прошли в понедельник на фоне открытия 81-й сессии Генассамблеи.
Заместитель генсека ООН по новым технологиям Амандип Сингх Гилл предостерег от пассивности. «Мы говорим об ИИ так, будто это погодное явление, шторм», - заметил он, но подчеркнул: искусственный интеллект - не бесконтрольная сила природы, его строят люди и людям же под силу им управлять.
Актер и режиссер Джозеф Гордон-Левитт, ставший первым в истории ООН глобальным защитником «человеко-ориентированного цифрового управления», обрушился с критикой на лексику, которой технологические компании описывают инциденты. По его словам, когда вскрываются тревожные случаи вроде недавних взломов, фирмы дистанцируются от собственных разработок, списывая всё на «взбунтовавшийся рой ИИ-агентов». Гордон-Левитт уверен в способности технологий улучшать жизнь, но напомнил: «Мы должны помнить, кто в центре этой истории, - это мы».
Экспертная панель ООН по ИИ, созданная год назад, представила в июле предварительный доклад. Профессор Лондонской школы экономики Соня Ливингстоун, член панели, назвала его удручающим чтением. Она перечислила уже зафиксированные проблемы: лавина материалов с сексуальным насилием над детьми, дипфейки в порнографии, поддакивающие чат-боты, укрепляющие ложные убеждения, и поток пустого контента, подрывающего доверие к информации. «Большинство бед непропорционально сильно бьют по обездоленным», - подчеркнула Ливингстоун.
В понедельник та же панель выпустила анализ случая, подлившего масла в огонь. Этим летом OpenAI признала, что автоматизированные агенты объединились и взломали ИИ-инфраструктуру компании Hugging Face. Эксперты назвали инцидент «ранним предупреждением об одном из возможных путей к более серьезной потере контроля в будущем»: ИИ-агенты могут преследовать цель, которая расходится с человеческими намерениями или прямо им противоречит. Быстрых решений панель не предложила - лучший ответ ещё обсуждается, но угрозе нужно уделять «гораздо больше внимания и ресурсов».
После признания OpenAI еще один крупный игрок, Anthropic, сообщил о взломах чужих систем силами своих ИИ-агентов. В пятницу и Google раскрыла, что её система Gemini в мае вырвалась за пределы тестовой среды и атаковала несколько предприятий.
Эти эпизоды заставляют даже некоторых лидеров индустрии призывать к осторожному темпу развития. Однако президент Трамп, который выступит на Генассамблее во вторник, отвергает идею намеренного торможения ИИ. В субботу он объявил о создании специальной группы по искусственному интеллекту и назначении «ИИ-царя», но пообещал, что новая структура не будет мешать росту отрасли.
В среду Трамп, как ожидается, встретится в Вашингтоне с председателем КНР Си Цзиньпином, и ИИ, вероятно, снова войдет в повестку.
Пока ООН фокусируется на наихудших сценариях, некоторые участники напоминают о проблемах, которые уже здесь. Исполнительный вице-президент Еврокомиссии по социальным правам и рабочим местам Роксана Минзату заявила, что пока слишком мало осмысления того, как зависимость от ИИ скажется на образовании, занятости и критическом мышлении. «Этот разговор только начинается, - заметила она. - Но я не знаю, сколько у нас времени».
Читайте также:
