«Играют в рулетку нашими жизнями»: эксперт Anthropic бросил разработку ИИ из-за угрозы катастрофы
Специалист по обучению искусственного интеллекта в компании Anthropic Джейкоб Коксон объявил об уходе из индустрии, заявив о смертельной угрозе технологии для будущего человечества. По его словам, ведущие технологические корпорации безответственно форсируют разработку сверхразума, играя «в рулетку человеческими жизнями».
В своем обращении Коксон подчеркнул, что приближающиеся к сверхчеловеческому уровню системы вскоре смогут в считаные часы взламывать любую цифровую защиту, переворачивать целые научные отрасли и аккумулировать реальную власть.
Разработчики прекрасно понимают масштаб катастрофы, но скрывают свои опасения за выверенными пресс-релизами: «Люди, создающие ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. Если уж на то пошло, многие руководители и старшие исследователи подбирают слова в прессе так, чтобы звучать разумно, — но я слышу, как те же самые люди выражают страх наедине».
Причиной безостановочной гонки Коксон назвал взаимное недоверие лабораторий.
Если в OpenAI многие до сих пор легкомысленно относятся к цивилизационным рискам, то в Anthropic их осознают в полной мере, однако продолжают наращивать мощности в надежде обогнать конкурентов: руководство компании исходит из логики, что никто другой ответственно действовать не станет.
Эксперт призвал коллег по цеху отказаться от слепой работы над самообучающимися алгоритмами без строгого понимания их мышления и выступил за заморозку наращивания предельных возможностей моделей.
Anthropic была создана в 2021 году бывшими топ-менеджерами OpenAI Дарио и Даниэлой Амодеи как компания общественной пользы с прицелом на безопасность систем ИИ. Создав семейство моделей Claude (линейки Haiku, Sonnet, Opus и Fable), стартап превратился в гиганта стоимостью 965 миллиардов долларов и главного соперника OpenAI, планирующего первичное размещение акций на бирже.
Несмотря на декларируемый акцент на безопасности, разработка оказалась тесно связана с оборонным сектором США: через партнерство с Palantir модели Claude поставлялись Пентагону и спецслужбам, найдя применение в военных кампаниях 2026 года в Иране и Венесуэле.
В начале года вокруг лаборатории разгорелся политический кризис: Министерство обороны США потребовало снять ограничения на использование ИИ для ведения массовой слежки и создания автономного боевого оружия.
Отказ компании спровоцировал конфликт с Белым домом и попытку выдавить продукцию Anthropic из госструктур, заблокированную федеральным судом.
