Украина открывает союзникам доступ к 5 миллионам видео с поля боя для обучения ИИ-оружия
Украинское правительство открыло доступ к огромному архиву видеозаписей с поля боя для оборонных компаний. База под названием Avenger Labs содержит пять миллионов роликов, снятых дронами за почти пять лет войны. Эти данные используют для обучения систем искусственного интеллекта, которые должны самостоятельно находить цели.
Сейчас с архивом работают около 30 украинских компаний. Теперь Киев открывает его и для фирм из союзных государств, рассчитывая укрепить партнёрство в сфере безопасности. Первое соглашение уже заключено: доступ получат 12 британских оборонных предприятий. Украина ведёт переговоры и с другими странами.
Данные предоставляются бесплатно, но с важным условием. Компании обязаны передать украинским военным лицензии на любое программное обеспечение, которое они создадут на основе этих материалов.
Западные разработчики автономного оружия испытывают острый дефицит данных для тренировки алгоритмов. Украина способна предложить больше таких материалов, чем любой другой потенциальный партнёр. Россия тоже собирает военные данные для своих ИИ-систем, но как именно Москва распоряжается этой информацией и делится ли ей с Ираном, Китаем или КНДР, остаётся неясным.
Министерство обороны Украины недавно продемонстрировало, как именно создаётся ИИ-оружие. Всё начинается с выбора цели. Для обучения дрона-убийцы нужны тысячи изображений конкретного типа объектов. Платформа Avenger Labs позволяет вызвать подборки аннотированных видео с самыми разными целями: танки зимой, грузовики ночью, вражеские дроны в объективе тепловизора.
Зашифрованная платформа размещена на облачном сервисе за пределами Украины. Оборонные компании не просматривают видео напрямую, а запускают данные в изолированной компьютерной среде — «песочнице». Постепенно система учится распознавать военные цели. Когда модель достигает нужной точности, её загружают в бортовой компьютер дрона, наземного робота или морского беспилотника. После этого солдат может просто выбрать в меню тип цели — например, «танки» — и запустить аппарат в автономный поиск.
Руководитель одной из компаний, чья ИИ-модель уже работает на поле боя, на условиях анонимности сообщил, что уровень ложных срабатываний при обучении составил менее пяти процентов. «Какие бы ни были сомнения насчёт ИИ-оружия, его так или иначе создадут», — заметил он.
Бывший министр обороны Украины Михаил Фёдоров, руководивший созданием платформы, сформировал инвестиционный фонд. Его цель — развернуть полностью автономное ИИ-оружие уже в следующем году. Один из ведущих инвесторов — глава аналитической компании Palantir Алекс Карп.
Правозащитники и эксперты указывают на серьёзные риски. Катерина Бондар из Центра стратегических и международных исследований в Вашингтоне сомневается в универсальности украинской базы. «Если вы обучите компьютеры распознавать российскую технику, что вы будете с этим делать вдали от Украины?» — спросила она. Для войны на Ближнем Востоке ИИ, возможно, придётся учить искать иранские пусковые установки в пустыне.
Есть вопросы и к законности. Лицензионное соглашение не содержит пункта о правах человека. Украинские чиновники перекладывают ответственность на правительства стран-партнёров: те должны сами следить за соблюдением Женевских конвенций своими военными. Анна Баччарелли из Human Rights Watch назвала проблемой «чёрный ящик» ИИ, который «скрывает подотчётность» в самонаводящемся оружии. «Трудно определить момент, когда что-то пошло не так», — пояснила она.
Лауреат Нобелевской премии мира Александра Матвийчук призвала Украину к осторожности при обмене данными с государствами, не признавшими юрисдикцию Международного уголовного суда, — например, с США.
Международное право пока не поспевает за технологиями. В прошлом месяце на переговорах ООН в Женеве дипломаты России и США выступили против требования сохранять «значимый человеческий контроль» над летальным автономным оружием. В понедельник обсуждение проекта договора возобновится.
