США и Россия спорят о человеческом контроле над военным ИИ
В Женеве прошли переговоры ООН о правилах для смертоносных автономных систем. Они завершились 4 сентября 2026 года и были посвящены перспективе международного документа об автономном оружии с ИИ.
По данным The Washington Post, в последний день переговоров обсуждение резко обострилось. Примерно 15 часов американская и российская делегации вносили изменения в текст документа. Из него, по словам трех источников издания, убрали несколько важных ограничений.
Среди исключенных положений оказались требования к «предсказуемой» и «надежной» работе систем, пункт об учете этических соображений при применении оружия с ИИ, а также требование, чтобы человек проверял выбранные ИИ военные цели перед нанесением удара.
Что происходило за закрытыми дверями
По информации WP, заседание проходило без камер ООН и без наблюдателей от гражданского общества. США и Россия задействовали примерно по 10 юристов, почти вдвое больше, чем другие делегации.
Один из собеседников газеты описал процесс так:
«Это была смерть от тысячи мелких порезов бумагой».
При этом сами переговоры пока не создают юридически обязательного договора. Их задача заключается в подготовке возможных международных правил для систем летального автономного оружия. В ноябре страны снова встретятся в Женеве и обсудят, смогут ли переговоры перейти к официальному мандату или потенциально к юридически обязательному договору.
Почему человеческий контроль оказался главным вопросом
Смысл спора упирается в конкретную вещь: кто принимает финальное решение об атаке, оператор или автономная система.
ООН и Международный комитет Красного Креста уже указывали на проблему снижения человеческого контроля над применением силы. На брифинге ООН 25 августа отмечалось, что современные автономные системы способны самостоятельно выбирать и поражать цели после активации, а расширение их возможностей повышает риски для гражданского населения и соблюдения международного гуманитарного права.
На этом фоне представитель Human Rights Watch Верити Койл заявила:
«Это может означать, что машины смогут принимать решения, от которых зависят жизнь и смерть, без участия человека».
Она также связала ослабление правил с рисками для гражданского населения и ответственности за применение оружия.
ИИ уже используется на войне
Спор идет уже не о далеком сценарии. По данным Washington Post, американские военные использовали чатбот Anthropic для определения почти 1000 целей для ударов в первые 24 часа войны с Ираном. Издание также пишет об активном использовании ИИ Израилем в военных операциях в Газе.
Параллельно США пересматривают собственные правила применения автономного оружия. Действующая директива была принята в 2023 году, а в июне 2026 года Дональд Трамп потребовал обновить ее в течение 90 дней. По состоянию на конец сентября новая версия документа еще не была опубликована.
Получается любопытная ситуация: международные переговоры пытаются определить границы автономного оружия одновременно с тем, как военные структуры крупнейших держав ускоряют внедрение ИИ в реальные боевые процессы. Следующая крупная точка в этом споре намечена на ноябрь 2026 года в Женеве.
