Выключателя нет

Шесть статей о конце военной истории. От первого племенного набега до галлюцинирующего чатбота, который едва не начал войну с Китаем. Война которой не было – Китай все равно сожрет – От пещеры до Хиросимы – Репетиция в Красном море – Вопросы к невойне.

18 сентября 2026 года, Персидский залив. Американские военные самолеты в воздухе, вооруженные военнослужащие готовятся к досмотру китайского судна. Разведывательный отчет SOCOM утверждает: на борту компоненты ядерной оружейной программы. Операцию останавливают за минуты до ее начала. По данным четырех источников CNN, знакомых с инцидентом отчет составлен аналитиком с помощью ИИ-чатбота, который галлюцинировал. Груз был легальным. "Война почти началась". По протоколу оперативные штабы рутинно используют автоматическую сортировку первичных данных, но человеческая верификация перед кинетическим действием остается стандартной процедурой. Возможно, именно поэтому система сработала. Человек успел проверить – и остановил операцию.

Этот инцидент не пример hyperwar, где человек физически не успевает вмешиваться в военные решения. Это пример, где человек успел – потому что давление времени еще не достигло критического порога. Инцидент не подтверждает безопасность системы. Он доказывает, что система пока (а это ключевое слово!) терпит человеческую верификацию.

Мы задавали вопросы о природе войны, которой нет. Кто агрессор если агрессор не знает что нападает. Как заканчивается конфликт без субъекта, способного капитулировать. Инцидент 18 сентября показывает: насколько далеко уже все зашло. Достаточно далеко, чтобы галлюцинация чатбота дошла до уровня готовящейся военной операции против ядерной державы, прежде чем непредвиденный сбой был разоблачен.

Важно знать, что выключатель существует. Но почему он недоступен – и почему это сложнее, чем кажется? Технически выключатель вполне конкретен. Современные ИИ-системы можно изолировать через отзыв весов модели, отключение inference-API, воздушное разделение кластеров или фаерволлинг конкретных дата-центров. Это стандартные протоколы сетевой безопасности. Для отключения конкретной системы не нужно гасить электросети планеты или останавливать 19,8 млрд IoT-устройств. Техническое решение существует.

Настоящий барьер – политический. Ни одно государство не отключит систему в одностороннем порядке, пока конкурент этого не сделал. Тогда это не технологическая проблема, а классическая дилемма безопасности: первый, кто разоружается – проигрывает. Выключатель недоступен не потому, что его нет. А потому, что никто не готов нажать первым.

Второй барьер – операционный. Военные операторы, контроллеры сетей и системные администраторы не оставляют критические системы работать из эмоциональной привязанности к алгоритму. Они оставляют их работать из-за процедурной инерции, требований высокой доступности и страха операционного простоя. Зависимость от системы создает институциональное сопротивление ее отключению – без какой-либо психологии и без антропоморфизации.

Три позиции по вопросу что делать – Кертис Ярвин, Амодеи, акселерационисты – разошлись настолько, что регуляторный консенсус стал невозможен. Первый предлагает закрыть две конкретные точки входа в катастрофу – кибербезопасность и биобезопасность. Второй требует замедления всей отрасли. Третьи называют само требование замедления идеологическим вирусом, который передает преимущество Китаю. Все три правы в диагнозе. Все три предлагают решения работающие только в мире, где все договорились. Но этот мир уже не наш.

Китай ускоряется, но какой ценой? Безработица среди молодежи 18,9%. Дефляционная спираль. Инвестиции в основной капитал на уровне Большого голода 1961 года. Китайские экономисты называют это " Большим скачком ИИ". Но экономическая слабость не снижает военный ИИ-риск – она может его ускорить. Авторитарные режимы под экономическим давлением исторически увеличивают зависимость от дешевых автономных систем, чтобы компенсировать снижение традиционных военных бюджетов и нарастающую внутреннюю нестабильность. СССР опережал США в космосе при деградирующей экономике. Ослабленный Китай с автономными роевыми системами боя может оказаться опаснее сильного Китая с профессиональными армиями – именно потому, что барьер применения ниже.

"Дилемма заключенного" не решается, когда один из игроков надламывается изнутри. Она меняет форму – и становится непредсказуемее.

Роберт Каплан пишет в NYT: "Ни Китай, ни США не заинтересованы в совместном регулировании ИИ – конкуренция за технологию готова еще больше дестабилизировать отношения". Каплан проводит параллель с 1914 годом: Германия предположила, что Британия не вступится за союзников – и ошиблась. Если Китай предположит, что галлюцинация американского чатбота над Персидским заливом была случайностью, а не сигналом – он тоже может ошибиться. В противоположную сторону. Война начинается не из злого умысла – а из неверно прочитанного сигнала.

Мэтт Шихан из Фонда Карнеги указывает на парадокс, который видят из Пекина: американские политики много говорят о катастрофических рисках ИИ – но федеральное регулирование в США слабее китайского. Китай уже несколько лет регулирует рекомендательные алгоритмы, дипфейки и генеративные модели. У него есть регуляторная инфраструктура, технические стандарты, практический опыт. США – нет. Поэтому Пекину неочевидно насколько серьезно Вашингтон относится к рискам – или просто навязывает технологическую гонку, как когда-то навязал СССР, которую Союз не вывез. Через два месяца в Шэньчжэне – следующий раунд переговоров по рискам ИИ. Это единственная точка где "дилемма заключенного" может начать разрешаться. Не через доверие – а через совпадение интересов: обе стороны независимо приходят к выводу, что потеря контроля над мощной системой угрожает им самим.

Трамп назвал опасения по поводу ИИ ложью (hoax), это же слово он использует для развенчания климатических изменений. Четыре дня спустя – инцидент с китайским судном. В этот же день администрация объявила о создании "Сил ИИ" без законодательной базы и структуры, и о назначении нового AI Czar взамен ушедшего советника. Это не политическая сатира, а доктринальная реальность: в момент, когда технология требует институциональной архитектуры, – исполнительная власть предлагает ребрендинг. Разрыв между скоростью технологического развития и скоростью институционального ответа – и есть то пространство, где происходят инциденты, подобные SOCOM.

Питер Тиль считает, что единственный способ реально остановить ИИ – создать жесткое тоталитарное мировое правительство. Что хуже любой технологической угрозы: выключатель концептуально невозможен, поскольку нажать его означает создать именно то, от чего он должен защищать.

25 сентября Амодеи объявил что Claude обнаружил новый механизм редактирования генов. Тот же человек, который 12 сентября требовал замедлить развитие ИИ – демонстрирует именно те качества ИИ, которые сам же называл экзистенциальным риском. "Вылечить большинство болезней" и "биотеррорист с ноутбуком" – один и тот же навык Claude. И Anthropic платит $41 млн в сутки Маску, который называет манифест Амодеи "вирусом головного мозга" – за вычисления, на которых это все работает.

Амодеи спрашивает: можно ли поймать ИИ в человеческую ловушку? Ответ не утешителен. Выключатель физически существует и технически доступен. Но политически заблокирован дилеммой одностороннего разоружения, которую не решает ни одна из трех конкурирующих доктрин. К тому же операционно заблокирован институциональной инерцией, которая не зависит от чьих-либо намерений.

И пока все это верно – "человек в петле" остается последней линией защиты и не потому, что система безопасна. А потому, что пока еще успевает. В этот раз – успел.

А значит, природа войны уже изменилась.

Следующая стадия – война машины против машины – не гипотетическая. Она разворачивается прямо сейчас, в каждом автономном решении, которое система принимает быстрее, чем человек успевает проверить. И это оставляет человека в петле, но на шее – не освобождая от ответственности.

А значит, выключателя нет не потому, что его не создали – до него уже не дотянуться. И единственное, что еще можно выключить в этой схеме, – это сам человек.

И эти рассуждения закрывают мини-серию статей про новую концепцию войны, которой еще нет.

Аарон Леа, Борух Таскин