Девет държави притежават ядрени оръжия, а договорите за контрол над въоръженията отслабват. Северна Корея, Китай и Русия продължават да развиват ядрения си потенциал. В същото време се появява нова заплаха – възможността решенията за използване на ядрено оръжие да бъдат поверени на изкуствен интелект. Експерти предупреждават, че това може да направи ядрените заплахи по-убедителни, но крие огромни рискове.

Исторически прецедент е съветската система „Мъртвата ръка“ или „Периметър“, създадена по време на Студената война. Тя е трябвало да гарантира ответен удар дори при унищожаване на ръководството. Днес обаче автоматизацията може да се използва не само за възпиране, но и за принуда. Ако лидерът предварително делегира решението за ядрен удар на компютърна система, той „вързва ръцете си“ и заплахата става по-правдоподобна, защото противникът не може да разчита на колебание в последния момент.

Проведен е експеримент с над 100 британски депутати и повече от 1000 граждани. Участниците са гледали хипотетичен сценарий, при който Русия напада Естония и заплашва НАТО с ядрен удар. Когато заплахата е изпълнявана от автоматизирана система, гражданите са били с над 13% по-склонни да повярват, че Русия ще използва ядрено оръжие, а депутатите – с около 9% по-склонни да отстъпят от защитата на Естония.

Опасностите от автоматизацията са сериозни. Компютърните системи могат да откажат, да бъдат хакнати или да интерпретират погрешно информация. По време на Студената война е имало фалшиви сигнали за ядрена атака, но човешката преценка е предотвратила катастрофа. При изкуствения интелект рискът е по-голям, особено ако моделите са сложни и трудни за проверка. Хакерска атака също може да има ужасяващи последици.

Държавите може да имат стимул да твърдят, че разполагат с автоматизирана ядрена система, дори да не е вярно. Самата несигурност може да накара противника да отстъпи. Така автоматизацията се превръща в психологически инструмент за ядрена принуда.

Авторите предлагат мерки: укрепване на способностите за втори ядрен удар, международно споразумение за забрана на автоматизираното изстрелване, както и включване на правилото за човешки контрол в националното законодателство. За НАТО е важно да провежда симулации, за да види как би реагирал при автоматизирана заплаха.

Изкуственият интелект ще намира все повече приложения във военната сфера, но автоматизирането на ядреното командване е съвсем различно. Технически грешки, кибератаки и прекомерно доверие в системите могат да превърнат една грешка в глобална катастрофа. Човешкият контрол върху ядрените решения трябва да остане неприкосновен.