На 23 септември Съветът за сигурност на ООН обсъди изкуствения интелект и международната сигурност. На заседанието ръководители на водещи технологични компании предупредиха, че най-мощните модели могат да създадат рискове, които отделни държави и лаборатории не могат да овладеят сами. Сам Алтман от OpenAI заяви, че решенията за тези модели не бива да зависят от един човек, компания или държава, и призова правилата да се изработват чрез демократични процеси. Дарио Амодеи от Anthropic посочи опасността от биологични оръжия и възможността бъдещи системи да станат по-способни, отколкото създателите им могат да контролират. Йошуа Бенджио описа риска от системи извън човешкия контрол като безпрецедентна заплаха и предложи лицензиране на най-мощните модели по модела на критичните технологии, включително ядрената енергетика, както и финансова отговорност за разработчиците.

Американската администрация реагира чрез Майкъл Крациос от Белия дом, който отхвърли всеки опит за глобалистка схема за контрол над суперинтелекта. Така на едно заседание се сблъскаха две линии: компаниите, разработващи най-мощните модели, поискаха международна координация, а Вашингтон предупреди, че глобалният контрол може да ограничи американското технологично лидерство.

Фразата на Дийн Бол – за игра с парите на заведението в индианско казино в ниските предгория на сингулярността – предлага три метафори. Парите на заведението описват повторно залагане на вече спечелени средства и по-висок риск, което препраща към огромните инвестиции, оценки и договори за изчислителна инфраструктура, сключвани с пари на инвеститори, държави и пазари. Индианското казино насочва към среда със собствени правила – технологичните лаборатории, които до голяма степен сами определят стандартите за безопасност, докато държавата се отказва от международна рамка. Ниските предгория на сингулярността свалят патоса: вместо величествен път към неизвестен връх, Бол рисува провинциално казино в подножието му.

Бол не е външен критик. Той е бил съветник по изкуствения интелект в Белия дом и е участвал в американския План за действия в тази област, а днес ръководи екипа Strategic Futures в OpenAI. Затова спорът остава без лесен изход: няма съгласие колко близки са най-тежките рискове, дали са нужни забавяне на разработките и дали международно споразумение е възможно без всички големи технологични и военни сили. Индустрията увеличава залозите, а държавите спорят кой да държи ръката върху спирачката.