След заседанието на Съвета за сигурност на ООН, посветено на изкуствения интелект и международната сигурност, ръководители на водещи технологични компании предупредиха за рискове, които според тях могат да надхвърлят възможностите на отделни държави и лаборатории. Сам Алтман от OpenAI заяви, че решенията за най-мощните модели не бива да остават в ръцете на един човек, компания или държава, и призова правилата да се изработват чрез демократични процеси. Дарио Амодеи от Anthropic посочи опасността изкуственият интелект да бъде използван за биологични оръжия и предупреди, че бъдещи модели могат да станат по-способни, отколкото създателите им могат да контролират. Йошуа Бенджио определи системите извън човешкия контрол като безпрецедентна заплаха и предложи най-мощните модели да бъдат лицензирани като критични технологии, а разработчиците им да носят финансова отговорност.

От друга страна, американската администрация отхвърли опитите за глобална схема за контрол над суперинтелекта. Майкъл Крациос от Белия дом заяви, че Съединените щати не приемат международен режим, който би могъл да ограничи технологичното им лидерство. Така на едно заседание се сблъскаха две позиции: индустрията поиска координация и общи правила, а Вашингтон защити националния контрол и свободата на разработките.

В центъра на дебата се оказа фразата на Дийн Бол, ръководител на екипа Strategic Futures в OpenAI и бивш съветник по изкуствения интелект в Белия дом: играем с парите на заведението в индианско казино в ниското подножие на сингулярността. Тя съдържа три метафори. Парите на заведението описват залагане на вече спечелени средства и приемане на по-голям риск – в случая огромните инвестиции, високите оценки и договорите за изчислителна инфраструктура. Индианското казино подсказва среда със собствени правила, в която технологичните лаборатории до голяма степен сами определят стандартите за безопасност, докато държавата се въздържа от международна рамка. Ниските предгория на сингулярността омаловажават патоса около технологичното бъдеще: вместо величествен път към неизвестен връх, представата е за провинциално казино, построено в подножието му.

Фразата привлече внимание, защото авторът ѝ не е външен критик. Бол е участвал в изработването на американската стратегия за изкуствен интелект, а днес изследва как обществото трябва да се подготви за трансформиращи технологии. Спорът остава без лесен изход. Няма съгласие колко близки са най-тежките рискове, дали е нужно забавяне на разработките и дали международно споразумение е възможно без участието на всички големи технологични и военни сили. Междувременно индустрията увеличава залозите, а държавите спорят кой трябва да държи ръката върху спирачката.