Развитието на изкуствения интелект може да поеме по два опасни пътя, които застрашават човечеството. Първият е загуба на контрол над бъдещето в полза на самите ИИ системи. Това се определя като неприемливо, защото технологията трябва да служи на хората, а не обратното. За да се избегне този сценарий, методите за безопасност и съгласуване на ИИ с човешките интереси трябва да се развиват по-бързо от възможностите на моделите.

Втората заплаха е прекомерната концентрация на власт. Изключително мощен ИИ може да бъде използван от един човек, компания или правителство, за да наложи своя мироглед на всички останали. Подобен развой би могъл да доведе до изключително дистопични резултати. Опасност възниква и когато една държава или една компания за ИИ придобие прекалено голямо влияние.

За да се ограничат рисковете, се предлага координирано забавяне на разработването на усъвършенствани модели. Според представители на сектора това може да осигури една до две години допълнително време, преди моделите да достигнат критични нива на развитие, и да помогне за избягване на сериозни грешки в изчисленията. Тази позиция среща подкрепа сред водещи фигури в технологичната индустрия.

Така пред индустрията стои двойна задача: да не изпусне контрола върху все по-мощните системи и да не позволи властта над тях да се съсредоточи в малцина. Балансът между иновации, безопасност и разпределение на влиянието се очертава като ключов за бъдещето на изкуствения интелект.