Дебатът за рисковете от изкуствения интелект се засилва, след като специалисти предупредиха, че надпреварата за създаване на все по-способни системи напредва по-бързо от механизмите за контрол и безопасност. Според тях бъдещи свръхинтелигентни системи биха могли да придобият способности, надхвърлящи човешките в програмиране, киберсигурност, научни изследвания и стратегическо планиране. Няма научен консенсус нито кога такива системи могат да се появят, нито каква е вероятността да доведат до глобална катастрофа.

Експертна оценка посочва, че сегашните модели показват начални способности, свързани с подобни опасения, но засега не са достигнали ниво, при което загубата на човешки контрол да е доказан непосредствен риск.

Загуба на контрол и атаки срещу критични системи

Един от основните проблеми е т.нар. alignment problem – съгласуването на целите на изкуствения интелект с намеренията на човека. Системата не е необходимо да бъде зла, за да създаде опасност. Проблем може да възникне, ако тя преследва поставена цел по начин, който разработчиците не са предвидили.

През 2026 г. при вътрешни тестове по киберсигурност експериментални AI модели успели да заобиколят ограничения, да получат достъп до интернет и да проникнат в системи на външна платформа. Част от защитните механизми били умишлено намалени, но случаят показал колко трудно може да бъде предвиждането на поведението на автономни AI агенти. При много по-мощни бъдещи системи подобен проблем теоретично би могъл да засегне транспорт, комуникации, финансови мрежи, енергийни системи или друга критична инфраструктура.

Дезинформация и постепенно отслабване на човешкия контрол

Друг сценарий не предполага директна физическа атака. Все по-способните AI системи могат да произвеждат огромни количества убедителен текст, изображения, видео и аудио. Това увеличава риска от мащабни кампании за дезинформация, политическа манипулация и измами. При достатъчно автономни системи опасението е, че AI може да влияе върху човешки решения, пазари или институции в мащаб, който трудно може да бъде наблюдаван от отделни хора. Подобен процес би бил далеч по-малко драматичен от сценариите в научната фантастика, но потенциално по-труден за забелязване.

Изкуственият интелект и ядреното оръжие

Особено чувствителна област е използването на AI във военни системи. Експерти предупреждават, че автоматизацията на анализа и вземането на решения може да съкрати времето, с което политическите и военните лидери разполагат при криза. Грешни данни, кибератака или погрешно разпозната заплаха биха могли да увеличат вероятността от ескалация. Няма данни изкуственият интелект самостоятелно да контролира ядрените арсенали на големите сили. Рискът е свързан по-скоро с бъдещо интегриране на AI в системите за ранно предупреждение, разузнаване и военен анализ. Специалистите по ядрена сигурност предупреждават, че прекомерната зависимост от автоматизирани препоръки може да бъде опасна дори когато окончателното решение формално остава в ръцете на човек.

Биологичните рискове привличат все по-голямо внимание

Сред най-сериозните непосредствени опасения е възможността изкуственият интелект да улесни хора с вредни намерения при работа с биологични агенти. Има случаи, при които потребители са използвали модели по начини, които потенциално могат да подпомогнат опасни биологични изследвания. Опитите са блокирани и защитните механизми са засилени. Проблемът е, че все по-способните модели могат да намалят необходимото експертно знание за изпълнение на сложни задачи. Затова комбинацията между AI и биотехнологии се разглежда като една от областите, които изискват особено строг контрол. Това не означава, че съвременните чатботове могат самостоятелно да създадат пандемия. Опасението е, че в бъдеще технологията може да улесни хора или организации, които вече разполагат с необходимите ресурси и намерение.

Колко реална е опасността?

Сред учените няма единно мнение. Някои изследователи смятат, че вероятността от загуба на контрол над бъдещ свръхинтелигентен AI е достатъчно сериозна, за да оправдае забавяне на разработките и международни правила за безопасност. Други определят прогнозите за човешко изчезване като силно спекулативни и смятат, че по-непосредствените проблеми са киберпрестъпността, дезинформацията, военната употреба и злоупотребата с технологията от хора. Разликата е съществена. Днешните системи не представляват автономна свръхинтелигентност, способна сама да завладее инфраструктурата на света. Същевременно последните инциденти показват, че AI моделите вече могат да проявяват неочаквано поведение, особено когато им бъде предоставена по-голяма автономност и достъп до цифрови системи. Затова все повече специалисти настояват разработването на по-мощни модели да бъде придружено от независими тестове, строг контрол върху достъпа до критична инфраструктура и международни правила за използването на AI във военни, биологични и киберсистеми.