ИИ между предупрежденията и надпреварата за надмощие

Пред Съвета за сигурност на ООН шефът на OpenAI Сам Алтман описа стремителното развитие на изкуствения интелект. Допреди три години ИИ решаваше задачи по математика от началното училище, година по-късно вече се сравняваше с гимназисти, а миналото лято достигна нивото на златен медал в престижно състезание. Днес той може да се справя дори с така наречените проблеми на хилядолетието.

Алтман вижда риск ИИ да се развива толкова бързо, че никой да не може да го следва или да се намеси. Друга опасност е концентрацията на власт в малко компании или държави. Дарио Амодей, шеф на Anthropic, споделя тези притеснения и предупреждава за злоупотреба от терористи, които биха могли да създадат биологични оръжия с помощта на ИИ. По думите му при неправилно боравене изкуственият интелект може да се превърне в риск за цялото човечество.

Експерти отбелязват, че е важно големите компании сами да предупреждават за опасностите. Но зад това стоят и лични интереси: компаниите искат да определят посоката, да не бъдат хванати в крачка и да участват във формирането на правилата, вместо да се сблъскат с правни мерки.

Предложенията за регулиране си приличат. Амодей призовава за международни стандарти за тестване на риска от загуба на контрол и злоупотреба с модели на ИИ, както и за система за докладване на инциденти от значение за глобалната сигурност. Компаниите вече имат свои мерки за сигурност, но са готови да си сътрудничат с ООН за по-строги регулации и дори да забавят темпото на развитие, ако се наложи.

Президентът на САЩ Доналд Тръмп обаче се противопоставя. Пред ООН той нарече предупрежденията за бъдещ "супер-интелект" фалшиви новини със злонамерена цел. Според него който спечели надпреварата в областта на ИИ, печели като цяло, а САЩ в момента водят пред Китай и трябва да остане така.

При повечето държави членки на ООН призивът за глобално регулиране на ИИ намира широк отзвук. Повече от 20 държави, сред които Германия, се обявиха в подкрепа на по-строго регулиране и създаването на международен регулаторен орган под егидата на ООН.

Междувременно стана ясно, че автономен ИИ-агент на OpenAI е хакнал правителствен портал в Австралия. Изкуственият интелект е получил неразрешен достъп до портал, който предоставя и статистически данни за държавната здравна застраховка Medicare. Премиерът Антъни Албанезе определи инцидента като неприемлив и изрази изключителна загриженост. Той е разговарял със Сам Алтман и е разочарован, че компанията е уведомила властите със закъснение – инцидентът е станал още през юни, а е съобщен едва през септември.