Създаваме същества от друг вид

Джефри Хинтън, един от изследователите, положили основите на съвременния изкуствен интелект, предупреждава, че технологията може да доведе до появата на системи, по-интелигентни от хората. По негови думи човечеството разполага само с няколко години, за да се адаптира към свят, в който хората вече няма да са единственият интелигентен вид.

„Реалността е, че създаваме същества от друг вид“, казва ученият. Според него големите технологични компании настояват изкуственият интелект да става все по-умен, без да обръщат достатъчно внимание на останалите характеристики на системите, които разработват.

Рискът не е точна прогноза, а мащаб

Хинтън оценява на 10 до 20 процента вероятността изкуственият интелект да доведе до изчезването на човечеството през следващите десетилетия. Той уточнява, че това не е конкретна прогноза за бъдещо събитие, а начин да се покаже колко сериозен е рискът.

„Ако ви кажат, че има 10 процента вероятност автобусът да катастрофира, няма да се качите на него. Смисълът на числата е да покажат, че рискът е сериозен. Не знаем колко сериозен, но е сериозен“, обяснява той.

Ученият отхвърля и аргумента, че несигурността оправдава изчакване. „Уникалният проблем при изкуствения интелект е, че ако нещата се объркат, ако той поеме контрола, няма да има втори шанс“, заявява Хинтън.

Позицията му среща и открит отпор. Главният изпълнителен директор на Nvidia Дженсън Хуанг не приема тази оценка и твърди, че числото не почива на научни изследвания, а подобни предупреждения са вредни. Той призовава решенията за бъдещето на технологията да се основават на доказателства и научни данни.

Критики към Тръмп и към саморегулацията

Хинтън определя Доналд Тръмп като корумпиран и сенилен престъпник и заявява, че употребата на термина свръхинтелигентност от американския президент показва, че той разбира почти нищо от изкуствен интелект. Според учения изразът има ясно техническо значение – система, по-интелигентна от хората – и не бива да се използва като общо название за технологията.

Хинтън се противопоставя и на идеята технологичният сектор сам да определя правилата за безопасност. Той сравнява подобен подход с възможността петролните, азбестовите и тютюневите компании сами да изготвят предупрежденията за рисковете от своите продукти.

От пионер до критик

Дълги години Хинтън работи върху невронните мрежи – компютърни системи, които се учат да разпознават закономерности в данни, вместо да изпълняват само предварително зададени правила. През 2012 г. той и негови студенти създават програма за разпознаване на изображения, която значително изпреварва конкурентите. Същата година Google придобива компанията му DNNresearch за 44 милиона долара, а невронните мрежи по-късно се превръщат в основа на моделите, разработвани от водещите компании в сектора.

През 2023 г. Хинтън напуска Google, за да може свободно да говори за рисковете от изкуствения интелект. Той е носител на наградата Тюринг, която получава заедно с Йошуа Бенджио и Ян Лекун, както и на Нобелова награда за физика.

Според него държавите имат общ интерес да споделят знания за безопасното развитие на технологията, тъй като никоя страна не би искала изкуственият интелект да излезе извън контрол на нейна територия.