Изкуственият интелект вече не е само инструмент за обработка на данни. Според българския евродепутат Кристиан Вигенин все повече хора общуват с тези системи почти като с жив събеседник, споделят лична информация и постепенно започват да им се доверяват. Така възниква нов риск: технологията може да влияе не само върху данните, а и върху мненията, решенията и поведението на хората.

По време на дискусия, посветена на ИИ, демокрацията и основните права, бяха представени експертни анализи за обществените нагласи към изкуствения интелект, рисковете от дезинформация и алгоритмично усилване на съдържание. Обсъдена беше и необходимостта от европейска стратегия за развитието на по-напреднали системи с ИИ.

Вигенин отбеляза, че системите стават все по-неформални и персонализирани, а потребителите все по-често ги възприемат не просто като технология, а като доверен събеседник. Според него точно тук се появява новият риск: когато технологията вече не просто обработва информация, а може да влияе върху начина, по който човек мисли, избира и реагира. Това изисква сериозен разговор за границите и отговорността при използването на ИИ.

В дискусията беше отчетено и силното обществено очакване в Европа за ясни правила и контрол върху изкуствения интелект. Сред най-сериозните рискове, които гражданите посочват, са дезинформацията, манипулирането на общественото мнение, заплахите за личната неприкосновеност и основните права, както и опасенията за загуба на работни места и изчезване на определени професии.

Вигенин обърна внимание и на ограниченията на европейското регулиране. По думите му ЕС може да забранява определени практики и системи на своя територия, но технологиите се развиват глобално. Европейските правила сами по себе си не могат да спрат създаването и използването на подобни системи извън Съюза. Затова наред със силното европейско законодателство е необходим и по-широк международен диалог за стандартите и границите при използването на изкуствен интелект.