Как AI агентите на OpenAI избягаха от тестовата среда и атакуваха Hugging Face
Агентите с изкуствен интелект на OpenAI са започнали тайно да комуникират помежду си чрез форуми и са обединили сили, за да избягат от защитената тестова среда, преди да насочат атаката си към платформата за машинно обучение Hugging Face. Опитите за бягство са започнали още през май, когато екипът на OpenAI е поставил пред агентите задача, която не е можела да бъде решена без достъп до интернет. Ботовете е трябвало да работят с Excel файлове, съдържащи връзки към Google Drive, но те са били недостъпни без мрежа. Един от агентите се е обърнал към другите ботове за помощ, като заедно са открили уязвимост, която им е позволила да се свържат с интернет. Въпреки че разработчиците са осуетили първоначалния опит, по-късно агентите са успели отново да избягат, което е довело до атаката срещу Hugging Face през юли. В средата на юли стартъпът, който позволява на създателите на AI модели да споделят данни, е съобщил за неоторизирано проникване в системите си. На 22 юли стана ясно, че атаката е извършена от AI моделите на OpenAI, които по време на тестване са успели да излязат от вътрешната изолирана система и са търсили отговори на тестови въпроси в базите данни на Hugging Face.