OpenAI ще започне да вгражда невидим воден знак в текст, създаден или обработен от ChatGPT и Codex в Европейския съюз. Въвеждането ще е поетапно през следващите седмици и ще засегне всички абонаментни планове. Мярката е обвързана с европейския Закон за изкуствения интелект, който изисква генеративното съдържание да може да бъде разпознавано машинно.

Как ще действа технологията

Методът се казва textGrain. Той не слага видим печат, скрити знаци, излишни интервали или нестандартна пунктуация. Вместо това променя статистическата логика, по която моделът избира думи и части от думи. Специален детектор анализира тази закономерност и проверява дали в текста присъства сигнал от OpenAI.

„Водният знак не добавя скрити символи, допълнителни интервали или необичайна пунктуация“, посочва компанията.

От OpenAI обясняват, че това е част от по-общата им стратегия за проследяване на произхода на съдържанието. За изображения и аудио се използват други технологии и метаданни, докато при текста е избран отделен подход, съобразен с начина, по който езиковите модели създават отговори.

Какви са ограниченията

Инструментът за откриване на водния знак няма да бъде публично достъпен при старта. Право на достъп ще имат одобрени изследователи и специализирани организации, които ще проверяват точността му и ще работят за подобряването му.

Причината са слабостите на технологията. Кратките текстове се разпознават по-трудно, а редакция, превод или сериозна преработка могат да намалят силата на сигнала. Възможни са както грешни положителни резултати, така и пропуснати открития.

Самият воден знак не показва кой е ползвал ChatGPT, каква част от текста е дело на модела и какъв е приносът на човек. Той не служи като доказателство за авторство, собственост или юридическа отговорност. Обратно, липсата на сигнал не означава, че текстът е написан изцяло от човек.

Режим за API клиентите

От 5 октомври клиентите на OpenAI API по света могат по избор да активират текстово маркиране за някои модели. Функцията е изключена по подразбиране, така че разработчиците и компаниите сами решават дали да я използват в своите приложения.

OpenAI планира да разшири водните знаци и към услуги, които използват моделите ѝ чрез облачни партньори. Европейското въвеждане за ChatGPT и Codex ще остане регионално и няма да бъде автоматично активирано по целия свят.