OpenAI ще започне през следващите седмици да добавя невидим "воден знак" към част от текстовете, създавани от ChatGPT и Codex в Европейския съюз. Мярката ще важи за всички абонаментни планове и е част от изпълнението на изискванията на европейския Акт за изкуствения интелект (AI Act), съобщи компанията.

Технологията се нарича textGrain. За разлика от видим надпис или скрити символи в текста, тя променя по фин начин статистическия избор между различните думи и части от думи, които моделът може да използва при съставянето на отговор.

Така в по-дълъг текст се натрупва определен модел, който специален детектор на OpenAI може впоследствие да търси. Според компанията водният знак не представлява невидими интервали, специални знаци или допълнителни символи и обикновеното копиране на текста не го премахва. 

Причината за промяната е европейското законодателство. Член 50 от AI Act изисква доставчиците на системи, генериращи текст, изображения, аудио или видео, да направят изхода им разпознаваем като изкуствено генериран или манипулиран в машинночетим формат, доколкото това е технически възможно. Законодателството отчита и ограниченията на различните видове съдържание.

За клиентите на API на OpenAI възможността вече се предлага по целия свят, но по желание и за избрани модели. Там водният знак няма да бъде включен автоматично. Компанията работи и с доставчици на облачни услуги, за да въведе подобна възможност при използването на моделите ѝ през техните платформи

Не е "детектор за изкуствен интелект"

Същественото ограничение е, че водният знак далеч не означава, че всеки текст, произведен от ChatGPT, впоследствие може да бъде разпознат със сигурност.

Собствените тестове на OpenAI показват колко лесно сигналът може да отслабне при редактиране.

При текстове с дължина около 400 токена детекторът разпознавал водния знак в около 92% от случаите при първоначалния текст. Подмяната на 10% от думите със синоними сваляла успеваемостта до 66%. При замяна на една четвърт от думите тя падала до едва 17%. 

Проблем има и при кратките текстове. При зададено ниво на фалшиви положителни резултати от 1% системата откривала водния знак в около 80% от текстовете с дължина 200 токена и в около 95% от тези с 400 токена при определен тип свободно формулирани отговори.

При математика и други задачи, в които моделът има по-малко свобода да избира как да се изрази, резултатите са по-слаби. Кодът също е труден за маркиране по същата причина.

Самата OpenAI изрично предупреждава да не се прави обратният извод: ако детекторът не намери воден знак, това не доказва, че текстът е написан от човек. Той може да е бил редактиран, преведен, да е прекалено кратък, да идва от модел, който не използва технологията, или да е произведен от друга компания.

Също така положителният резултат не показва кой е използвал ChatGPT, каква част от текста е написана от човек, кой е неговият автор или собственик и дали съдържащата се в него информация е вярна.

Детекторът засега няма да е публичен

OpenAI няма да предостави свободен достъп до инструмента за разчитане на textGrain. В началния етап за него ще могат да кандидатстват одобрени изследователи и експертни организации.

Компанията мотивира решението именно с риска от фалшиви положителни резултати и от пропускане на действително маркирани текстове. Детекторът ще показва наличието на сигнал на OpenAI, но няма да разкрива кой потребител е създал текста, какъв е бил въпросът му или съдържанието на разговора.

Това е съществена разлика спрямо многобройните публични услуги, които днес обещават да определят дали даден текст е "написан от AI". Те обикновено анализират езиковите характеристики на вече готовия текст. textGrain, напротив, се опитва да вгради предварително статистически сигнал още в процеса на генериране. 

За издатели, училища и университети това означава, че технологията потенциално може да даде допълнителна информация за произхода на един текст, но не предлага автоматичен отговор на въпроса дали той е "човешки" или "написан от AI".

И още нещо важно: невидимият воден знак не отменя евентуалните изисквания за видимо обозначаване на AI съдържание. Според OpenAI необходимостта от такова обозначение зависи от конкретната употреба и приложимите правила.

----

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.