Колкото по-убедителни стават изображенията, създадени с изкуствен интелект, толкова по-трудно е човек да различи истинската снимка от фалшификата. Именно затова германски учени разработиха нов метод за откриване на т.нар. дийпфейкове, който не търси обичайните "грешки" в изображението, а използва друг изкуствен интелект, за да провери произхода му.

Новата технология носи името RealOrRender и е създадена от Института Fraunhofer за оптоелектроника, системни технологии и обработка на изображения (Fraunhofer IOSB) заедно с Федералната служба за информационна сигурност на Германия (BSI).

Какво всъщност представлява дийпфейкът?

Дийпфейк се нарича изображение, видео или звук, създадени или силно променени с помощта на изкуствен интелект. Само преди няколко години подобни фалшификации често се разпознаваха по странни пръсти, неестествени лица или размазани детайли. Днешните генеративни AI системи обаче създават изображения, които на пръв поглед изглеждат напълно реални.

Това превръща откриването им в сериозно предизвикателство както за медиите, така и за полицията, съдилищата, социалните мрежи и институциите, които трябва да установят дали дадена снимка е автентична.

Вместо да търси грешки, AI се опитва да повтори снимката

Повечето съществуващи системи за разпознаване на дийпфейкове анализират изображението за характерни следи, които генеративният AI оставя след себе си.

RealOrRender работи по различен начин.

След като получи дадена снимка, системата първо възлага на генеративен AI модел да я пресъздаде възможно най-точно. След това втори модел сравнява оригинала и новосъздаденото изображение.

Ако снимката може да бъде възпроизведена сравнително лесно, това е знак, че вероятно още първоначално е била създадена от генеративен изкуствен интелект, а не е истинска фотография.

"Ако реконструкцията е успешна, вероятността изображението да е генерирано от AI е по-висока", обяснява старшият изследовател Андреас Шпекер от Fraunhofer IOSB.

След това тази информация се комбинира с анализа на традиционна невронна мрежа, която също оценява изображението. Именно съчетаването на двата подхода повишава точността на системата.

До 91% успеваемост

Според разработчиците RealOrRender разпознава изображенията с точност между 85 и 91 процента, като при определени видове снимки резултатите са още по-добри.

Изследователите подчертават, че технологията не разчита само на конкретни визуални дефекти, които с времето могат да изчезнат с развитието на AI моделите. Това означава, че системата има потенциал да остане ефективна и срещу следващите поколения генеративен изкуствен интелект.

Не просто казва "фалшиво", а показва защо

Една от най-интересните особености на RealOrRender е, че не действа като т.нар. "черна кутия" – система, която дава резултат без обяснение.

След анализа програмата визуализира кои части от изображението са повлияли най-силно върху нейното решение. Това става чрез цветни топлинни карти, които маркират областите, предизвикали съмнение, както и чрез анализ на текстурите и честотните характеристики на изображението.

По този начин експертът не получава само заключение, че снимката вероятно е генерирана от AI, а може да проследи как системата е достигнала до този извод.

Подобна прозрачност е особено важна при използването на технологията от съдебни експерти, разследващи органи, журналисти и модератори на онлайн платформи, където всяко решение трябва да може да бъде аргументирано.

Срещу измами и дезинформация

Проектът RealOrRender се разработва между септември 2024 г. и май 2026 г. с финансиране от Федералната служба за информационна сигурност на Германия.

Първоначално системата ще се използва като демонстрационен инструмент за нуждите на германската служба, но разработчиците смятат, че технологията може да бъде полезна и при разследване на онлайн измами, кражба на самоличност, разпространение на фалшиви изображения и кампании за дезинформация.

С нарастващите възможности на генеративния изкуствен интелект подобни инструменти се превръщат във все по-важна част от усилията за проверка на автентичността на дигиталното съдържание.

---

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.