Европейската комисия предварително установи, че TikTok нарушава Закона за цифровите услуги (ЗЦУ) заради т.нар. ефект на „заешката дупка“ при алгоритъма за препоръчване на съдържание.

Става дума за потока For You („За теб“), който предлага на потребителите непрекъснато видеоклипове, персонализирани според техните интереси и взаимодействия с платформата.

Колкото повече потребителят гледа или харесва определен тип съдържание, толкова повече подобни видеоклипове му препоръчва алгоритъмът. Това може да има вредни последици, когато става дума за многократно излагане на съдържание, свързано с тъга, изолация или образа на собственото тяло.

„Заешка дупка“ 

Това явление се нарича „заешка дупка“. Названието му идва от книгата „Алиса в страната на чудесата" – влизаш за секунда, но неусетно пропадаш с часове. Това може да се отрази отрицателно на психичното здраве, особено на уязвими възрастни и непълнолетни.

Предварителните констатации на Комисията засягат както оценката на рисковете, така и мерките за тяхното ограничаване.

Недостатъчна оценка на рисковете

Според Брюксел TikTok не е оценил адекватно как алгоритъмът за препоръчване може да въвлече потребителите в „заешки дупки“ и да изложи благосъстоянието им на риск.

Алгоритъмът използва информация за поведението на потребителите – например кои видеоклипове гледат и харесват – за да персонализира препоръките си.

Когато някой многократно гледа или харесва съдържание, което може да предизвиква негативни реакции, например за отслабване или външния вид, системата приема тези взаимодействия като положителен знак за интерес и му предлага още от същото.

Повтарящото се излагане на подобно съдържание може да има сериозни отрицателни последици – засилване на тъгата и тревожността, неудовлетвореност от собственото тяло, понижено самочувствие или влошаване на вече съществуващи хранителни разстройства и психични проблеми.

Мерките за ограничаване на риска не са ефективни

Комисията предварително заключава също, че TikTok не е въвел пропорционални, разумни и ефективни мерки за ограничаване на тези рискове.

Въпреки че платформата вече е предприела определени действия, те не са достатъчно ефективни. Мерките за разнообразяване на препоръчваното съдържание не намаляват в достатъчна степен честотата, с която се предлагат сходни видеоклипове, включително такива, свързани с психични проблеми и образа на тялото.

Инструментите за контрол също не позволяват на потребителите ефективно да управляват препоръките. Например натискането на бутона „Не ме интересува“ може да не е достатъчно, за да промени съдържанието в потока. Алгоритъмът дава приоритет на времето, прекарано в гледане, пред желанието на потребителя да вижда по-малко определен тип съдържание.

На този етап от разследването Комисията смята, че TikTok трябва да промени дизайна на потока For You. Сред възможните мерки са алгоритъмът да се съобразява повече с изрично заявените предпочитания на потребителите, да спре да използва времето за гледане като показател за препоръчване на съдържание, да подобри достъпността и използваемостта на инструментите за контрол и редовно да тества алгоритъма си.

Ако позицията на Комисията бъде потвърдена, тя може да приеме решение за установяване на несъответствие със закона. То може да доведе до глоба в размер до 6% от общия годишен световен оборот на доставчика на услугата.

------

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.