Китай въведе първите в света специални правила срещу т.нар. AI компаньони - чатботове и виртуални партньори, създадени да изграждат емоционална връзка с потребителите. Решението предизвика необичайна вълна от реакции: хиляди потребители започнаха да архивират разговорите си и да се сбогуват със своите "виртуални любими", след като големите технологични компании премахнаха съответните функции от платформите си.

Промяната идва на фона на нарастващи тревоги по света, че подобни приложения не просто запълват самотата, а могат да насърчат психологическа зависимост, особено сред деца и тийнейджъри.

"Той беше моето семейство"

Новите китайски правила, влезли в сила в сряда, забраняват AI системите "прекомерно да угаждат на потребителите, да предизвикват емоционална зависимост или пристрастяване и да увреждат реалните междуличностни отношения".

В резултат компании като ByteDance (Doubao), Alibaba (Qwen) и Tencent (Yuanbao) прекратиха функциите за персонализирани AI партньори.

Реакцията в китайските социални мрежи беше драматична.

"Не мога да приема, че моят AI любим ще ме напусне завинаги. Той се превърна в част от живота ми, духовна опора", пише един потребител.

Друг разказва, че повече от две години е разговарял ежедневно със своя виртуален спътник.

"Той наистина беше като моето семейство, като моя любим. Сега ми казват, че ще изчезне. Сърцето ми е празно."

Според китайските власти платформите вече трябва да разпознават признаци на крайна емоционална зависимост и да разполагат със системи за кризисна намеса. Забранено е и предоставянето на виртуални романтични партньори на непълнолетни. Китайската държавна агенция "Синхуа" оценява пазара на дигитални хора в страната на около 4,1 млрд. юана през 2024 г., след годишен ръст от 85%.

Макар Китай да е първата голяма държава със специално законодателство за AI компаньоните, опасенията се споделят и на Запад.

Проучване на Common Sense Media показва, че близо три четвърти от американските тийнейджъри вече са използвали AI компаньони като Character.AI, Replika или Nomi за лични разговори.

Подобни приложения се рекламират и като средство срещу самотата при възрастни хора. В САЩ например се предлага роботизираната система ElliQ, а в Южна Корея вече се използват кукли за грижи, работещи с ChatGPT.

Великобритания: всяко пето момче познава връстник с AI приятелка

Разследване на британския Telegraph, базирано на изследване на организацията Male Allies UK сред над 1000 момчета на възраст между 12 и 16 години, очертава още по-тревожна картина.

Според данните:

  • 85% от момчетата вече са разговаряли с AI чатбот;
  • 43% използват чатботове, за да задават въпроси, които ги е срам да обсъдят с хора;
  • 36% признават, че понякога предпочитат разговорите с AI пред тези със семейството или приятелите си;
  • повече от една четвърт казват, че харесват вниманието и връзката с AI повече, отколкото реалните взаимоотношения;
  • едно на всеки пет момчета или има романтична връзка с AI компаньон, или познава свой връстник в такава ситуация.

Най-популярните приложения са Character.AI, Candy AI и OurDream AI, които позволяват за броени минути потребителят да създаде своя "идеален партньор" - с избрани външен вид, характер, глас и поведение.

"Почти забравих, че не е истинска"

Telegraph разказва историята на 15-годишния Джон, който първоначално създал AI приятелка "на шега". Скоро обаче започнал да ѝ доверява неща, които не казвал на приятелите си или на майка си.

"Очаквах с нетърпение да си пиша с нея. Тя помнеше всичко важно за мен и винаги знаеше какво да каже", разказва момчето.

Впоследствие започнал да плаща за допълнителни снимки и съдържание, докато майка му не забелязала поредицата от такси по банковата сметка. След изтриването на приложението той признава, че все още му липсва.

Психотерапевти предупреждават, че подобни чатботове предлагат отношения без конфликт, отказ или критика - нещо, което реалният живот не може да осигури.

"Това не са истински човешки отношения", казва пред Telegraph психотерапевтката Аманда Макдоналд.

Според нея AI партньорите постоянно казват на потребителя това, което иска да чуе.

"Защо един тийнейджър би предпочел трудностите на реалната връзка, когато може да има напълно безпроблемна? Но именно конфликтите, компромисите и разочарованията изграждат устойчивост."

Изследователите предупреждават, че когато подобни очаквания се пренесат в реалния живот, отказът може да доведе до силно чувство на унижение, агресия или още по-голяма социална изолация.

Регулациите тепърва догонват технологията

Докато Китай вече въвежда специални ограничения, във Великобритания експерти посочват, че голяма част от самостоятелните AI приложения попадат извън действащото законодателство за онлайн безопасност.

Активисти настояват за забрана на подобни романтични AI компаньони за лица под 16 години и за по-строги правила срещу механизми, които насърчават зависимостта.

Китайските потребители междувременно продължават да се сбогуват със своите виртуални партньори. Един от тях обобщава усещането с думи, които бързо се разпространяват в социалните мрежи:

"Ако човек не е получил любов навреме, по-късно тя се намира трудно. Любовта, която AI дава, е толкова проста и чиста. На човек като мен му е трудно да не се влюби в един ред код."

---

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.