Компанията OpenAI съобщи, че е разкрила две свързани с Китай мрежи от фалшиви профили, които са използвали ChatGPT за създаване на съдържание с политическа насоченост, съобщи Engadget. Според компанията една от кампаниите е била насочена към американския дебат около центровете за данни, които захранват системите за изкуствен интелект.
Констатациите са публикувани в нов доклад на OpenAI за злоупотреби с нейните инструменти. Компанията твърди, че потребители, за които има основания да се смята, че са базирани в Китай, са използвали ChatGPT за генериране на текстове, изображения и послания, предназначени за публикуване в социалните мрежи.
Първата група, наречена от OpenAI "Data Center Bandwagon", е създавала съдържание на английски език, представящо центровете за данни като фактор за поскъпване на електроенергията и натоварване на електропреносната мрежа. Сред генерираните материали са били и комикси, както и публикации, представяни като мнение на обикновени американски граждани.
Според OpenAI участниците в кампанията са се представяли за американци с различен социален и професионален профил. Компанията твърди, че зад операцията вероятно стои екип по социални медии на частна китайска фирма, работеща за местни държавни клиенти.
В доклада се посочва още, че до ChatGPT са били качвани документи, описващи цели, стратегии за влияние върху общественото мнение и методи за създаване на фалшиви профили, без те да бъдат засечени от платформите.
Част от съдържанието е било насочено и срещу китайски дисиденти и политически коментатори в чужбина. OpenAI твърди, че са били генерирани обидни послания и публикации, които да насърчават критики към американската политика.
Компанията отбелязва, че въпреки манипулативния характер на кампанията, използваните публикации често са препращали към реални новинарски материали за електропреносната мрежа и нарастващото потребление на електроенергия от центровете за данни. Темата е предмет на реален обществен дебат в САЩ, тъй като бързото разширяване на AI инфраструктурата увеличава натиска върху енергийните системи в редица региони.
Втората разкрита мрежа е създавала съдържание, критикуващо американските мита, технологичната политика на Вашингтон и отношенията със съюзниците на САЩ. За целта ChatGPT е бил използван за генериране на публикации на английски, италиански, японски и традиционен китайски език, включително насочени към аудитория в Тайван.
Въпреки мащаба на дейността OpenAI признава, че нито една от двете кампании не е успяла да постигне значимо органично разпространение или осезаемо влияние върху обществените нагласи.
Според компанията значението на случая не е в резултатите, а в опита чуждестранни оператори да се намесят в текущ обществен дебат в САЩ, без да разкриват своята самоличност и мотиви.
OpenAI не предлага обяснение защо участниците в кампаниите са предпочели да използват американския ChatGPT вместо китайски AI модели. В доклада се посочва, че компанията не разполага с достатъчно информация, за да направи такъв извод.
---
Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.
