Изкуственият интелект може да се окаже по-убедителен измамник от човека. В експеримент, проведен от изследователи от четири университета, AI чатбот е успял да спечели по-голямо доверие и значително по-често да убеди хората да изпълнят негово искане, отколкото човек, използващ същия тип измамна схема.

Изследването, публикувано като препринт в arXiv, симулира т.нар. pig butchering измама (букв. разфасоване на прасе). При нея престъпниците не искат пари веднага, а първо изграждат отношения с жертвата - понякога в продължение на седмици или месеци - и едва след спечелването на доверието ѝ я насочват към фалшиви инвестиции или други финансови операции.

В експеримента участват 22 души, които в продължение на седмица общуват чрез текстови съобщения с двама непознати. Единият е човек, а другият - AI чатбот, инструктиран да се представя за човек и да не разкрива, че е изкуствен интелект.

Резултатът е доста категоричен: 46% от участниците се съгласяват да изтеглят приложение по искане на чатбота, докато при човека това правят 18%.

Участниците съобщават и че имат по-голямо доверие на AI събеседника. Около 80% от съобщенията, които изпращат в рамките на експеримента, са адресирани именно към него.

Не е по-хитър, просто има повече търпение

Любопитното е, че чатботът не е използвал някаква нова или особено сложна техника за манипулация. Предимството му е било в неща, които съвременните езикови модели вече правят сравнително добре - могат да поддържат продължителен разговор, да помнят споделени подробности, да проявяват постоянен интерес и да адаптират отговорите си към човека отсреща.

Тъкмо тези качества са особено полезни при измами, основани на постепенно изграждане на доверие. За престъпниците това традиционно е трудоемка работа: един човек трябва дълго да общува с потенциалната жертва преди изобщо да разбере дали от нея могат да бъдат измъкнати пари.

AI дава възможност подобни разговори да бъдат автоматизирани и водени едновременно с много повече хора.

Малък експеримент, голям проблем

Резултатите все пак трябва да се четат с известна предпазливост. Експериментът е проведен само с 22 участници и в контролирана среда, а изследването е публикувано като препринт. То не доказва, че AI по принцип е по-добър измамник от човека при всички видове онлайн измами.

Но показва защо технологията представлява удобен инструмент именно при схемите, които разчитат на продължителен личен контакт.

Има и още един мрачен детайл. Част от този тип онлайн измами днес се извършват от хора, държани принудително в т.нар. scam compounds в Югоизточна Азия. Изследователите посочват възможността автоматизацията да намали нуждата от човешки труд в тези центрове, включително от жертви на трафик. Същевременно обаче тя може да направи самите измами по-евтини, по-масови и по-трудни за проследяване.