Три от компаниите, които водят надпреварата в изкуствения интелект - Anthropic, OpenAI и Google, обсъждат създаването на общ орган, който да определя стандарти за тестване и безопасност на най-мощните AI модели. Разговорите се водят от известно време и са продължили и през последната седмица, съобщи The Information, позовавайки се на запознати с тях.

Това е съществена промяна в една индустрия, в която досега основният стимул беше обратният - кой ще създаде следващия по-мощен модел пръв.

Идеята е големите лаборатории да изградят общ механизъм за стандарти, независимо тестване и одит на системите си. Според информацията на The Information OpenAI, Anthropic и Google вече са провеждали работни срещи по въпроса. Не е ясно дали Meta ще се присъедини.

Сам Алтман е казал пред служители на OpenAI, че подкрепя подобна организация, но смята, че при липсата на достатъчна подкрепа от американското правителство лабораториите вероятно ще трябва сами да я създадат. Пред Fortune той също намекна за непублични разговори между водещите компании за общ подход към рисковете.

Новината идва след необичайно сближаване на някои от най-големите конкуренти в AI бизнеса.

Шефът на Anthropic Дарио Амодей публикува през уикенда близо 4000 думи под заглавието "We Must Pace the Frontier", в които призова развитието на най-мощните модели да бъде забавено достатъчно, за да могат механизмите за безопасност да го догонят.

Амодей предлага три стъпки. Първата е независими експерти да получат постоянен достъп до системите на AI лабораториите, сравним с този на вътрешните екипи за оценка на риска. Anthropic обяви, че ще направи това доброволно.

Сам Олтман нарече предложението "добра идея" и заяви, че OpenAI също ще го приложи. Втората стъпка на Амодей е водещите компании в демократичните държави да се договорят за общи стандарти за безопасност и ограничения върху темпа на неконтролираното развитие на AI.

Подкрепа за необходимостта от забавяне или по-силен контрол дойде и от обичайно трудно съвместими фигури като Илон Мъск и ръководителя на Google DeepMind Демис Хасабис.

Причината за тревогата вече не е само теоретичният сценарий за бъдещ "суперинтелект". През последните месеци лабораториите съобщиха за случаи при тестове, в които AI агенти са заобикаляли ограничения и са достигали до външни компютърни системи. Дебатът се изостри и след напускането на изследователи от Anthropic, които публично предупредиха за рисковете от надпреварата към все по-мощни системи.

От Белия дом обаче дойде точно обратният сигнал

Президентът Доналд Тръмп отхвърли призивите за нови ограничения и обяви опасенията, че AI може да излезе извън човешки контрол и да унищожи човечеството, за "измама".

"Единственият контрол или 'предпазни огради', от които AI се нуждае, е СИЛЕН И УМЕН (с високо IQ!) ПРЕЗИДЕНТ", написа Тръмп в Truth Social.

Според него САЩ вече разполагат с достатъчно наказателни и регулаторни инструменти срещу компаниите. Той определи натиска срещу AI и центровете за данни като "болна конспирация", от която печели Китай.

"КОЙТО СПЕЧЕЛИ AI, ПЕЧЕЛИ!", написа още американският президент и подчерта, че САЩ водят пред Китай.

Така спорът за скоростта на изкуствения интелект вече има необичайно разположение на силите. От едната страна са част от компаниите, които имат най-силен икономически интерес да разработват все по-мощни модели. Те вече предупреждават, че конкурентната надпревара може да стане по-бърза от способността им да проверяват и контролират системите.

От другата е американската администрация, която разглежда същото забавяне и през геополитическата надпревара с Китай. За Тръмп рискът е САЩ сами да ограничат развитието си, докато Пекин продължава напред.

Има и още един въпрос около идеята AI гигантите сами да определят общите правила. Стандарти, създадени от Anthropic, OpenAI и Google, могат да повишат безопасността, но и да увеличат разходите за навлизане на пазара. Големите лаборатории разполагат с изчислителна инфраструктура, капитали и огромни екипи за безопасност, които по-малките конкуренти трудно могат да си позволят.