Американската компания Anthropic, създател на моделите Claude, призова за глобално забавяне или временна пауза в разработването на най-мощните системи с изкуствен интелект.

Причината - според компанията новите модели вече показват признаци, че могат да ускоряват собственото си развитие и в бъдеще да станат по-трудни за човешки контрол. Anthropic твърди, че подобна пауза би дала време на обществата, регулаторите и изследователите по безопасност да наваксат с темпа на технологията.

Компанията обаче уточнява, че едностранно спиране няма да има смисъл. Ако само една фирма забави разработките си, конкурентите ѝ просто ще продължат напред. Затова Anthropic говори за международен механизъм, в който да участват водещи компании и държави, включително САЩ и Китай.

Сравнението, което компанията прави, е с контрола върху ядрените оръжия. Само че при изкуствения интелект проверката би била по-трудна - обучението на модел може да се скрие далеч по-лесно от ракетна шахта.

Предупреждението идва след данни на Anthropic, че AI вече ускорява работата по създаване на нов AI. Това е т.нар. "recursive self-improvement" - сценарий, при който система започва да помага все повече в собственото си усъвършенстване. Компанията подчертава, че това още не е факт, но смята, че може да се случи по-рано, отколкото институциите са готови да реагират.

Контекстът не е само академичен. Anthropic вече ограничи публичния достъп до модела си Mythos Preview заради силните му способности в киберсигурността. Според самата компания моделът е "strikingly capable" при задачи, свързани със сигурността на компютърни системи.

В САЩ темата вече стигна и до Белия дом. Президентът Доналд Тръмп подписа указ, който предвижда доброволно предоставяне на най-мощните AI модели за правителствен преглед до 30 дни преди публичното им пускане.

Критиците на Anthropic твърдят, че компанията вече има силна пазарна позиция и подобна пауза може да работи в нейна полза. Особено на фона на все по-конкурентни отворени модели, които могат да се използват локално и потенциално намаляват зависимостта от платформи като Claude, ChatGPT и Gemini.

В този прочит призивът за "безопасност" може да изглежда и като опит играта да бъде спряна, когато някой вече води в резултата.

Други опасения са, че ограниченията върху мощни модели могат да засегнат не само големите компании, а и независими разработчици, университети и потребители, които искат да пускат AI локално на собствен хардуер. Подобна политика би могла да концентрира технологията в ръцете на няколко корпорации и държави.

---

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.