Американската компания Anthropic, създател на моделите Claude, призова за глобално забавяне или временна пауза в разработването на най-мощните системи с изкуствен интелект.
Причината - според компанията новите модели вече показват признаци, че могат да ускоряват собственото си развитие и в бъдеще да станат по-трудни за човешки контрол. Anthropic твърди, че подобна пауза би дала време на обществата, регулаторите и изследователите по безопасност да наваксат с темпа на технологията.
Компанията обаче уточнява, че едностранно спиране няма да има смисъл. Ако само една фирма забави разработките си, конкурентите ѝ просто ще продължат напред. Затова Anthropic говори за международен механизъм, в който да участват водещи компании и държави, включително САЩ и Китай.
Сравнението, което компанията прави, е с контрола върху ядрените оръжия. Само че при изкуствения интелект проверката би била по-трудна - обучението на модел може да се скрие далеч по-лесно от ракетна шахта.
Предупреждението идва след данни на Anthropic, че AI вече ускорява работата по създаване на нов AI. Това е т.нар. "recursive self-improvement" - сценарий, при който система започва да помага все повече в собственото си усъвършенстване. Компанията подчертава, че това още не е факт, но смята, че може да се случи по-рано, отколкото институциите са готови да реагират.
Контекстът не е само академичен. Anthropic вече ограничи публичния достъп до модела си Mythos Preview заради силните му способности в киберсигурността. Според самата компания моделът е "strikingly capable" при задачи, свързани със сигурността на компютърни системи.
В САЩ темата вече стигна и до Белия дом. Президентът Доналд Тръмп подписа указ, който предвижда доброволно предоставяне на най-мощните AI модели за правителствен преглед до 30 дни преди публичното им пускане.
Критиците на Anthropic твърдят, че компанията вече има силна пазарна позиция и подобна пауза може да работи в нейна полза. Особено на фона на все по-конкурентни отворени модели, които могат да се използват локално и потенциално намаляват зависимостта от платформи като Claude, ChatGPT и Gemini.
В този прочит призивът за "безопасност" може да изглежда и като опит играта да бъде спряна, когато някой вече води в резултата.
Други опасения са, че ограниченията върху мощни модели могат да засегнат не само големите компании, а и независими разработчици, университети и потребители, които искат да пускат AI локално на собствен хардуер. Подобна политика би могла да концентрира технологията в ръцете на няколко корпорации и държави.
---
Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.
