Трима ключови изследователи от американската компания "Антропик" (Anthropic) излязоха публично с тревожни предупреждения, че развитието на изкуствения интелект навлиза в зона на неконтролируем риск и може да доведе до унищожение на човечеството още през това десетилетие, съобщава „Аксиос“.

Джейкъб Коксън, изследовател в Anthropic, който напусна компанията, за да „бие тревога“, написа в Екс, че „хората, които създават ИИ (AI), искрено вярват, че той може да ни убие до края на десетилетието“. По думите му това не е маркетингов трик, а реален страх, който ръководители и старши учени споделят насаме.

Еван Хъбингър, ръководител на екипа по наука за съгласуването на ИИ (AI alignment science), подкрепи думите му:

„Наистина вярваме, че ИИ може да убие всички хора. Лично аз смятам, че вероятността е над 10% през следващото десетилетие.“

Той признава, че "Антропик" полага усилия, но все още няма план как да се гарантира безопасност при бъдещи суперинтелигентни системи.

Самюел Маркс, който ръководи екипа за надзор, който може да се разширява с развитието на системите на ИИ, добави, че „ИИ разработчиците смятат, че технологията им може да причини изчезване на човечеството или подобно катастрофално събитие и това може да се случи в следващите няколко години“. Според него най-опитните служители са и най-притеснени.

„Аксиос“ отбелязва, че тези предупреждения идват само дни след като ръководители на "Оупън Ей Ай" (OpenAI), включително изпълнителният директор Сам Алтман, заявиха, че ИИ навлиза в „страшен и неконтролируем етап“ .

Според медията големите ИИ компании се намират в епичен капан: ако забавят развитието, рискуват да изостанат; ако продължат напред, рискуват да загубят контрол. Въпреки това те продължават с пълна скорост, докато едновременно призовават за регулации или глобална пауза.

„Аксиос“ подчертава, че е трудно да се оцени реалната тежест на тези предупреждения, но фактът, че идват от самите създатели на най-мощните модели, е показателен.

Никой от експертите не твърди, че ИИ е непосредствена заплаха на високо ниво. Опасенията са свързани с темпа на развитие: технологията се подобрява по-бързо от очакваното и скоро може да започне да се самоусъвършенства — процес, който прави системите още по-мощни, по-непредвидими и по-трудни за контрол.

---

Този материал е създаден с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.