Компанията за изкуствен интелект Anthropic е установила и прекратила опити нейните модели Claude да бъдат използвани по начини, които биха могли да подпомогнат разработването на биологични и конвенционални оръжия. Това става ясно от новия доклад на компанията за заплахите, свързани със злоупотребата с нейните технологии, съобщи Би Би Си.

Сред установените случаи са още свързана с Русия кампания за кибершпионаж и използване на Claude от иранска пропагандна институция. През последните осем месеца компанията е засекла злоупотреби, вариращи от фалшиви приложения за запознанства и измами чрез хотелски Wi-Fi мрежи до системи за наблюдение, предназначени за откриване на дисиденти.

Anthropic посочва, че между декември 2025 г. и август 2026 г. е прекратила "злонамерено използване" на моделите Claude Haiku, Sonnet и Opus.

Според компанията сред злоупотребяващите със системите ѝ са предполагаеми групи, подкрепяни от държави, престъпници, производители на шпионски софтуер, държавни пропагандни институции и политически мотивирани лица.

Особено внимание в доклада е отделено на потенциалното използване на изкуствен интелект за разработване на биологични оръжия.

Anthropic описва пет случая, при които нейни модели са били използвани по начин, който би могъл да подпомогне подобна дейност. Компанията съобщава, че е блокирала учени, използвали изкуствения интелект по такъв начин.

Според Anthropic злоупотребата в областта на биологията е "един от най-сериозните рискове при най-мощните модели с изкуствен интелект". При липса на достатъчно защитни механизми подобни способности "могат да имат катастрофални последици", предупреждава компанията.

Проблемът е, че една и съща научна информация може да има както легитимно, така и опасно приложение.

"Същата информация, която може да бъде използвана за разработването на биологично оръжие, може да бъде използвана например и за създаването на ваксина или лечение на заболяване", посочва Anthropic.

От дронове и ракети до кибершпионаж

Докладът описва и шест случая, при които Claude е използван за разработване на софтуер за конвенционални оръжия. Сред тях са огнестрелни оръжия, ракети, въоръжени дронове, бомби и други боеприпаси, както и системите за насочване и управление към тях.

Anthropic е установила и увеличаващо се използване на нейните технологии от киберпрестъпници и подкрепяни от държави хакерски групи.

В доклада се споменава хакерската група ShinyHunters, както и лаборатории, базирани в Китай.

Група, чиято дейност според Anthropic съответства на тази на свързваната с Русия Midnight Blizzard, е използвала изкуствен интелект за създаването на система, която автоматично установявала кога зловредният ѝ софтуер е засечен от защитните системи. След това кодът бил пренаписван, докато успее да избегне засичането.

Базираната в Калифорния Anthropic съобщава, че е използвала информацията от установените случаи, за да подобри механизмите си за предотвратяване, откриване и прекратяване на подобни злоупотреби.

Компанията е споделяла информация с властите и представители на технологичния сектор, когато е преценила това за необходимо.

Водещ изследовател по безопасността в Anthropic наскоро е предупредил, че има над 10% вероятност развитието на изкуствения интелект да доведе до унищожаването на човечеството през следващото десетилетие.

В текста се посочва още, че главният учен на OpenAI Якуб Пахоцки е призовал технологичната индустрия да прилага доброволно забавяне на развитието, докато бъдат изградени достатъчно надеждни механизми за безопасност.

"Притеснявам се, че никой не е подготвен за последствията от продължаващото бързо нарастване на машинния интелект", казва Пахоцки.

Темата вече достига и до политически инициативи. Според Би Би Си американският сенатор Бърни Сандърс е внесъл законодателно предложение за забрана на изкуствения свръхинтелект и временно спиране на разработването на най-напредналите AI системи.

"Когато учените ви казват, че има вероятност това да има катастрофални последици за човечеството, трябва да си глупак, за да не кажеш: забавете темпото", заявява Сандърс пред BBC Newsnight.