Доклад, поръчан от правителството на САЩ и публикуван наскоро, предупреждава, че изкуственият интелект (AI) представлява значителен риск за националната сигурност и дори може да доведе до „екзистенциална заплаха за човешкия вид“, съобщи "Таймс".

"Появата на развит изкуствен интелект и универсален изкуствен интелект има потенциала да дестабилизира глобалната сигурност по начин, напомнящ появата на ядреното оръжие", пише в доклада.

"Универсален изкуствен интелект" (Artificial General Intelligence) засега е само концепция за напълно осъзнат AI. Такъв все още не съществува, ChatGPT и подобните на него модели са по-назад като технологии, няма и реалистични прогнози кога AGI ще се появи.

Пълното име на доклада е "План за действие за повишаване на безопасността и сигурността на напредналите AI". Освен предупреждения за опасностите от AI, авторите на доклада препоръчват широка гама от безпрецедентни регулации, които биха променили напълно AI индустрията в момента.

Като например - забрана на обучението на AI модели с помощта на определени нива на изчислителна мощност, изискване най-развитите AI компании да трябва да искат разрешение от властите за обучение и внедряване на нови модели над определено ниво. И още - потенциално криминализиране на публикуването на модели или вътрешни механизми на мощни AI модели като отворен код, както и правителствен контрол върху производството и износа на AI чипове.

За това е нужна федерална агенция за регулиране на AI. Според авторите на доклада забраната за обучение на развитие AI системи може да изравни надпреварата сред разработчиците и да забави индустрията, така че да се установят адекватни мерки за безопасност. А с времето въпросната федерална агенция може да увеличава прага на комплексност на моделите, които се докажат като безопасни.

Подобни стъпки обаче ще ударят сериозно AI индустрията, която в момента е практически напълно нерегулирана в САЩ. Опити за регулация вече са налице в ЕС, но те не са толкова строги.

Докладът е дело на трима специалисти от Gladstone AI, компания, която провежда технически брифинги за изкуствения интелект за правителствени служители. Те са работили през последната година с близък контакт с над 200 правителствени служители, експерти и работници в ключови AI компании като OpenAI, Google DeepMind, Anthropic и Meta. Той е струвал 250 000 долара на американското правителство.