Папа Лъв XIV призова правителствата да поставят изкуствения интелект под много по-строги правила и да го "разоръжат" от логиката на властта, печалбата и доминацията. Това стана в първата му голяма енциклика, представена във Ватикана.
Документът носи заглавието "Magnifica Humanitas" ("Величествено човечество") и е първата енциклика на първия папа от САЩ. Подобни текстове се смятат за една от най-авторитетните форми на папско учение към Католическата църква и нейните около 1,4 млрд. вярващи.
"Изкуственият интелект сега изисква да бъде разоръжен, освободен от логиките, които го превръщат в инструмент на доминация, изключване и смърт", заяви папата при представянето на документа.
Лъв XIV подчертава, че изкуственият интелект може да бъде полезен инструмент, но предупреждава, че без контрол той крие сериозни рискове за човечеството. Според него технологиите трябва да служат на общото благо, а не на малки групи, които могат да концентрират огромно влияние върху информацията, потреблението, демократичните процеси и икономиката.
Особено остро папата критикува употребата на AI във войните. В енцикликата се казва, че автономните оръжейни системи, подпомагани от изкуствен интелект, правят военните действия "по-осъществими". Понтификът настоява всяка употреба на AI във военен контекст да бъде подложена на "най-строги етични ограничения".
Според него е "недопустимо" решения за живот и смърт да бъдат поверявани на машини. В същото време Лъв XIV уточнява, че призивът за "разоръжаване" не означава отхвърляне на технологиите.
"Да разоръжиш не означава да отхвърлиш технологията, а да не ѝ позволиш да доминира над човечеството", пише той.
Папата настоява AI да бъде "приятелски към човека", достъпен за всички и подложен на обществен дебат. Според него са нужни стабилни правни рамки, независим контрол, информирани потребители и политическа система, която не абдикира от отговорността си.
На представянето във Ватикана присъстваха и експерти по изкуствен интелект, сред които Крис Ола, съосновател на американската компания Anthropic. Той призна, че компаниите в сектора работят "в рамките на набор от стимули и ограничения, които понякога могат да влязат в противоречие със стремежа да се постъпи правилно", и приветства участието на външни институции, включително Католическата църква, в дебата за посоката на развитие на AI.
В енцикликата Лъв XIV свързва технологичния напредък и със социалната цена на дигиталната икономика. Той говори за "нови форми на робство" - от модератори на съдържание, принудени да гледат травмиращи материали, до деца, добиващи редкоземни минерали, необходими за технологичната индустрия.
"Телата на тези хора са белязани, наранени и изтощени, за да може изчислителният поток да продължава без прекъсване", пише папата. "Тази реалност дълбоко предизвиква моралната съвест на нашето време."
В същия документ понтификът отправя и безпрецедентно извинение за ролята на Ватикана в трансатлантическата търговия с роби. Той нарича това "рана в християнската памет" и изразява съжаление, че Църквата е формулирала ясно, абсолютно и универсално осъждане на робството едва през XIX век.
"За това, от името на Църквата, искрено моля за прошка", пише Лъв XIV.
---
Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.
