Цялото национално морско пространство на България е заплашено в случай на навлизане на изкуствения интелект (ИИ) при използването на дронове и плавателни съдове в Черно море по време на войната в Украйна.

Това заяви пред Клуб Z флотилен адмирал Калин Калинов – началник на Висшено военноморско училище „Никола Вапцаров“ във Варна.

Той участва в конференция „Границите на ИИ и рискът от цифрова свръхинтелигентност“. Тя се проведе в Европейския парламент в Брюксел и неин домакин бе българският евродепутат Емил Радев от Европейската народна партия (ЕНП).

„Като че ли в ЕС битува едно споделено схващане, че иновациите не бива да влизат в деструктивната сфера на военното дело. От друга страна, като опоненти в съвременната среда за сигурност има държави, които не спазват това правило. В тази връзка различни приложения в сферата на отбраната могат да представляват такава опасност. Да, навлизането на ИИ в оръжейната сфера генерира допълнителни неочаквани до този момент опасности“, каза Калинов.

Той обаче не назова Русия, нито която и да било друга страна, запитан кой не спазва тези правила. Флотилният адмирал отговори, че това са „противниците на европейската ценностна система, а кои са те - това е широк кръг“.

„Нали си представяте оръжейни технологии, които по някаква зададена им логика са дислоцирани в Черно море, избират и атакуват цели по тяхно усмотрение? Виждате, че българските военноморски сили са изправени пред сериозни изпитания, но се справят достойно към момента. Става дума за мини,  напоследък безпилотни летателни апарати. Но ако в тази сфера, в тези оръжия навлязат постиженията на ИИ, те стават изключително опасни“, заключи Калин Калинов.

Участие в конференцията взе и българският еврокомисар Екатерина Захариева. Неин ресор са стартиращите предприятия, научните изследвания и иновациите.

“Като че ли имаме две понякога крайни мнения. Едното е да приемем изкуствения интелект без ограничения, без лимит, без регулация. Другото е притеснението от това какво ще последва, отричането му, поради което – и изпускането на възможностите, които може да ни предостави ИИ за подобряване на живота на гражданите на ЕС“, заяви Захариева.

Според нея европейският път, който сме избрали, може да даде и двете – хем да бъдем амбициозни,лидери в изкуственият интелект,хем да бъдем отговорни и предпазливи.

Тази година ЕС ще инвестира в изкуствения интелект 50 милиарда евро, изтъкна еврокомисарят.

„Но ние изоставаме. САЩ ще ивестират 120 милиарда долара. И Китай напредва бързо. Нито една европейска страна членка не може самостоятелно да осигури финансиране и да направи иновационен пробив“, предупреди Емил Радев.

Той също смята, че навлизането на ИИ много бързо навсякъде, включително във военната сфера, е опасно.

Последните решения трабва да са на човека

„Там етичните норми са много големи, но много трудно се поставят нужните граници и регулация. Може вече в дрон, използван основно във военните действия, който е снабден с ИИ, да бъде заложено лицево разпознаване на мишената Той може да лети, да търси автономно тази мишена и в момента, в който я локализира, за изстреля ракетата. И тук може изобщо да няма човешка намеса. Когато става дума за човешки живот, е недопустимо такова нещо да се случва. Винаги трябва да има човек, който накрая да взема решението“, каза Радев пред Клуб Z.

Същите предизвикателства по думите му крие и използването на ИИ в правосъдието:

„Да, той може за кратко време да анализира стотици съдебни казуси, да даде някакви решения. Но не винаги те са верните. И оттам нататък винаги след това трябва да има субективна, независима воля на съдията, който да вземе крайното решение. Да ще бъде подпомогнат от ИИ, но тук крайната дума трябва да бъде на човека.“

Ще заличи ли ИИ изкуството?

ИИ може да заличи изкуството, предупреди проф. Д-р Андрияна Андреева - дългогодишен ръководител на катедра „Правни науки“ в Икономически университет–Варна.

За пример тя даде легендарния 37-и ход, направен от британския компютър AlphaGo  срещу южнокорейския професионалист Ли Седол. Това става по време на мач от играта го през 2016 г. Мачът завършва при резултат 4:1 игри за компютъра, което променя съдбата на играта, често сравнявана по сложност с шахата.

Година по-късно един още по-съвършен компютър играл го срещу 61 души. Той спечелил 60 игри и не загубил нито една. Единственото равенство било регистрирано поради пропадането на връзка с един от хората.

„Бъдещите хора няма да различават изкуството, създадено от човека, и това, създадено от ИИ. Какво ли биха почувствали Бах, Моцарт, Леонардо, Рембранд?“, попита проф. д-р Андреева.

Тя допълни, че сред най-големите проблеми са етиката и моралът. И се запита дали ще успеем чрез правни норми да регулираме навлизането в тези етични граници.

„Един познат казва, че ИИ е като алкохола – до определена възраст трябва да бъзе забранен“, обобщи флотилен адмирал Калин Калинов.