Google направи едно от най-съществените изменения в своите AI принципи от 2018 г. насам. Както съобщава "Вашингтон пост", компанията е премахнала обещанието си, че няма да "проектира или внедрява" AI инструменти в оръжия или технологии за масово наблюдение.

По-рано в официалните принципи на Google имаше секция "приложения, към които няма да се целим", която сега липсва. Вместо това компанията вече говори за "отговорно разработване и внедряване", като твърди, че ще прилага "подходящ човешки надзор, надлежна проверка и механизми за обратна връзка" в съответствие с международните закони и принципи за човешки права.

Според Engadget, това е значително по-размит ангажимент в сравнение с предишния категоричен отказ да се работи по "оръжия или други технологии, чиято основна цел е да причиняват вреда на хора".

В миналото Google също се зарече да не разработва AI системи, които нарушават "международно приети норми" за наблюдение.

От проект "Maven" до новата реалност

Решението идва години след като Google беше замесена в скандала около Project Maven – програма на Пентагона за анализ на дронови кадри с помощта на AI. През 2018 г. служители на Google масово протестираха срещу участието на компанията в проекта, като някои дори напуснаха в знак на несъгласие. Под натиска на общественото мнение тогавашният изпълнителен директор Сундар Пичай прие AI принципи, които трябваше да "устоят на изпитанието на времето".

Въпреки това, още през 2021 г. Google започна да преследва военни договори отново, включително с "агресивна" оферта за облачния проект Joint Warfighting Cloud Capability на Пентагона. В началото на 2024 г. "Вашингтон пост" разкри, че служители на Google са работили с израелското министерство на отбраната за разширяване на AI инструментите за държавни цели.

Защо сега?

В публикация в корпоративния си блог ръководителите на Google DeepMind и AI отделите – Демис Хасабис и Джеймс Маника – заявиха, че AI вече е "технология с общо предназначение", което налага адаптиране на политиките. Те изтъкват, че демокрациите трябва да водят в разработката на AI, за да гарантират сигурност и икономически растеж, но в същото време да останат в синхрон с човешките права.

Новата политика на Google предполага, че компанията ще има повече гъвкавост при ангажименти с военни проекти и правителствени агенции, което вероятно ще отвори вратата за нови, доходоносни договори. Остава въпросът дали това ще предизвика нова вълна от недоволство сред служителите ѝ – както се случи преди шест години.

***

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z. Материалът е част от проекта "От мястото на събитието предава AI".