В Калифорния днес ще бъде гласувано щатско законодателство, което си поставя за цел да ограничи рисковете, свързани с изкуствения интелект.

Компаниите, занимаващи се с иновативната технология, ще бъдат задължени да тестват системите си и да интегрират мерки за безопасност, за да избегнат маниулация с цел, например, унищожаване на щатската електрическа мрежа или създаването на химически оръжия. Според експерти това са сценарии, които биха могли да се случат в бъдеще, тъй като технологиите се развиват с мълниеносна скорост, обяснява Асошиейтед прес.

Срещу законопроекта остро се противопоставят технологичните компании, в това число Meta, собственикът на Facebook и Instagram, както и Google. Според тях регулациите са насочени срещу разработчиците, вместо да се концентрират върху хората, които използват системите на ИИ с цел нанасяне на вреда.

Противниците на законодателството искат да се изчака за повече насоки от федералното правителство. Поддръжниците му казват, че Калифорния не може да чака, посочвайки тежките уроци, научени заради липсата на бързи действия при налагането на правила за компаниите, опериращи социални медии.

Авторът на законопроекта Скот Винер, сенатор от Демократическата партия, коментира, че предложението ще осигури разумни стандарти за безопасност, предотвратявайки "катастрофални вреди" от изключително мощните модели на ИИ, които могат да се появят в бъдеще. Изискванията ще бъдат прилагани единствено спрямо системи, чието обучение струва над 100 млн. щатски долара за изчислителна мощност. В момента нито един съществуващ модел на ИИ не е стигнал до подобен праг, отбелязва АП.

На изслушване Винер подчерта, че "не става въпрос за по-малките модели на ИИ.

"Става въпрос за невероятно мащабни и мощни модели, които доколкото знаем, не съществуват днес, но ще съществуват в близко бъдеще."

Губернаторът от Демократическата партия Гавин Нюсъм обяви, че скоро щатът може да използва генеративни инструменти на ИИ за справяне с проблема със задръстванията по магистралите, за повишаване на безопасността по пътищата, както и за предоставяне на данъчни съвети. Администрацията му обмисля и нови правила срещу дискриминацията от страна на ИИ при наемането на работа. Нюсъм все пак предупреди, че свръхрегулацията може да постави щата в "опасна ситуация".

Законовото предложение, което е подкрепено от някои от най-известните изследователи на изкуствения интелект, ще доведе до създаването на нова щатска агенция, която ще регулира разработчиците и ще посочва добрите практики. Главният прокурор на Калифорния също ще може да предприема законови действия при случаи на нарушения.

Все по-многобройно обединение от технологични компании твърди, че изискванията ще демотивират компаниите да разработват големи системи за ИИ или да поддържат технологиите си с отворен код.

"Законопроектът ще направи екосистемата на ИИ по-малко безопасна, ще застраши моделите с отворен код, на които стартиращите компании и малките предприятия разчитат, ще се опре на стандарти, които не съществуват, и ще въведе регулаторна фрагментация", написа вицепрезидентът на Meta и зам. главен директор по защита на личните данни Роб Шърман в писмо до законодателите.

Предложението може и накара компаниите да напуснат Калифорния, за да избегнат регулациите, предупредиха от щатската Търговска камара.

Във вторник щатските законодатели ще разглеждат и друга амбициозна мярка за борба с автоматизираната дискриминация, проявяваща се, когато компаниите използват изкуствен интелект, за да проверят автобиографии за работни места и заявления за наемане на апартаменти.