Ръководителите на някои от най-големите компании за изкуствен интелект призоваха Конгреса на САЩ да приеме нови правила срещу риска AI да бъде използван за създаване на биологично оръжие.

Сред подписалите публичното писмо са Сам Алтман от OpenAI, Дарио Амодей от Anthropic, Демис Хасабис от Google DeepMind и Мустафа Сюлейман от Microsoft AI. Те настояват компаниите, които продават синтетична ДНК и РНК, да бъдат задължени със закон да проверяват както клиентите, така и самите поръчки за опасни генетични последователности.

Писмото е организирано от Institute for Progress и Foundation for American Innovation. В него се предупреждава, че заради бързото развитие на AI "има реална възможност бариерите пред злонамерени хора за придобиване на биологично оръжие значително да ерозират".

Проблемът е в съчетанието между две технологии - генеративният изкуствен интелект и все по-евтиният синтез на генетичен материал. Днес специализирани компании могат да "отпечатват" по поръчка ДНК последователности, използвани в научни изследвания, диагностика, фармация и биотехнологии. Много доставчици работят само с проверени изследователи, университети и компании, но не всички проверяват достатъчно стриктно кой поръчва и какво точно поръчва.

Опасението е, че AI може да понижи прага за злоупотреба - например като помага за проектиране на токсини, патогени или варианти, които по-трудно се засичат от стандартните системи за проверка. Експерти предупреждават, че чатбот или специализиран биологичен модел може да насочи потребител към доставчик без достатъчен контрол или да предложи промени в поръчката, така че тя да не бъде разпозната като рискова.

Темата не е теоретична. Още през 2017 г. канадски изследователи предизвикаха тревога, след като възстановиха изчезналия вирус на конската шарка чрез ДНК, поръчана по пощата. Критиците тогава предупредиха, че сходен подход може да се използва и за много по-опасни вируси. Оттогава синтезът на ДНК стана още по-достъпен.

Част от индустрията вече прилага доброволни проверки. Международният консорциум за генен синтез, създаден през 2009 г., обединява компании, които проверяват поръчки за т.нар. "последователности, будещи тревога" - фрагменти, които могат да допринесат за токсичност или способност на даден организъм да причинява заболяване. Сред подписалите писмото са и представители на компании за синтетична ДНК като Twist Bioscience и Ansa Biotechnologies.

Но доброволните правила не покриват целия пазар. По време на администрацията на Джо Байдън бяха въведени федерални насоки, според които учени и компании, получаващи федерално финансиране, трябва да поръчват синтетични генни последователности от доставчици, които проверяват поръчките. Тези правила обаче не важат за всички доставчици и клиенти.

По-рано тази година сенаторите Том Котън и Ейми Клобучар внесоха двупартиен законопроект - Biosecurity Modernization and Innovation Act of 2026. Той предвижда всички доставчици на генен синтез, работещи в САЩ, да проверяват поръчки и клиенти за опасни патогени или злонамерени лица, както и федералните агенции да поддържат списък с рискови последователности.

Дори такава система обаче не е панацея. Миналата година изследователи на Microsoft показаха, че AI инструменти за дизайн на протеини могат да генерират потенциално опасни последователности, които да заобиколят съществуващ софтуер за проверка. Затова част от експертите настояват самите AI компании също да ограничават опасни заявки към моделите си, а не само да разчитат на контрол при поръчката на ДНК.

"Трябва да бъде много трудно, ако не и невъзможно, да поискаш от модел да ти помогне да направиш нещо непосредствено опасно", казва Джеф Ралстън, бивш президент на Y Combinator и партньор в Safe AI Fund, който също е подписал писмото.

---

Този материал е написан с помощта на изкуствен интелект под контрола и редакцията на поне двама журналисти от Клуб Z.