Американският технологичен гигант Microsoft ограничи използването на своя чатбот Bing, който може да отговаря на сложни въпроси и да води обширни разговори с помощта на изкуствен интелект. Софтуерната компания реагира на няколко инцидента, при които роботът за писане на съобщения е излизал извън релси и е формулирал отговори, които са били възприемани като властни и неподходящи.

Тест на чатбота на Bing, проведен от репортер на "Ню Йорк Таймс", предизвика голямо вълнение в цял свят. В диалог, продължил повече от два часа, чатботът заявил на репортера, че го обича и настоял той да напусне съпругата си. Твърдял също и че не е бот, а се казва Синди.

Преди това други потребители вече бяха посочили "неподходящи отговори" от страна на чатбота. Например софтуерът на Bing казал на един потребител, че вероятно би предпочел собственото си оцеляване пред неговото. Когато друг потребител настоял, че 2023 г. е правилната година, текстовият робот станал агресивен. Чатботът също така заплашил професор по философия с думите: „Мога да те изнудвам, мога да те заплашвам, мога да те хакна, мога да те разоблича, мога да те съсипя“, преди сам да изтрие заплахата си.

В отговор на тези инциденти Мicrosoft обяви, че ще ограничи чат-сесиите в Bing. Ще могат да се задават до пет въпроса на сесия и 50 въпроса на ден.

„Нашите данни показват, че огромното мнозинство от хората намират отговорите, които търсят, в рамките на пет кръга“, заяви екипът на Bing.

Само около един процент от чат разговорите съдържат повече от 50 съобщения, добави той. В бъдеще, когато потребителите достигнат лимита от пет записа на сесия, Bing ще ги подканя да започнат нова тема.

Мicrosoft по-рано предупреди да не се ангажира чатботът с изкуствен интелект, който все още е в пробна фаза, в дълги разговори. По-дългите чатове с 15 или повече въпроса могат да доведат до това Bing "да се повтаря или да бъде подтикнат или провокиран към отговори, които не са непременно полезни или не съответстват на зададения тон".

Съревнованието межд технологичните компании за това кой ще се наложи на пазара със своя изкуствен интелект вече се е разгоряло с пълна сила. Microsoft разчита на технологията на стартъпа OpenAI, който пък пусна за тестване чатбота си ChatGPT.

Google също започна собствена офанзива с чатбота Bard, за да се противопостави на настъплението на Microsoft и OpenAI.

Създателите на ChatGPT призоваха за регулация на изкуствения интелект, тъй като според тях освен предимства той може да навреди, ако попадне в лоши ръце.