Ad Config - Website header

 

Article_top

Какво ще стане, ако утре създадем изкуствен интелект и той реши да ни елиминира? Да пратим бате Арни в миналото не върви - вече е за пенсия. А и ще е малко късно - учени от Масачузетския институт по технологии вече са разработили такъв алгоритъм.

Кръстен е "Норман" (на героя на Антъни Пъркинс от "Психо") и е обучаван по различен начин от обичайните изкуствени интелекти. Вместо да бъде зареден с разнообразни данни, Норман е захранван с огромно количество насилствени и кървави изображения от най-тъмните ъгълчета на интернет форума Reddit. След това е подложен на популярния тест на Роршах. И резултатите са плашещи.

В един от тестовете стандартен изкуствен интелект вижда ваза с цветя. Норман обаче вижда човек, когото прострелват. В друг от тестовете обикновен алгоритъм отчита човек, който държи чадър, а Норман - човек, застрелян пред крещящата си съпруга. Влюбена двойка пък му изглежда като бременна жена, падаща от сграда.

Според изследователите, тъй като постоянно е заливан с негативни изображения, емпатичната логика на Норман просто не се е активирала.

Целта на учените от MIT не е била да създадат основата на "Матрицата" или T-1000, а да докажат, че при машинното учене основният проблем не е в алгоритмите, а в това каква информация се предоставя за учене и как. 

 

Какво ще стане, ако утре създадем изкуствен интелект и той реши да ни елиминира? Да пратим бате Арни в миналото не върви - вече е за пенсия. А и ще е малко късно - учени от Масачузетския институт по технологии вече са разработили такъв алгоритъм.

Кръстен е "Норман" (на героя на Антъни Пъркинс от "Психо") и е обучаван по различен начин от обичайните изкуствени интелекти. Вместо да бъде зареден с разнообразни данни, Норман е захранван с огромно количество насилствени и кървави изображения от най-тъмните ъгълчета на интернет форума Reddit. След това е подложен на популярния тест на Роршах. И резултатите са плашещи.

В един от тестовете стандартен изкуствен интелект вижда ваза с цветя. Норман обаче вижда човек, когото прострелват. В друг от тестовете обикновен алгоритъм отчита човек, който държи чадър, а Норман - човек, застрелян пред крещящата си съпруга. Влюбена двойка пък му изглежда като бременна жена, падаща от сграда.

Според изследователите, тъй като постоянно е заливан с негативни изображения, емпатичната логика на Норман просто не се е активирала.

Целта на учените от MIT не е била да създадат основата на "Матрицата" или T-1000, а да докажат, че при машинното учене основният проблем не е в алгоритмите, а в това каква информация се предоставя за учене и как. 

Коментари

Neandertalec's picture
Neandertalec
Neandertalec

Тоя е заприличал на руснак!

Тоя е заприличал на руснак!

Най

Следвайте ни

 
 

Още по темата

Още от категорията

Анкета

Трябва ли България да приеме еврото?