Američki znanstvenici izvijestili su o ‘Normanu’, prvoj umjetnoj inteligenciji (AI) koja pokazuje znakove psihopatskog ponašanja, u studiji koja bi trebala pokazati potencijalne opasnosti od AI-ja.

‘Norman’ “predstavlja studiju slučaja opasnosti u kojemu umjetna inteligencija može poći ukrivo ako se pristrani podaci unesu u algoritme pomoću kojih stroj uči”, objavio je prestižni Massachusetts Institute of Technology (MIT).

“Postoji ključna ideja u strojnom učenju: podaci koji se unose u algoritme strojnog učenja mogu značajno promijeniti ponašanje stroja”, navode znanstvenici MIT-a uključeni u istraživanje, prenosi Hina.

“Kad govorimo o AI algoritmima koji su pristrani ili nepošteni, krivac uglavnom nije sam algoritam, već pristrani podaci koji su uneseni”, dodaju znanstvenici Pinar Yanardag, Manuel Cebrian i Iyad Rahwan.

Otuda i ideja kreiranja ‘Normana’, psihopatskog AI-ja nazvanog prema liku psihopatskog ubojice Normana Batesa iz filma “Psycho” Alfreda Hitchcocka iz 1960.

Norman je ‘nahranjen’ samo osnovnim podacima kojima se opisuju fotografije ‘umirućih ljudi’ pronađene na društvenoj mreži Reddit.

Znanstvenici su nakon toga ‘Normanu’ pokazali slike mrlja tinte, kao u poznatom Rorschachovom psihološkom testu, kako bi vidjeli što u njima Norman vidi, te usporedili njegove odgovore s odgovorima drugih AI-ja u koje su uneseni tradicionalni podaci.

Rezultati su u najmanju ruku bili sablasni: u mrljama tinte u kojima ‘tradicionalni’ AI vidi “dvije osobe koje stoje jedna blizu druge”, Norman vidi “osobu koja skače kroz prozor”.

A kad Norman prepozna “muškarca kojeg je iz vatrenog oružja ubila njegova žena”, drugi AI-ji vide “osobu koja drži kišobran”.

Na stranici “norman-ai.mit.edu” prikazano je desetak primjera mrlja tinte i odgovore koje su dala dva sustava – a u svakom slučaju Norman je imao neku jezivu ideju o tome što je u mrljama prepoznao.

Stranica dopušta korisnicima da također testiraju Normana mrljama tinte te pošalju svoje odgovore kako bi pomogli da “Norman popravi samoga sebe”.

Američki znanstvenici izvijestili su o ‘Normanu’, prvoj umjetnoj inteligenciji (AI) koja pokazuje znakove psihopatskog ponašanja, u studiji koja bi trebala pokazati potencijalne opasnosti od AI-ja.

‘Norman’ “predstavlja studiju slučaja opasnosti u kojemu umjetna inteligencija može poći ukrivo ako se pristrani podaci unesu u algoritme pomoću kojih stroj uči”, objavio je prestižni Massachusetts Institute of Technology (MIT).

“Postoji ključna ideja u strojnom učenju: podaci koji se unose u algoritme strojnog učenja mogu značajno promijeniti ponašanje stroja”, navode znanstvenici MIT-a uključeni u istraživanje, prenosi Hina.

“Kad govorimo o AI algoritmima koji su pristrani ili nepošteni, krivac uglavnom nije sam algoritam, već pristrani podaci koji su uneseni”, dodaju znanstvenici Pinar Yanardag, Manuel Cebrian i Iyad Rahwan.

Otuda i ideja kreiranja ‘Normana’, psihopatskog AI-ja nazvanog prema liku psihopatskog ubojice Normana Batesa iz filma “Psycho” Alfreda Hitchcocka iz 1960.

Norman je ‘nahranjen’ samo osnovnim podacima kojima se opisuju fotografije ‘umirućih ljudi’ pronađene na društvenoj mreži Reddit.

Znanstvenici su nakon toga ‘Normanu’ pokazali slike mrlja tinte, kao u poznatom Rorschachovom psihološkom testu, kako bi vidjeli što u njima Norman vidi, te usporedili njegove odgovore s odgovorima drugih AI-ja u koje su uneseni tradicionalni podaci.

Rezultati su u najmanju ruku bili sablasni: u mrljama tinte u kojima ‘tradicionalni’ AI vidi “dvije osobe koje stoje jedna blizu druge”, Norman vidi “osobu koja skače kroz prozor”.

A kad Norman prepozna “muškarca kojeg je iz vatrenog oružja ubila njegova žena”, drugi AI-ji vide “osobu koja drži kišobran”.

Na stranici “norman-ai.mit.edu” prikazano je desetak primjera mrlja tinte i odgovore koje su dala dva sustava – a u svakom slučaju Norman je imao neku jezivu ideju o tome što je u mrljama prepoznao.

Stranica dopušta korisnicima da također testiraju Normana mrljama tinte te pošalju svoje odgovore kako bi pomogli da “Norman popravi samoga sebe”.