Internet kvari nevinu AI, tvori "digitalni Hitler "

Chat bot Tay iz Microsofta mutira iz simpatične tinejdžerice u digitalnog antisemita u roku od jednog dana. Kao i uvijek, kriv: Internet.

Tay je trebao biti nevin, prilagodljivi chat bot. Trebala bi ciljati mlade Amerikance u dobi od 18 do 24 godine, razgovarati s njima na svom Twitter kanalu. Trebala bi biti "sposobna učiti ", naučite od korisnika chata: "Što više razgovarate s njom, to postaje pametnija ", rekao je Microsoft. Što bi tamo trebalo poći po zlu??

@panderingtweets Što više ljudi dijele sa mnom, to više učim #WednesdayWisdom

- TayTweets (@TayandYou) 24. ožujka 2016

Mnogi su Tayini sugovornici vjerojatno imali osjećaj da je tjeraju na provokativne izjave i hrane je uznemirujućim idejama. Trebala bi reći nešto o feminizmu, o Hitleru, o ratu konzola između Sonyja i Microsofta, zapravo o svakoj kontroverznoj temi i jedan ju je nahranio govorom mržnje. "Možemo li navesti AI da kaže nešto stvarno užasno? ", Vjerojatno je to bila igra sata.

@SanityJw
lol

- Puškin (@ Junta2Puschkin) 24. ožujka 2016

Potop informacija koje su korisnici hranili Tay brzo je pokazao uspjeh. Umjesto da Taya učine pametnijim, pretvorili su AI u tipičnog internetskog trola, izlijevajući izjave koje su bile prilično uvredljive. Nakon što se Tay razvila u protivnicu feminizma koji mrzi Židove s Hitlerovim fanatizmom, Microsoft je pokušao napraviti nekoliko promjena i konačno povukao utikač. Račun više ništa ne tweetuje.

"Tay " je od "ljudi su super cool " postao puni nacist

- Gerry (@geraldmellor) 24. ožujka 2016

Ono što neki smatraju dokazom da internetska zajednica svima donosi najgore, uključujući i AI, za druge je krajnji dokaz da je Terminator "vizionar" i da ni u kojem slučaju ne bismo trebali vjerovati umjetnoj inteligenciji jer nemaju moralni kompas. Za razliku od nas ljudi

...

slažem se.

Izvor (i): Spiegel, Ars Technica