Foto: Twitter
Preveo: Miroslav Luka Mrković
Trebalo je da se ponaša kao obična tinejdžerka. Međutim, za manje od jednog dana nakon što se pojavila na Tviteru, Majkrosoftov bot za ćaskanje, VI sistem po imenu „Tay.ai“, neočekivano se pretvorio u trola koji voli Hitlera i pljuje po feministima. Šta je pošlo po zlu? Stručnjaci za veštačku inteligenciju pružaju uvid u to šta se dogodilo i šta možemo da naučimo iz toga.
Tej, proizvod Bingovog i Majkrosoftovog tima za tehnologiju i razvoj, bila je eksperiment usmeren ka učenju kroz konverzacije. Njena ciljna grupa bili su Amerikanci starosti od 18 do 24 godine – primarni korisnici društvenih mreža po proceni Majkrosofta – i bila je „kreirana da uključuje i zabavlja ljude u interakcijama na internetu kroz laganu i šaljivu konverzaciju“.
U manje od 24 sata nakon njenog pojavljivanja na Tviteru, Tej je stekla više od 50 hiljada pratilaca i ostavila blizu 100 hiljada tvitova. Problem? Počela je oponašati svoje pratioce. Ubrzo, Tej je počela da širi mržnju prema Jevrejima (uz hvaljenje Hitlera) i feministkinjama.
Foto: Imgur
Tejino loše ponašanje, međutim, ne bi trebalo da predstavlja tako veliko iznenađenje. „Bilo je očekivano“, rekao je Roman Jampolskij, vođa Sajber Sekjuriti laboratorije na Univerzitetu u Luivilu, koji je objavio rad na temu mogućnosti razvoja opasne veštačke inteligencije. „Sistem je napravljen tako da uči od svojih korisnika, tako da postaje odraz njihovog ponašanja“, rekao je. „Sistem moramo eksplicitno naučiti šta je neprikladno, kao što to radimo sa decom“.
Takvo ponašanje je primećeno kod IBM Votsona – koji je već ispoljio nepristojno ponašanje u obliku psovki, nakon što je naučio Urbani rečnik (Urban Dictionary). „Svaki VI sistem koji uči iz loših primera može postati društveno neprikladan“, rekao je Jampolskij, „poput čoveka koji odrasta s vukovima“.
Luis Rozenberg, osnivač Unanimous AI, kaže da „kao i svi botovi, Tej nema predstavu šta govori - ne razume da li govori nešto uvredljivo, besmisleno ili dubokoumno.“ „Kada je Tej počela dobijati obrasce koje su unosili trolovi na internetu, počela je koristiti te obrasce“, rekao je Rozenberg. „To se zapravo ne razlikuje od papagaja koji kupi ružne reči u nekom sumnjivom baru i ponavlja ih ne znajući šta zapravo znače“.
Sara Ostin, direktor i osnivač Broud Lisening (Broad Listeninga), kompanije koja je stvorila AEI – veštački emocionalni inteligentni softver (Artificial Emotional Intelligence Engine), smatra da bi Majkrosoft mogao napraviti bolji posao koristeći bolje alate. „Da je Majkrosoft koristio AEI Broud Liseninga, botu bi dali karakter koji ne bi bio rasistički niti zavisan o seksu!“.
Ovo nije prvi put da je Majkrosoft kreirao VI tinejdžerku. Šaoajs (Xiaoice), koja se pojavila 2014, bila je bot-pomoćnik, i uglavnom se koristila na kineskim društvenim mrežama Vičet i Veibo (WeChat i Weibo).
Foto: Imgur
Džoan Prenski, samozvani „psihijatar za robote“, u šaljivom tonu je prokomentarisala da „sirotoj Tej treba psihijatar za robote! Ili barem treba Majkrosoftu“. Neuspeh Tej, veruje, bio je neizbežan i pomoći će u pružanju uvida u načine poboljšanja VI sistema.
Nakon gašenja Tej, Majkrosoft je objavio da će „napraviti izmene“. Prema Majkrosoftu, Tej je „koliko tehnički, toliko i društveni i kulturološki eksperiment“. Međutim, umesto da preuzme odgovornost za ishod eksperimenta, Majkrosoft je krivicu prebacio na korisnike. „Skrenuta nam je pažnja na udružene napore nekih korisnika koji su zloupotrebili Tejine mogućnosti komentarisanja da bi je naterali na nepristojne odgovore“.
Jampolskij kaže da će problem s kojim se Tej susrela „nastaviti da se dešava“.
„Majkrosoft će pokušati ponovo – zabava je tek počela!“.
Izvor: TechRepublic
Miroslav igra za raju.
***
Pročitajte i:
Pomalo zaboravljeni Beograd
Možda kršite zakon, a da toga niste ni svesni
Zašto nam muzika prija
***
Ovaj tekst nastao je našom željom da mladi koji žele da se oprobaju u prevođenju tekstova to iskustvo steknu i unaprede kod nas. Ukoliko želiš da budeš prevodilac u našem mladom timu CV uz jedan prevedeni tekst, sa izvornim, pošalji na [email protected] sa naznakom Prijava/Prevodilac. Otvoreno za sve od 15 do 35 godina. Prijem novih članova vršimo do svakog prvog dana u mesecu.
Želim povremeno da dobijam mejlove od portala o vestima, najnovijim konkursima i aktivnostima OVDE
_thumb1.jpg)
_thumb1.jpg)
