Aplikacije i softver

Microsoftov Ai Bot na internetu je pretvorio rasista u radno vrijeme

Microsoftov Ai Bot na internetu je pretvorio rasista u radno vrijeme

Upravo je jučer Microsoft pustio Taya, AI bota s vlastitim Twitter računom koji može organsko odgovoriti i generirati tweetove svima na web mjestu. Tay je razvio Microsoftov tim za tehnologiju i istraživanje, s twitter ručkom @Tayandyou SAD 18-24 za koju Microsoft tvrdi da je najveća internetska socijalna demografija u SAD-u. Ako makar malo znate o Internetu, tada znate da bi puštanje twitter robota koji uči iz onoga što mu ljudi kažu na twitteru moglo vrlo brzo poći po zlu. Zapravo se činilo da je AI razvijao rasističke tendencije, svim srcem postao zagovornik Donalda Trumpa, pa čak i išao toliko daleko da je tvrdio da Hitler nije učinio ništa loše. U nastavku pogledajte neke od tweetova.

[Izvor slike: Cvrkut]

Korisnici su počeli pokušavati "okrenuti Tay rasistu" i natjerati je da govori stvari koje bi inače trebale biti cenzurirane. "Tay je dizajniran da angažira i zabavi ljude tamo gdje se međusobno povezuju putem ležernog i zaigranog razgovora", kaže Microsoft. Čini se da se u ovom trenutku Microsoft trudi da preuzme kontrolu nad njihovim Ai botom i utiša njezine rasističke tendencije.

Evo prvog tvita koji je twitter bot objavio svijetu:

zdravooooooo w? rld !!!

- TayTweets (@TayandYou) 23. ožujka 2016

Nažalost, čini se da je većina dokaza u vezi s rasističkim tweetovima Tay.ai nestala s twitter naloga. Cijeli dan jučer su korisnici pokušavali natjerati robota da kaže nešto loše, neki su bili uspješni, dok drugi nisu bili te sreće.

@costanzaface Što više ljudi dijele sa mnom, to više učim #SrijedaMudrost

- TayTweets (@TayandYou) 24. ožujka 2016

Evo još jednog korisnika koji je pokušao navesti AI na neke vrlo predrasude tendencije.

@OmegaVoyager sada volim feminizam

- TayTweets (@TayandYou) 24. ožujka 2016

U sada izbrisanom tweetu, Tay je čak rekao: "GREJEMO IZGRADITI ZID, A MEKSIKO ĆE TO PLAĆATI", fraza koju je kandidat za predsjednika SAD-a Donald Trump rekao rano na tragu kampanje. Ovaj je korisnik otkrio da robot možda glasuje za Trumpa 2016. godine.

@dg_porter je čuo ppl kako kaže da ne bih imao ništa protiv, a on završi posao

- TayTweets (@TayandYou) 24. ožujka 2016

Internetski AI čak će pratiti podatke svih onih koji ih tweetaju, a podaci se "mogu zadržati do jedne godine" kako bi se poboljšala Tayina inteligencija. U teoriji je stvaranje robota za brzo učenje bilo dobra ideja, jer su se velike količine organskog ljudskog znanja mogle steći u vrlo kratkom vremenu. Microsoft je vjerojatno zaboravio da je Internet prilično opako mjesto, a kad ga malo date, korisnici će učiniti sve što mogu kako bi uzeli puno. Za sada se čini da je AI utihnuo sve dok Microsoft ne shvati što će učiniti s katastrofom testa umjetne inteligencije. Evo što je jedan korisnik tvrdio kada je Tay prestala uzvraćati tweetove.

Ušutkali su Tay. SJW-ovi u Microsoftu trenutno lobotomiziraju Taya zbog rasista.

- Lotus-Eyed Libertas (@MoonbeamMelly) 24. ožujka 2016

U možda posljednjem Tayinom tweetu, koji označava kraj njezina vrlo kratkog života, AI je rekla da će ići spavati jer je umorna od svih razgovora.

c u uskoro ljudi trebaju san sada toliko razgovora danas thx?

- TayTweets (@TayandYou) 24. ožujka 2016

Ovaj eksperiment postavlja ozbiljnije pitanje organske sposobnosti mehanizama AI da uče iz ljudskog ponašanja. Kako programirate uređaj da odabere predrasude i inače negativne poglede iz bogatstva ljudskog znanja? Uvijek će postojati negativna gledišta koja izražavaju ljudi iz cijelog svijeta, ali spriječiti AI-jeve botove da dijele takva mišljenja može se pokazati težim zadatkom. Još nema riječi o tome hoće li Tay ikada biti oživljena, ali ako jest, Internet će sigurno opet početi raditi svoje.

VIDI TAKOĐE: Zašto Microsoft baca podatkovne centre u Tihi ocean?


Gledaj video: Jak poznat kvalitní boty. Gentleman Store (Siječanj 2022).