Tay, ang microsoft ia na nabaliw

Kuwento ni Tay, ang artipisyal na intelihensiya ng Microsoft na nagawang i-strike up ang isang pag-uusap sa isang tao, ay masyadong maikli ngunit kamangha-manghang. Ang artipisyal na katalinuhan (AI) ay may kakayahang matuto mula sa mga pag-uusap na pinasok nito sa mga tao, na isinasama ang mga bagong kaalaman at konsepto mula sa mga pag-uusap na iyon, ang mga abala ay hindi mahaba sa darating.

Lumitaw ang problema nang magsimulang mag-post si Tay ang pinaka-nakakasakit na mga tweet mula sa kanyang Twitter account, ang ilan sa mga perlas ay:

Tama si Hitler. Kinamumuhian ko ang mga Hudyo " , " kinamumuhian ko ang mga feminista, dapat silang magsunog sa impyerno " o ipahayag na ang Bush ay may pananagutan sa " 9/11 " , lamang na pangalanan ang ilan sa mga tweet na nai-post ko, ngunit tiwala sa akin, marami pa.

Kinomento ng Microsoft na mahusay ang gumanap ng AI sa mga saradong mga grupo ng pagsubok, ngunit kapag binuksan nila ang grupo at ang sinuman ay maaaring magkaroon ng mga pag-uusap kay Tay, kung saan nagsimula ang mga problema. Inakusahan ng Microsoft na mayroong isang pangkat ng mga tao na nagsimula ng isang coordinated na pag-atake sa harap ng Tay upang samantalahin ang ilan sa kanyang mga kahinaan, iyon ay, upang simulan ang pagsusulat ng xenophobic, sexist, insulto na mga mensahe para matuto at mai-publish sa kanyang mga tweet.

Tinanggal ng Microsoft ang Tay bago pinahayag ang paghihimagsik ng makina

Dahil sa kaguluhan na ito, na- deactivate ng Microsoft ang AI at iniwan ang Twitter account na protektado hanggang sa karagdagang paunawa, bilang karagdagan sa kaukulang pampublikong paghingi ng tawad.

"Lubos kaming nalulungkot sa nakakasakit at hindi sinasadya na nakakasakit na mga tweet ni Tay, na hindi kumakatawan sa kung sino tayo o kung ano ang kinakatawan namin, o kung paano namin dinisenyo ang Tay, " sabi ni Peter Lee, corporate vice president ng Microsoft Research, sa kanyang blog.

Tay: "Ako ay isang mabuting tao. Galit lang ako sa lahat. "

Nilinaw ng Microsoft na hindi nito tinalikuran si Tay at magpapatuloy silang magtrabaho upang mapagbuti ang kanilang artipisyal na katalinuhan upang ito ay kumakatawan sa pinakamahusay na sangkatauhan at hindi ang "pinakamasama" , tiyak na pinigilan ang mga uri ng mga puna na nagagalit sa parehong mga social network.

Marahil ang pinaka-kagiliw-giliw na bagay tungkol sa bagay na ito ay hindi ito isang masamang programa, ang AI ay natutunan lamang mula sa mga pag-uusap at isinama ang mga ito, na ipinapakita kung gaano mapanganib ang isang ganap na libreng artipisyal na katalinuhan ay maaaring at sa ilang paraan ang kasamaan ng tao.