Mai ținem cu toții minte filmul Terminatorul cu robotul ucigaș care vrea să pună capăt lumii. Cum devine un robot simplu, dotat cu inteligență artificală, o mașină de ucis? Aparent sunt de ajuns niște oameni de știință care încearcă intenționat să îl transforme în “psihopat”. Aceșia au creat un algoritm denumit “Norman” – ca pe tipul din filmul Psycho.
Pe scurt, oamenii de știință de la MIT au hrănit algoritmul respectiv în mod exclusiv cu conținutul violent de pe una dintre paginile platformei Reddit. Pentru cine nu știe, Reddit este o platformă de socializare cu peste 330.000 de milioane de utilizatori lunari activi şi peste 138.000 de ”comunităţi” de discuţie. După ce i-au arătat doar știri și discuții cu și despre crime sau morți violente, robotului i s-a cerut să interpreteze diverse desene cât se poate de commune. Astfel, influențat de algoritmul Norman, robotul a văzut în locul unei fotografii alb-negru a unei mănuși de baseball că un “om este omorât cu o mitralieră”. Și asta fără ca în prealabil să fi văzut imagini despre crime sau violențe ci doar citind titlurile apărute în discuțiile de pe platformă.
Echipa de oameni de știință de la MIT (Pinar Yanardag, Manuel Cebrian și Iyad Rahwan) a încercat cu ajutorul acestui test să demonstreze cum că unii algoritmi cu care sunt echipate mașinăriile de inteligență artificială nu sunt în mod necesar părtinitori fără drept de apel unei anumite stări sau personalități, dar pot deveni astfel în baza datelor pe care le primesc. Cu alte cuvinte, ei nu l-au construit pe Norman să devină psihopat dar robotul a devenit un psihopat pentru că tot ceea ce știa despre lume a fost ceea ce a învățat de pe o pagină plină de conținut violent care aparținea (întâmplător, desigur că întâmplător) Reddit.