Norman – pierwszy w historii algorytm AI o psychopatycznych skłonnościach

Pamiętacie słynną scenę morderstwa pod prysznicem z “Psychozy” Alfreda Hitchcocka? Główny bohater filmu, Norman, doczekał się upamiętnienia. Na jego cześć nazwano algorytm sztucznej inteligencji, którego głównym zadaniem jest rozpoznawanie obrazów w sieci. To nie jest żart, ale część eksperymentu naukowego – naukowcy postanowili sprawdzić, jak będzie zachowywał się robot, karmiony określonym rodzajem danych. 

Sztuczna inteligencja a określony typ danych
Czy algorytm sztucznej inteligencji, karmiony określonymi treściami, znalezionymi w sieci, bedzie się zachowywał w określony sposób? Wszak, rodzaj danych, jakie bot dostanie na starcie, powinno w znaczący sposób wpłynąć na jego późniejsze działania. Naukowcy z MIT (Instytut Massachusetts Institute of Technology) postanowili to sprawdzić i stworzyli algorytm, którego zadaniem będzie rozpoznawanie brutalnych obrazków w sieci.

W ramach eksperymentu, Norman już na starcie dostał potężną dawkę danych, których oglądania wrażliwy człowiek by nie wytrzymał (wszystkie dane zostały jednak pobrane z sieci i były prawdziwe). Badacze najpierw nafaszerowali robota psychopatycznymi treściami, a następnie poddali go Testowi Rorschacha.

Test Rorschacha, któremu został poddany Norman
Norman – algorytm AI

Poznajcie Normana
Na cześć bohatera “Psychozy” robot Norman dostał takie, a nie inne imię. Jak poradził sobie z testem? Otóż, okazuje się, że Norman widział dużo więcej i zdecydowanie inaczej niż standardowy algorytm. Tam gdzie normalny algorytm rozpoznawał wazon z kwiatami, Norman widział mężczyznę z raną postrzałową. Osobę z parasolem natomiast, Norman identyfikował jako kolejną postrzeloną postać, obok którego stoi zrozpaczona  kobieta. Dalej nie było wcale lepiej. Norman okazał się wyjątkowo monotematyczny. Kolejne plansze zdaniem Normana przedstawiały samobójców, tyle że w rozmaitych konfiguracjach.  A to skaczących  z dachu, a to uwikłanych w inne mrożące krew w żyłach sceny, rodem z horrorów z klasy B.

Norman - bohater Psychozy
Norman – bohater Psychozy
Kadr z Psychozy Hitchcocka
Kadr z Psychozy Hitchcocka

Po co komu Norman – psychopata?
Naukowcy postawili sobie za cel udowodnienie, że nawet roboty, co prawda nie bylejakie, ale obdarzone sztuczną inteligencją, mogą być stronnicze w pojmowaniu świata. Całe ich rozumienie zależy tylko i wyłącznie od danych, którymi zostały nakarmione na starcie. Wykazało to po raz kolejny niedoskonałość algorytmów obdarzonych AI i obnażyło ich ograniczenia.

Roboty choćby nie wiem jak mądre,  nie posiadają moralności, tym samym nie będą w stanie dorównać człowiekowi. Brak im wiarygodnej oceny sytuacji. Nie można im bezkrytycznie ufać. Jedynie w rękach mądrych ludzi leży sterowanie nimi oraz programowanie na odpowiednie podejmowanie decyzji.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *