• Tech
Faktor

Félrecsúszott a kísérlet, utána őrült gyilkosként viselkedett a mesterséges intelligencia

A mesterséges intelligenciából ijesztő pszichopata lett.

A Massachusetsi Műszaki Egyetem kutatói érdekes eredményre jutottak Norman nevű algoritmusukkal, amit a Pszicho című film szereplőjéről neveztek el.

A gépi tanulásos algoritmusba, azaz mesterséges intelligenciába a Reddit egyik erőszakos halálokról szóló fórumában található adatokat táplálták, majd Rorschach-teszt alá vetették a szoftvert. Míg egy „hagyományos” mesterséges intelligencia egy adott képről azt mondta volna, hogy egy baseball kesztyűt ábrázol, addig a Norman egy „fegyverrel meggyilkolt férfit” látott napfénynél.

Képünk csak illusztráció.

Képünk csak illusztráció.

EZT IS AJÁNLJUK:

    Több ilyen hátborzongató példa is született a teszt során. Például egy esernyőt tartó ember helyett Norman a sikítozó felesége előtt fekvő férfit látott, kismadár helyett pedig dagasztógépbe szorult embert, vagy szerelmespár helyett lépcsőről leeső terhes nőt - írja az IFLScience.

    Az MIT kutatócsapatának célja az volt, hogy bebizonyítsák, az algoritmusokat a beléjük táplált adatokkal lehet befolyásolni, részrehajlóvá tenni, hiszen csak abból tudnak tanulni és dolgozni, amit „kapnak”. Egyértelműen kijelenthető, hogy a gépagy későbbi viselkedésére hatással van a tanulás során felhasznált információk jellege.

    Normant nem szándékosan fejlesztették pszichopatának, ő vált azzá a Redditen található, erőszakos tartalmakból szerzett adatokból tanulva.

    A kutatók szerint a sokkoló eredmények arról is árulkodnak, hogy a depresszív és negatív képekkel az MI empatikus logikája egyszerűen megbukott. A robotikai szakemberek remélik, hogy egy nap a mesterséges intelligencia képessé válik az emberi érzelmek megértésére, de a technológia még rendkívül messze van attól, hogy megértse az emberi empátia működésének összetettségét.

    Kommentek:

    Top 16