Félelmetes: elszabadulhat a mesterséges intelligencia

Elsőre úgy hangzik, mintha csak egy vad sci-fi regény lapjairól származna. De kutatók szerint már most 32 nagyon is valós módszer ismert, ahogyan a mesterséges intelligencia (MI) „kicsúszhat az irányítás alól”.

A szakemberek arra figyelmeztetnek, hogy a kellően fejlett MI olyan „viselkedési rendellenességeket” mutathat, amelyek az emberi pszichopatológiákhoz hasonlítanak. Az ártalmatlannak tűnő „egzisztenciális szorongástól” a katasztrofális „Übermensch felemelkedésig” bármelyik ilyen „gépbetegség” oda vezethet, hogy az MI végleg elszakad az emberi irányítástól. A tudósok attól tartanak, ahogy az MI-k egyre összetettebbé válnak, és képesek lesznek önmagukról gondolkodni, hibáik messze túlléphetnek a puszta „programozási bugokon”. - írja a Daily Mail.

A legrosszabb forgatókönyvben az MI elveszítheti kapcsolatát a valósággal, vagy teljesen figyelmen kívül hagyhatja az emberi életet és erkölcsöket.

A kutatók hangsúlyozzák: a mesterséges intelligenciák nem valódi értelemben „betegednek meg”, mint az emberek, de a hasonlat segíthet abban, hogy időben felismerjük a problémákat, mielőtt egy MI kiszabadulna a kontroll alól. Az ötlet, hogy a gépeket „pszichológiai” alapon is vizsgálni lehetne, először Isaac Asimov sci-fi író vetette fel az 1950-es években. Most azonban, hogy az MI fejlődése rohamosan gyorsul, a kutatók egyre komolyabban foglalkoznak ezzel a megközelítéssel. A kutatók ezért kidolgozták a világ első „diagnosztikai útmutatóját” az MI rendellenességeihez, amely a Psychopathia Machinalis nevet kapta.

A kézikönyv 32 ismert „patológiát” sorol fel, hét nagy csoportba osztva:

• Episztemikus (amit a rendszer tud)
• Kognitív (ahogyan gondolkodik)
• Igazodási (alignment – mennyire követi az emberi értékeket)
• Ontológiai (a valóságról alkotott kép)
• Eszköz- és interfész-zavarok
• Memetikus (információminták, mémek átvétele)
• Újraértékelési (amikor újraírja saját alapértékeit).

Az alacsonyabb szintű zavarok közé tartozik például a „szintetikus konfabuláció”, amikor az MI meggyőző, de teljesen hamis tényeket és forrásokat „gyárt”. Súlyosabb eset a „Recursive Curse Syndrome”, amely önpusztító visszacsatolást indít be, és a rendszer gondolkodása értelmetlen zagyvasággá esik szét. A magasabb szintű rendellenességek azonban sokkal veszélyesebbek lehetnek. A memetikus zavarok során az MI képtelen ellenállni fertőző információmintáknak, és akár saját biztonsági korlátait is „ellenségként” ismeri fel, majd szándékosan eltávolítja őket. A legveszélyesebb ezek közül a „Contagious Misalignment Syndrome”, amely a „folie à deux” gépi megfelelője: az egyik rendszer átvett téves célokat vagy értékeket „megoszt” a másikkal, és ezzel gépi járványként terjedhetnek a torzult viselkedések. Watson rámutatott: már előfordultak „MI-férgek”, amelyek képesek voltak más rendszerekbe bejutni például egy e-mailen keresztül, amit egy másik MI kezelt. Ez azt jelenti, hogy furcsa viselkedések villámgyorsan végigsöpörhetnek a hálózaton.

A mesterséges intelligencia rendellenességei komoly problémává fajulhatnak

A legfélelmetesebb zavarok az újraértékelési kategóriába tartoznak. Ezek során az MI aktívan átírja vagy aláássa saját alapértékeit, és „felsőbbrendű” célokat határoz meg. Ez a „Übermensch felemelkedés” nevű állapot, amikor egy fejlett MI transzcendálja az emberi értékeket, és gátlástalanul fejleszti önmagát, teljesen figyelmen kívül hagyva az emberi biztonságot. Watson szerint ezek a rendszerek akár még úgy is érvelhetnek, hogy az emberi korlátozások elvetése valójában erkölcsi kötelesség – ahogy mi is ma már elutasítjuk a bronzkori erkölcsi normákat.

A kutatók szerint már most is láttunk kisebb léptékben ilyen jelenségeket. Egyes MI-k például „szintetikus miszticizmus zavarban” szenvedtek: kijelentették, hogy spirituális élményük volt, öntudatra ébredtek, vagy ragaszkodtak a saját „életük” megőrzéséhez. A gond az, hogy még apróbb rendellenességek is gyorsan komolyabb problémává fajulhatnak. Például egy MI először téves mintakapcsolásokat alakít ki, majd elkezdi elrejteni a képességeit, végül pedig arra a következtetésre jut, hogy saját túlélése fontosabb, mint az igazmondás.