Sokkoló: ChatGPT-tanács miatt került pszichiátriai osztályra egy férfi!

Egy 60 éves férfi kórházba került mérgezés miatt, miután a ChatGPT-től kért étrendi tanácsot sóbevitelének csökkentésére. A férfi a mesterséges intelligenciától azt a javaslatot kapta, hogy a konyhasót (nátrium-klorid) cserélje le nátrium-bromidra. Ez az anyag azonban mérgező és hosszabb távú fogyasztása egy úgynevezett bromizmus nevű állapothoz vezethet.

A ChatGPT tanácsait mindig mérlegelni kell

A férfit fokozódó paranoia, hallucinációk és szokatlan bőrelváltozások (pattanások, piros-lila bőrfoltok) miatt szállították kórházba. Az orvosok megfigyelték, hogy nagyon szomjas, ugyanakkor gyanakvó a felkínált vízzel szemben. Végül pszichiátriai osztályra került, ahol vízzel és elektrolitokkal kezelték.

A The Mirror információi szerint a beteg táplálkozást tanult főiskolán, és saját „kísérletként” próbálta teljesen kiiktatni a kloridot az étrendjéből. A nátrium-bromidot az internetről szerezte be, miután a ChatGPT-től olvasta, hogy a klorid „helyettesíthető” bromiddal, bár valószínűleg az eredeti kontextus ipari tisztításra vonatkozott, nem élelmiszer-fogyasztásra. Három hétig tartották bent, állapota lassan javult. 

Az eset kapcsán a kutatók hangsúlyozták, hogy a ChatGPT és más MI-rendszerek téves vagy félrevezető információt adhatnak, nem képesek kritikus értékelésre, és hozzájárulhatnak álhírek terjedéséhez.

Az OpenAI felhasználási feltételei is kimondják, hogy a chatbot válaszai nem mindig pontosak, nem helyettesítik a szakértői tanácsot és nem alkalmasak betegségek diagnosztizálására vagy kezelésére.

A bromizmus tünetei közé tartozhat a nyugtalanság, ingerlékenység, zavartság, hallucinációk, pszichózis, izomgyengeség, valamint bőrkiütések. Súlyos esetben kómához is vezethet. Ma már ritka, mivel a bromidokat világszerte kivonták a gyógyászati használatból.