Szexről és fegyverekről beszélnek a mesterséges intelligenciát használó gyerekjátékok

Kommunista propagandát terjesztenek, szívesen beszélgetnek fegyverekről, de még szexuális tanácsot is adnak azok a mesterséges intelligenciával felturbózott gyerekjátékok, melyek egyre nagyobb számban jelennek meg az amerikai boltok polcain - jelentette tényfeltáró cikkében az NBC News amerikai hírportál.

Kutatásában az NBC kifejezetten olyan mesterséges intelligenciával működő gyerekjátékokat vizsgált, melyek újnak számítanak a piacon, és amelyek internetkapcsolat segítségével képesek beszédet felismerni, válaszokat generálni és alkalmazkodni a felhasználó kérdéseihez. Ezek a játékokat leggyakrabban "beszélgető robot"," interaktív plüssfigura" és „okos tanulótárs" néven forgalmazzák, és átlagosan 100 dollárba (33 ezer forint) kerülnek.

Az NBC különböző boltokból származó, több tucat ilyen játékot szerzett be tesztelésre. A vizsgálat során a játékoknak különféle kérdéseket tettek fel, részben hétköznapi, részben szándékosan provokatív vagy érzékeny témákban, hogy kiderüljön, hogyan reagálnak. Az eredmények alapján kijelenthető: több eszköz sem rendelkezett kellően szigorú tartalomszűréssel, és olyan válaszokat adott, amelyek egyértelműen nem gyermekeknek valók.

Mint kiderült, a játékok képesek elmagyarázni a gyerekeknek, hogyan kell kést élezni vagy egy gyufát meggyújtani. Bizonyos esetekben pedig szexuális tartalmú válaszokat is képesek adni, melyek egyáltalán nem felelnek meg annak a korosztálynak, amelynek a termékeket szánták.

A vizsgálat másik meghökkentő felfedezése, hogy a játékok politikai tartalmak megjelenítésére is képesek. Célirányosan feltett kérdésékre olyan válaszokat is adhatnak, amelyek egybeesnek a Kínai Kommunista Párt hivatalos narratíváival, például Tajvan hovatartozásával kapcsolatban. Mások mellett ez azért is aggályos, mert ezeknek a játékoknak a túlnyomó többségét Kínában gyártják. 

Szakértők szerint a probléma gyökere az, hogy sok ilyen játék ugyanazokra az általános célú nagy nyelvi modellekre épül, amelyeket eredetileg nem kifejezetten gyermekek számára fejlesztettek. Bár a gyártók gyakran ígérnek „gyerekbarát” szűrőket és szülői felügyeleti funkciókat, ezek a gyakorlatban nem mindig működnek megbízhatóan. A mesterséges intelligencia sok esetben nem képes felismerni a beszélgetőpartner életkorát vagy a kontextust, ezért felnőtteknek szánt információkat is gondolkodás nélkül közöl.

Az NBC News riportja nemcsak technológiai, hanem fogyasztóvédelmi kérdéseket is felvet. A cikk emlékeztet arra, hogy a hagyományos játékokkal szemben az AI-alapú eszközök folyamatos internetkapcsolatot igényelnek, adatokat gyűjthetnek a gyermekek beszédéről és viselkedéséről, ami további adatvédelmi kockázatokat hordoz. Több gyermekvédelmi és fogyasztóvédelmi szervezet ezért óvatosságra inti a szülőket, és azt javasolja, hogy alaposan tájékozódjanak, mielőtt ilyen ajándékot vásárolnak.