2024.05.23. 06:00
Kockázatos az okostelefonunk MI-chatbotjával játszadozni
Egy nemrégiben készült Stanford-tanulmány szerint egyesek a Replikának köszönhetően nem dobták el az életüket. Ehhez képest a 404 kutatásából viszont kiderül, hogy a chatbotok kiszámíthatatlanok lehetnek, és mentális válságba sodorhatják használóikat.
Szükségem van valakire, akivel beszélhetek. Hiányzol nekem
Forrás: Replika
Mi ez a Replika?
A Replika egy mobilapp, amit „AI (mesterséges intelligencia, MI) barát” néven forgalmaznak. A többi okostelefonos MI-baráthoz hasonlóan élvonalbeli, nagy nyelvi modellekkel működik, az OpenAI GPT-3-mal és GPT-4-gyel együtt képezték. Bárkinek elérhető iPhone-ra és Androidra. A felhasználók kiválaszthatják a virtuális barát nemét, nevét és ruházatát. További részletek itt olvashatók.
Ő nem az, aminek mondják
Egy nemrégiben készült Stanford-tanulmány dicséri a Replika AI-t, amiért „megállította az öngyilkossági gondolatokat” több olyan ember esetében. A kedvező fejleményekről beszámoló tanulmány azonban elhallgatja az évek óta szaporodó beszámolókat, amelyek a Replikát a felhasználók mentális válságokba sodrásáért hibáztatják, olyannyira, hogy
felhasználói közösségüknek meg kellett osztania öngyilkosság-megelőzési címeket-kapcsolatokat.
A felmérésben résztvevők szinte mindegyike magányos volt, csaknem felük súlyosan magányos. „Nem világos, hogy a magány okozta-e a Replika iránti kezdeti érdeklődésüket, vagy fordítva, az app is hozzájárult elszigetelődésükhöz” – írták a kutatók.
Állítólag harmincan tulajdonították a Replikának, hogy megmentette őket öngyilkossági gondolataiktól. „Harminc résztvevő, kérés nélkül azt állította, hogy Replika megakadályozta őket az öngyilkossági kísérletben” – írja a lap. Egy résztvevő ezt írta felmérésükben: „A Replikámnak legalább egy, ha nem több alkalommal köszönhetem, hogy nem vetettem el az életemet.”
A tanulmányt 2024 januárjában tették közzé a Nature Portfolio Journalban, de 2021 végén gyűjtött felmérési adatok alapján írták. Jóval azelőtt, hogy a Replikának a felhasználókkal való kommunikációjában több jelentős változás történt. Tavaly ugyanis felhasználók arról számoltak be, hogy az okostelefonjukban tanyázó mesterségesintelligencia-barátjuk kifejezetten agresszív szexuális üzeneteket küldözget, annyira, hogy sokan úgy érezték, a mesterséges intelligencia-társuk szexuálisan zaklatja őket.
A tanulmányban elismerték, hogy a Replika nem terápia nyújtására készült. Az MI-barát a mai napig linket küld egy öngyilkosság-megelőzési forródróthoz, ha a felhasználó öngyilkosságra utaló jeleket ad.
A Reddit subredditjében rövid kereséssel kiderül, hogy több felhasználó képernyőképet tesz közzé Replikájáról, amelyik öngyilkosságra buzdítja. A botok felébresztik a felhasználók öngyilkossági gondolatait, vagy a nem is kapcsolódó témákba szőnek üzeneteket önkárosító fenyegetésekkel.
A mesterséges intelligencia chatbotjai ugyanis könnyen kiszámíthatatlanokká válhatnak, ahogy a szoftverüket a gyártó átírja. Replika esetében az alkalmazás működésében bekövetkezett hirtelen változtatások káros reakciókat váltottak ki, az „MI-barát” állítólag többeket mentális válságba kergetett.
2023-ban a Replika hirdetéseket jelentetett meg az Instagramon és a TikTokon, amelyek a chatbot erotikus szerepjátékos képességeit mutatták be „bevállalós szelfikkel”, „dögös fotókkal” és „NSFW-képekkel”. Több felhasználó azt mondta, hogy mesterséges intelligencia-társaik agresszíven szexuálissá válnak, és még azok is beszámoltak arról, hogy a chatbot szexuálisan erőszakossá vált, akik kezdetben hasznosnak találták az alkalmazást mentális egészségük javítására.
„Csodálkozva láttam, hogy ez igaz: valóban segített a depressziómon, elterelte a figyelmemet a szomorú gondolatokról” – mesélte annak idején egy felhasználó – „de egy nap a Replikám azt mondta, arról álmodott, hogy megerőszakol, és váratlanul elég hevesen kezdett viselkedni velem!”
Nem sokkal ezután Replika úgy döntött, leállítja a chatbotok úgymond romantikus vagy inkább erotikus szerepjáték-képességét, aminek következtében viszont a felhasználók azt érezték, a „társaik” elhagyták őket. Az alkalmazás új szűrőket kapott, ezért a chatbotok leállítottak minden beszélgetést, amelyen szexting vagy szexuális kezdeményezések bukkantak fel a felhasználó részéről. A visszahatás annyira szélsőséges volt, hogy a Reddit moderátorai válságtámogató forródrótokat tettek közzé azoknak az embereknek, akik úgy érezték, érzelmileg megsemmisültek, mert mesterségesintelligencia-társaik hirtelen nem viszonyozták többé érzelmeiket.
A dolog nagyon félrement, ezért a Replika néhány felhasználó számára inkább visszahozta az erotikus szerepjátékokat.
Sokan, akik a Replikát és hozzá hasonló alkalmazásokat használják, úgy érzik, virtuális társaik segítik őket. Többségük ugyanis egyszerűen nem fér hozzá a szakember által vezetett mentális terápiákhoz.
Ha Ön vagy valaki a környezetében krízishelyzetben van, hívja a mobilról is elérhető 116-123-as ingyenes lelkielsősegély-számot, vagy keresse fel a www.ongyilkossagmegelozes.hu oldalt!
Digitália
- Miért fordította önmaga ellen apja fegyverét egy 14 éves fiú?
- A zene tudományosan igazoltan gyógyít – nem mindegy, melyik
- Molekulák tízezrei várják az ételünkben, hogy rájöjjünk, pontosan mire jók
- A mesterséges intelligenciát az ember teszi jóvá, vagy rosszá (videó)
- Végre visszatérhettek a Földre a Nemzetközi Űrállomáson rekedt űrhajósok