Az AI és a Mentális Egészség Kockázatai
A brit Mind mentálhigiénés szervezet nemrégiben végzett kutatásokat, amelyek során felfedezték, hogy a Google mesterséges intelligenciája, különösen az AI Overviews funkció, veszélyes és pontatlan információkat közvetíthet a mentális egészséggel kapcsolatban. Ez a jelenség különösen aggasztó lehet azok számára, akik krízishelyzetben keresnek segítséget, hiszen a hibás útmutatások súlyosan érinthetik a felhasználók mentális állapotát.
A Mind szakértői a kutatás során rövid, célzott keresési teszteket végeztek, amelyek a mentális betegségekkel kapcsolatos keresési kifejezéseket célozták meg. Az eredmények rávilágítottak, hogy az AI Overviews nemcsak pontatlan, hanem szakmailag hibás állításokat is közöl. Például előfordult, hogy az éhezést egészségesnek tüntette fel, miközben a mentális betegségek okait leegyszerűsített kémiai egyensúlyzavarra vezette vissza, vagy téves információkat közölt a pszichológiai ellátásokról és a jogosultságokról.
Az AI Overviews Defektusai
Rosie Weatherley, a Mind információs tartalmakért felelős vezetője hangsúlyozta, hogy az AI Overviews a klinikai hangvételű összegzéseivel „definitív” válaszok látszatát kelti, ezzel elvonva a felhasználókat a részletes és megbízható forrásoktól. Ez a jelenség nemcsak a keresési folyamat idő előtti lezárását eredményezi, hanem a felhasználók számára is részleges vagy félrevezető információkat termel.
Annak ellenére, hogy a Google fejlesztéseket eszközölt a káros tartalmak, például öngyilkossági módszerek ellenőrzésére, az AI Overviews továbbra is jelentős kockázatokat hordoz, megjelenítve pontatlan vagy félrevezető információkat „semleges tényként”. A Mind álláspontja szerint a mesterséges intelligenciának lehetnek pozitív hatásai hosszú távon, azonban jelenlegi formájában kockázatai rendkívül aggasztóak, különösen a mentális egészséggel kapcsolatos információkeresés területén.
Rendszerszintű Megoldások Szükségessége
Weatherley arra figyelmeztetett, hogy a Google, mint nagy erőforrásokkal rendelkező vállalat, felelősséggel tartozik a megjelenített tartalomért. Az utólagos hibajavítások („whack-a-mole” megközelítés) nem elegendőek, helyette rendszerszintű, megelőző intézkedésekre van szükség, hogy a felhasználók megbízható és pontos információkhoz jussanak, különösen érzékeny témák esetén.