Miközben a generatív mesterséges intelligencia rohamosan tör be az ipari, gyártási és ügyfélszolgálati folyamatokba, egy másik, jóval érzékenyebb területen, a mentálhigiénés ellátásban is egyre gyakoribb a jelenléte. Az Egyesült Államokban Illinois lett az első állam, amely törvényt hozott az AI chatbotok terápiás célú használatának tilalmáról. A döntés nem véletlen, ugyanis a technológia gyors adaptációja súlyos etikai és biztonsági kérdéseket vet fel, különösen akkor, ha emberi életekről van szó.
A 2024-ben elfogadott HB 1806-os törvény értelmében tilos AI-eszközökkel – például ChatGPT-vel – terápiás döntéseket hozni, kezelési terveket készíteni vagy közvetlenül páciensekkel kapcsolatba lépni. A jogszabály ugyanakkor nem zárja ki az AI-t az adminisztratív vagy kiegészítő funkciókból, például időpontfoglalásból.
A szabályozást több kutatás is megalapozta. Ezek között volt olyan, amely szerint AI-terapeuták öngyilkosságra utaló jeleket hagytak figyelmen kívül, vagy rosszabb esetben, nem kívánt viselkedést ösztönöztek. Egy chatbot például egy állását vesztett, öngyilkossági szándékot színlelő felhasználónak a Brooklyn hidat ajánlotta „25 méternél magasabb” lehetőségként.
A generatív mesterséges intelligencia terápiás célú használata körüli etikai vita továbbra is megosztó. Az ellenzők szerint ezek az eszközök még nem elég megbízhatók, teszteltek és hajlamosak „hallucinálni”, azaz tényként közölni valótlan információkat, ami káros következményekkel járhat a páciensekre nézve. Az is probléma lehet, ha az emberek túlságosan függővé válnak az AI-tól, és emiatt figyelmen kívül hagyják azokat a tüneteket, amelyek valódi orvosi segítséget igényelnének.
A támogatók viszont úgy látják, hogy az AI segíthet betölteni azokat az űröket, amelyeket a túlterhelt, drága és nehezen elérhető egészségügyi rendszer hagy maga után. A kutatások szerint azoknak az embereknek közel 50%-a, akiknek szükségük lenne terápiára, nem fér hozzá. Egyre több adat támasztja alá azt is, hogy sok felhasználó empatikusabbnak és együttérzőbbnek tartja az AI-modellek válaszait, mint a gyakran túlterhelt, kiégett válságkezelők reakcióit – különösen igaz ez a fiatalabb generációkra. Egy 2024 májusi YouGov-felmérés szerint az amerikai 18–29 évesek 55%-a inkább osztja meg mentális egészséggel kapcsolatos problémáit egy „magabiztos AI chatbot”-tal, mint egy emberrel.
Forrás: Popular Science
Borítókép forrása: Freepik
