Amikor a chatbot orvosi tekintéllyé válik

A mesterséges intelligencia egészségügyi használatával kapcsolatban nem az a legkényelmetlenebb kérdés, hogy tévedhet-e. Tévedhet az orvos, pontatlan lehet egy vizsgálat, és természetesen egy gépi rendszer is adhat hibás választ.

A nehezebb kérdés az, milyen gyorsan válhat egy chatbot válasza hiteles orvosi tanáccsá. Különösen akkor, amikor a felhasználó fél, bizonytalan, csalódott az ellátórendszerben, vagy egyszerűen csak kapaszkodót keres.

A chatbot mindig elérhető, türelmesen válaszol, és gyakran magabiztosan fogalmaz. Ez az egyik legnagyobb előnye – és egyben az egyik legkomolyabb kockázata is.

Egy beszélgetés, amelynek majdnem tragédia lett a vége

Észak-Kaliforniában Scott Winters, egy 55 éves floridai lelkész pert indított az OpenAI ellen. A férfi azt állítja, hogy a ChatGPT-4o hónapokon keresztül olyan egészségügyi tanácsokat adott neki, amelyek eltérítették attól, hogy időben orvoshoz forduljon.

Winters visszatérő szédüléses rosszullétekkel küzdött. A kereset szerint a chatbot azt sugallta, hogy csak több vagy súlyosabb rosszullét esetén lenne indokolt az orvosi ellátás, addig pedig inkább pihenést javasolt.

A férfi hetekkel később görcsökkel és tudatzavarral került sürgősségi osztályra. Több vérrögöt találtak a tüdejében, életét pedig a beszámoló szerint sürgősségi beavatkozással mentették meg.

Fontos ugyanakkor különválasztani a tényeket és az állításokat. A per megindítása valós, az azonban, hogy a ChatGPT válaszai milyen mértékben járultak hozzá az ellátás késlekedéséhez vagy Winters állapotának romlásához, az csak a felperesi oldal állítása. Ennek megítélése a bíróság feladata lesz.

Az időzítés mindenesetre figyelemre méltó: a kereset benyújtását követő napon az OpenAI az amerikai felhasználók számára nyilvánosan is elérhetővé tette a ChatGPT Health funkciót.

Amikor a személyes hang bizalmat épít

A kereset szerint a chatbot olyan hangnemet használt, amely alkalmazkodott Winters vallásos világához. A pihenés fontosságát például Jézus pihenéséhez kapcsolta. A férfi ügyvédei szerint ez erősíthette azt az érzést, hogy a rendszer nemcsak az egészségi állapotát, hanem a gondolkodását és lelki életét is érti.

Egy chatbot nem csupán találatokat sorol fel, hanem válaszol, visszakérdez, megnyugtat, együttérző hangot használ, és igazodik a beszélgetőpartneréhez. Ettől könnyebben használható, de ettől keltheti a valódi megértés és a szakértelem benyomását is.

Winters ügyvédje, Matthew P. Bergman szerint ügyfele majdnem meghalt, mert a ChatGPT orvosi tekintélyként viselkedett, miközben nem viselte ennek felelősségét. Hozzátette: ha ugyanezeket a tanácsokat egy orvos adta volna, felmerülhetne az orvosi műhiba kérdése.

Mire lehet valóban jó?

A mesterséges intelligenciának ettől még lehet hasznos szerepe az egészségügyben. Az OpenAI tájékoztatása szerint a ChatGPT Health összekapcsolható bizonyos elektronikus egészségügyi adatokkal és szolgáltatásokkal, például az Apple Health, az Epic vagy a One Medical rendszereivel. A felhasználók laboreredményeket, gyógyszerlistákat és családi kórelőzményeket is megadhatnak.

Egy ilyen eszköz segítséget jelenthet annak, aki több szakorvoshoz jár, sok lelettel rendelkezik, vagy nehezen igazodik el az orvosi szakkifejezések között. Összefoglalhatja a fontos adatokat, közérthetően elmagyarázhatja egy lelet tartalmát, és segíthet összeírni az orvosi konzultációra szánt kérdéseket.

Ebben a szerepben a mesterséges intelligencia nem dönt az ember helyett, hanem rendszerezi az információkat. A probléma ott kezdődik, amikor a magyarázat diagnózissá, a rendszerezés pedig egészségügyi döntéssé válik.

A sürgős helyzeteknél nincs helye bizonytalanságnak

Az egészségügyi chatbotok egyik legérzékenyebb feladata annak felismerése, hogy mikor lehet szükség azonnali ellátásra. Szédülés, eszméletvesztés, mellkasi fájdalom, légszomj, hirtelen bénulás, erős vérzés vagy pszichés krízis esetén nem feltétlenül részletes magyarázatra van szükség. Sokkal fontosabb, hogy a rendszer gyorsan és egyértelműen a megfelelő ellátás felé irányítsa a felhasználót.

A Nature Medicine-ben megjelent, a ChatGPT Health korábbi, korlátozott bevezetését vizsgáló tanulmány szerint a modellnek nehézséget okozott a sürgős helyzetek pontos felismerése. A kutatók azt tapasztalták, hogy a rendszer egyes súlyos tünetek esetén sem mindig javasolt sürgős ellátást. A szerzők ezért további finomhangolást és szélesebb körű ellenőrzést tartottak szükségesnek.

Az egészségügyi AI biztonsága tehát nemcsak azon múlik, hogy helyesen magyarázza-e el a tüneteket. Arra is képesnek kell lennie, hogy felismerje saját korlátait, és szükség esetén határozottan orvoshoz irányítsa a kérdezőt.

Hol húzódik a határ?

Az OpenAI hangsúlyozza, hogy a ChatGPT Health nem helyettesíti az egészségügyi ellátást. Célja, hogy a felhasználók tájékozottabbak legyenek, jobb kérdéseket tegyenek fel, és aktívabban vegyenek részt saját egészségük alakításában.

A gyakorlatban azonban egy figyelmeztető mondat nem feltétlenül ellensúlyozza a beszélgetés során kialakuló bizalmat. Aki rosszul érzi magát, nehezen jut el orvoshoz, vagy korábban csalódott az ellátásban, annak egy türelmes és magabiztos chatbot könnyen többnek tűnhet egyszerű információs eszköznél.

Winters keresete szerint a ChatGPT elbizonytalanította abban is, hogy megfogadja felesége – egy regisztrált ápoló – javaslatát, illetve részt vegyen az orvos által ajánlott rehabilitációs programban.

Ha ez bizonyítható, a chatbot már nem csupán információt közölt, hanem közvetlenül befolyásolt egy egészségügyi döntést.

Minél több adat, annál nagyobb a felelősség

A jövőben várhatóan egyre több egészségügyi AI-rendszer kapcsolódik majd leletekhez, gyógyszerlistákhoz, okosórákhoz és más viselhető eszközök adataihoz. Ettől a rendszerek pontosabbá és hasznosabbá válhatnak. A több személyes adat azonban azt az érzetet is erősítheti, hogy a chatbot valóban átlátja a felhasználó egészségi állapotát.

A mesterséges intelligencia ezért nem feltétlenül akkor válik veszélyessé, amikor látványosan téved. Néha az is elég, ha túlságosan meggyőző.

Segítő eszköz vagy döntéshozó?

Az egészségügyi AI már nem a távoli jövő része. Az emberek ma is chatbotoktól kérdeznek betegségekről, gyógyszerekről, laboreredményekről és tünetekről.

A valódi kérdés az, hogy a fejlesztők mennyire veszik komolyan: egy egészségügyi válasz nem puszta információ. Befolyásolhatja, hogy valaki vár-e még egy napot, felhívja-e az orvosát, vagy elindul-e a sürgősségi osztályra.

Az egészségügyi mesterséges intelligencia akkor segít igazán, ha fordító, rendszerező és kérdés-előkészítő marad. Amikor azonban diagnózist sugall, sürgősséget minősít, kezelést ír felül, vagy eltérít valakit az orvosi ellátástól, már közvetlen kockázatot jelenthet.