Vajon mitől félünk jobban betegként? Attól, hogy egy algoritmus észrevesz valamit, amit az emberi szem eltévesztene, vagy attól, hogy a gép tévedését mindenki pontosnak hiszi? 

Ki van velünk valójában a vizsgálat pillanatában? Az orvos, aki ismeri az előzményeinket, látja az arcunkat, érzékeli a bizonytalanságunkat, vagy egy rendszer is, amely több millió adatpont alapján számol, miközben érzéseinket, lelki működésünket egyáltalán nem ismeri?

Akár elfogadjuk, akár nem, de ezek a kérdések már a mindennapjaink részei. A mesterséges intelligencia jelen van a mammográfiás szűrésben, a CT- és MR-képek értékelésében, a szemfenékvizsgálatban, a kolonoszkópiában, a sürgősségi betegosztályozásban, a szepszis és az állapotromlás előrejelzésében, a gyógyszerelési kockázatok jelzésében, a kórházi dokumentációban, a távoli monitorozásban, a rehabilitációban és egyes betegportálok válaszaiban. 

Az amerikai gyógyszer- és élelmiszerügyi hatóság, az FDA nyilvános jegyzékében sok száz engedélyezett, mesterséges intelligenciát használó orvostechnikai eszköz szerepel. A listán feltűnően nagy arányt képviselnek a radiológiai alkalmazások. A beteg gyakran úgy találkozik ezzel, hogy a technológia neve rejtve marad előtte.

Valójában minden új egészségügyi eszköznél ugyanazt a kérdést kell feltennünk: közelebb viszi-e a beteget a gyorsabb, pontosabb, méltányosabb ellátáshoz? A mesterséges intelligencia esetében ez a mérce különösen szigorú, hiszen egy téves filmjavaslat „csak” bosszúságot okoz, de egy téves sürgősségi besorolás, egy elmulasztott daganatgyanú vagy egy hibás gyógyszerelési ajánlás egész életet változtathat meg.

Gyorsaság, pontosság, betegbiztonság

Kár lenne tagadni, hogy a beteg számára az idő a legfontosabb tényező. Egy leletre várva három hét is hosszú, szepszis gyanújánál pedig néhány óra is döntő lehet. A daganat korábbi vagy későbbi felismerése között eltelt hetek, hónapok ugyancsak befolyásolhatják a kezelési lehetőségeket. Egy jól körülhatárolt feladatra fejlesztett, helyben validált rendszer ezt az időt rövidítheti. Kiemelhet egy gyanús területet a képen, sorra rendezheti a sürgős vizsgálatokat, jelezheti az állapotromlás apró, külön-külön alig feltűnő változásait, vagy azonnali eredményt adhat ott, ahol a szakorvosi leletezés hosszabb várakozással járna.

A mammográfiás szűrés adatai jól illusztrálják, hogy miért indokolt a figyelem. 

A svéd MASAI vizsgálat több mint százezer nő adatain hasonlította össze a mesterséges intelligenciával támogatott szűrést a hagyományos kettős leletezéssel. A 2026-ban közölt végső eredmények szerint az intervallumrákok aránya 12 százalékkal alacsonyabb volt az AI-támogatott csoportban, a vizsgálat ezzel teljesítette az előre rögzített egyenértékűségi feltételt. Az érzékenység 80,5 százalékot ért el a kontrollcsoport 73,8 százalékával szemben, miközben a specificitás mindkét csoportban 98,5 százalék maradt. A korábbi elemzés 29 százalékos emelkedést jelzett a szűrés során felismert daganatok arányában, a leletezési munkateher pedig számottevően csökkent. Vagyis több veszélyes elváltozás került látótérbe, a téves riasztások aránya pedig változatlan maradt.

A német PRAIM vizsgálat még nagyobb, valós szűrőprogramban gyűjtött adatsort elemzett. Tizenkét szűrőhelyen 119 radiológus 461 818, ötven és hatvankilenc év közötti nő mammográfiáját értékelte; 260 739 vizsgálatnál AI-támogatás is rendelkezésre állt. A statisztikailag korrigált daganatfelismerési arány ezer szűrésre 6,70 volt az AI-csoportban és 5,70 a kontrollcsoportban, ami 17,6 százalékos relatív különbséget jelentett. A rendszer a teljes állomány 56,7 százalékát sorolta normál kategóriába. A biztonsági jelzés 3959 esetben aktiválódott, 541 visszahíváshoz és 204 emlőrák felismeréséhez járult hozzá. [3]

A módszer hasonló előnyt mutat a diabéteszes retinopátia szűrésében. Egy valós közösségi programban vizsgált mélytanuló rendszer a szemfenékképet a vizsgálat helyén értékelte, és rögtön beutalási javaslatot adott. A szakorvosi kapacitáshiány miatt korábban hosszú várakozás következett volna, az azonnali osztályozás azonban gyorsabb továbblépést tett lehetővé. A kutatás arra is rámutatott, hogy a képminőség, a helyi munkafolyamat és a beteg társadalmi környezete ugyanúgy befolyásolja a végeredményt, mint maga az algoritmus. A technikai pontosság valójában egy hosszabb ellátási lánc egyik eleme. 

A kolonoszkópia során működő képfelismerő rendszer apró polipokra hívhatja fel a figyelmet. Randomizált vizsgálatok és összegző elemzések az adenómák felismerési arányának emelkedését mutatták, egyes kutatásokban az előrehaladott adenómák észlelése is javult. Itt már a megelőzés is fontos része az eredménynek, hiszen egy időben felismert és eltávolított rákmegelőző elváltozás évekkel későbbi betegséget előzhet meg. 

A robotasszisztált műtét elnevezése azt a benyomást keltheti, hogy a beteget egy gép operálja, ami tévedés. A műtétet továbbra is a sebész végzi. Ő irányítja a műszereket, ő hozza meg a döntéseket, a robot pedig pontosabb mozdulatokkal, jobb látótérrel és az eszközök finomabb irányításával segítheti a munkáját.

Az FDA azt tanácsolja a betegeknek, hogy a műtét előtt kérdezzenek rá az adott robotasszisztált beavatkozás várható előnyeire, korlátaira és lehetséges alternatíváira. Arra is érdemes megtudni, hogy milyen tapasztalata van az operáló sebésznek és a műtéti csapatnak az adott rendszer használatában. A robot önmagában nem garantál jobb eredményt. A műtét sikerét elsősorban a beavatkozás típusa, a beteg állapota, valamint a sebész és a teljes műtéti csapat felkészültsége határozza meg. 

AI a beteg otthonában

Az AI a kórházi kezelés befejezése után is segítheti a beteg mindennapjait. Az otthon használt eszközök mérhetik a vitális paramétereket, így a pulzust, a vérnyomást, a vércukorszintet és a vér oxigénszintjét, valamint rögzíthetik a beteg tüneteit. Ha valamelyik érték veszélyesen megváltozik, a rendszer riasztást küldhet az orvosoknak, illetve az ellátó személyzetnek.

Stroke után az AI-val támogatott digitális rehabilitáció is hasznos lehet. A vizsgálatokban legalább olyan eredményesnek bizonyult, mint a hagyományos rehabilitáció, ráadásul a gyakorlatok nehézsége a beteg mindenkori állapotához igazítható. Mindez szorosabbá teheti az otthoni követést. A rendszer azonban csak akkor nyújt valódi biztonságot, ha pontosan meghatározzák, ki kapja meg a riasztást, és mennyi időn belül reagál rá. Ki figyeli a jelzéseket este, hétvégén vagy ünnepnapon? Mi történik, ha a beteg állapota romlik, a riasztásra pedig órákon át senki sem válaszol?

A mesterséges intelligencia a gyógyszeres kezelés biztonságát is javíthatja. Figyelmeztethet két gyógyszer veszélyes kölcsönhatására, a szokatlanul magas vagy alacsony adagolásra, az allergia kockázatára, illetve arra, ha az előírt gyógyszer adagja nincs összhangban a beteg veseműködésével. A rendszer azt is jelezheti, ha a kórházi felvételkor vagy a hazabocsátáskor elmaradt a beteg korábbi és új gyógyszereinek összevetése.

Ez különösen sokat jelenthet annak a betegnek, akit több osztályon kezelnek, több orvos ír számára gyógyszert, és hosszú gyógyszerlistával él. A túl sok figyelmeztetés ugyanakkor újabb veszélyt teremthet. Ha a rendszer folyamatosan jelentéktelen eltéréseket jelez, az orvosok és a gyógyszerészek egy idő után kevésbé figyelnek a riasztásokra. Egy ilyen rendszer értékelésekor ezért azt is érdemes vizsgálni, milyen gyakran jelez valódi veszélyt, hány fölösleges figyelmeztetést küld, és ezek közül hány marad válasz nélkül.

Adminisztrációs terhek csökkentése

Az AI azzal is javíthatja a betegellátást, hogy csökkenti az orvosokra nehezedő adminisztrációt. Az úgynevezett ambient dokumentációs rendszerek figyelik a beteg és az orvos beszélgetését, majd elkészítik a vizit során elhangzottak írásos összefoglalóját. Ez még csak tervezet, amelyet az orvosnak ellenőriznie és jóváhagynia szükséges. Egy 2025-ben, a JAMA Network Open folyóiratban megjelent vizsgálatban száz klinikus munkáját elemezték a rendszer bevezetése előtt és után. A vizitenkénti jegyzetírás átlagos ideje 6,2 percről 5,3 percre csökkent. A dokumentálással járó mentális terhelést mérő pontszám 12,2-ről 6,3-ra, a kapkodás érzését jelző érték pedig 13,2-ről 6,4-re esett.

Az 57 résztvevő közül, aki mindkét felmérést kitöltötte, a bevezetés előtt 42,1 százalék, utána 35,1 százalék számolt be kiégésről, ami jól mutatja, hogy a fölösleges – jelen esetben adminisztrációs terhek – csökkentése mennyire sokat jelent a kiégés mérséklésében. 

A beteg mindebből elsősorban azt érzékelheti, hogy az orvos kevesebbet gépel, gyakrabban néz rá, és figyelmesebben követi a beszélgetést. Ez nagyon sokat jelenthet a számára, különösen akkor, amikor a beteg szorong, nehezen fogalmazza meg a panaszait, vagy olyan információkat próbál megérteni, amelyek később az egész életét befolyásolhatják.

A technológia használata ugyanakkor fontos adatvédelmi kérdéseket vet fel. Tudja-e a beteg, hogy egy digitális rendszer is követi a beszélgetést? Készül-e hangfelvétel, vagy a program azonnal szöveggé alakítja az elhangzottakat? Hol dolgozzák fel az adatokat, meddig őrzik meg őket, és kik férhetnek hozzájuk?

Ezek korántsem jelentéktelen részletek. Egy orvosi viziten szóba kerülhet a beteg párkapcsolata, szexuális élete, függősége, pszichiátriai állapota, anyagi helyzete vagy egy korábbi traumája. A páciensnek ezért pontosan értenie szükséges, mi történik ezekkel az érzékeny információkkal, és ki ellenőrzi az AI által készített összefoglalót.

A valódi választási lehetőséget az jelentheti, ha a beteg visszautasíthatja a rendszer használatát, miközben az ellátás minősége változatlan marad. Joga lehet megismerni az AI által készített jegyzetet, jelezni a félreértéseket, és kérni a hibásan rögzített adatok kijavítását.

Egy félrehallott vagy rosszul értelmezett mondat bekerülhet a beteg kórelőzményébe, ahonnan később újabb leletekbe, beutalókba és zárójelentésekbe kerülhet át. Egyetlen dokumentációs hiba így éveken át elkísérheti a beteget, és akár a későbbi kezelését is befolyásolhatja.

Hibázhat-e a gép?

A mesterséges intelligenciáról szóló vitákban gyakran két szélsőséges álláspont ütközik. Az egyik szinte tévedhetetlennek látja a gyors és fáradhatatlan gépet, a másik eleve veszélyforrásként tekint rá. A kórházi mindennapok ennél jóval összetettebbek. Egy jól működő AI segítheti az orvost a pontosabb döntésben. Egy hibás vagy torz rendszer viszont az orvost is rossz irányba vezetheti, különösen akkor, ha a gépi javaslat meggyőzőnek látszik.

Ezt a veszélyt vizsgálta egy randomizált kutatás, amely az Egyesült Államok 13 államára terjedt ki. A vizsgálatban 457 orvos, emelt hatáskörű ápoló és orvosasszisztens vett részt. Akut légzési elégtelenséggel kezelt betegek eseteit értékelték, és arról döntöttek, hogy a tüneteket tüdőgyulladás, szívelégtelenség vagy krónikus obstruktív tüdőbetegség okozta-e.

• AI segítsége nélkül a résztvevők az esetek 73 százalékában adtak helyes diagnózist.
• A megfelelően működő AI javaslatai 2,9 százalékponttal javították az eredményt.
• Amikor a rendszer magyarázó ábrát is adott a javaslata mellé, a javulás 4,4 százalékpont volt.

A kutatók ezután olyan AI-modellt is használtak, amely következetesen hibás irányba terelte a döntést. Ennek hatására a diagnosztikai pontosság 11,3 százalékponttal, 61,7 százalékra esett. A hibás javaslathoz készített látványos magyarázat alig javított a helyzeten: a résztvevők 64 százalékos eredményt értek el. Vagyis a magyarázó ábra önmagában alig védte meg a szakembereket attól, hogy kövessék a torz gépi ajánlást.

A résztvevők 66,7 százaléka korábban nem tudott arról, hogy egy AI-rendszer bizonyos betegcsoportok esetében következetesen pontatlanabb lehet. A beteg szempontjából a biztonság a fő szempont, és itt muszáj hangsúlyoznunk, hogy attól, hogy egy orvos hagyja jóvá a diagnózist, a rendszer még nem válik automatikusan biztonságossá. Az orvosnak ismernie szükséges az AI korlátait, fel kell ismernie a szokatlan vagy hibás javaslatokat, és össze kell vetnie azokat a beteg tüneteivel, vizsgálati eredményeivel és kórelőzményével.

Az algoritmus megbízhatósága

Az algoritmus a rendelkezésére bocsátott múltból tanul, ezért annak hiányait is magával viszi. 

Egy bőrgyógyászati modell például pontatlanabb lehet a sötétebb bőrtónusú embereknél, ha a fejlesztés során kevés ilyen képet használtak. Hasonló bizonytalanságot okozhat, ha az adatbázisban alig jelennek meg idős, több betegséggel élő vagy ritka kórképpel kezelt páciensek. 

A rendszer gyakran pont azoknál hibázhat gyakrabban, akiknél egy téves döntés különösen súlyos következményekkel járhat. Erre mutatta rá egy 2019-ben, a Science folyóiratban közölt tanulmány is. 

A kutatók egy széles körben használt amerikai algoritmust vizsgáltak, amely az egészségügyi kiadások alapján döntötte el, mely betegek szorulnak több támogatásra. A rendszer abból indult ki, hogy akire korábban többet költöttek, annak súlyosabb az állapota. Csakhogy azonos kockázati pontszám mellett a fekete betegek több aktív krónikus betegséggel éltek, mégis kisebb eséllyel kerültek be a többletellátásra kijelölt csoportba. A torzítás kijavítása 17,7 százalékról 46,5 százalékra emelte volna a plusztámogatásra kiválasztott fekete betegek arányát. A hibát elsősorban a rosszul megválasztott mérőszám okozta: az algoritmus az ellátás költségét összetévesztette a beteg valódi egészségügyi szükségletével. 

Ezért egy AI-rendszer értékelésekor azt is meg kell vizsgálni, hogyan teljesít különböző életkorú, nemű, bőrtónusú, egészségi állapotú és társadalmi helyzetű betegek körében. A páciens számára végül nem az a döntő, hogy az algoritmus általában mennyire pontos, hanem az, hogy az ő helyzetéhez hasonló esetekben mennyire lehet megbízni benne.

Egy rendszer átlagosan jó eredményt érhet el úgy is, hogy bizonyos betegcsoportoknál lényegesen gyakrabban téved. A beteg számára ezért nemcsak az a fontos, hogy az AI általánosságban mennyire pontos, és az is, hogy a hozzá hasonló emberek esetében mennyire megbízható.

Készségkopás

Egy 2025-ben megjelent tanulmány négy lengyel endoszkópos központ adatait vizsgálta. Az AI bevezetése előtt 795 olyan kolonoszkópiát értékeltek, amelyet az orvosok gépi segítség nélkül végeztek. Ezekben a vizsgálatokban az adenómák felismerési aránya 28,4 százalék volt.

Miután az orvosok rendszeresen használni kezdték az AI-t, újabb 648, gépi segítség nélkül végzett kolonoszkópia eredményeit elemezték. Az adenómák felismerési aránya ekkor 22,4 százalékra csökkent. Ez 6 százalékpontos, arányaiban körülbelül 20 százalékos visszaesést jelentett. Az AI támogatásával végzett 734 beavatkozás során 25,3 százalékos felismerési arányt mértek.

A kutatás megfigyeléses vizsgálat volt, ezért önmagában nem bizonyítja, hogy a romlást az AI rendszeres használata okozta. Az eredmények mégis felvetik az úgynevezett készségkopás lehetőségét. Ha egy szakember hosszú időn át számíthat a gép figyelmeztetésére, előfordulhat, hogy önállóan már kevésbé hatékonyan veszi észre az elváltozásokat.

Ennek egy rendszerhiba vagy átmeneti leállás idején lehet különösen nagy jelentősége. Mi történik, ha az AI éppen akkor válik elérhetetlenné, amikor az orvos figyelme már hozzászokott a gépi jelzésekhez?

A betegbiztonság érdekében ezért az AI mindennapi használata mellett az orvosok önálló diagnosztikai képességét is rendszeresen ellenőrizni és fejleszteni szükséges. Ez minden orvosra igaz, így például a radiológusokra, az endoszkópos szakemberekre és a sürgősségi ellátásban dolgozókra egyaránt. A technológia akkor segíti tartósan a gyógyítást, ha közben az emberi tudás és figyelem is megmarad.

AI és az őszinte beszélgetés

Ahogyan fentebb már érintettem, az egészségügyi adatok rendkívül érzékenyek. Olyan információkat is tartalmazhatnak rólunk, amelyeket még a családunkkal, a munkaadónkkal vagy a közvetlen környezetünkkel sem osztunk meg. Egyetlen digitális rendszerben összekapcsolódhat a diagnózisunk, a genetikai leletünk, a gyógyszerlistánk, egy orvosi beszélgetés hangfelvétele, az alvási szokásaink és az otthoni mérőeszközeink adatsora. Az AI ezekből tanul és ezek alapján működik. A beteg számára viszont mindez a magánélet legérzékenyebb része.

Jól mutatja ennek veszélyét az amerikai BetterHelp ügye. A Szövetségi Kereskedelmi Bizottság szerint az online tanácsadó szolgáltató reklámcélokra adott át felhasználói e-mail-címeket, IP-címeket és egészségügyi kérdőívekre adott válaszokat több technológiai vállalatnak. Mindez annak ellenére történt, hogy a szolgáltató ennél jóval korlátozottabb adatfelhasználást ígért ügyfeleinek. A 2023-ban kötött egyezség alapján 7,8 millió dollárt kellett visszafizetni az érintetteknek. A visszatérítés lehetőségéről 2024-ben körülbelül 800 ezer ember kapott értesítést.

Hasonló ügybe keveredett a Cerebral nevű mentális egészségügyi szolgáltató is. A vállalat érzékeny felhasználói adatokat továbbított reklámcélokra, és más fogyasztóvédelmi szabályokat is megsértett. Az ügy több mint 7 millió dolláros egyezséggel zárult. Ezek amerikai esetek, az általuk felvetett kérdés azonban Európában is fontos. 

• Tudja-e a beteg, pontosan mire használják az adatait?
• Kizárólag az ellátását segítik velük, vagy később reklámok célzására, üzleti elemzésekre és új rendszerek fejlesztésére is felhasználhatják őket?
• Hol ér véget a gyógyítás, és hol kezdődik az egészségügyi adatok üzleti hasznosítása?

A mentális egészség területén az AI hibája közvetlenül is árthat a segítséget kérő embernek. Az Egyesült Államokban működő evészavar-szervezet 2023-ban felfüggesztette Tessa nevű chatbotját. A program fogyással, kalóriadeficittel és testzsírméréssel kapcsolatos tanácsokat adott olyan embereknek, akik éppen evészavaruk miatt fordultak hozzá. A chatbotot eredetileg megelőző támogatásra tervezték, egyes válaszai azonban tovább erősíthették azokat a gondolatokat és viselkedési mintákat, amelyekből a felhasználók gyógyulni próbáltak.

Egy chatbot könnyen bizalmat ébreszt. Bármikor elérhető, türelmesen válaszol, és sokan kevésbé érzik kínosnak előtte a legszemélyesebb problémáikat. A nyugodt és magabiztos hang azonban nem bizonyítja, hogy a rendszer felismeri a veszélyhelyzetet, érti a beteg állapotát, vagy szakmailag megfelelő tanácsot ad. A hozzáférhetőség és a klinikai alkalmasság két külön kérdés.

Ezt a különbséget jól érzékeltette egy 2026-ban, a JAMA Network Open folyóiratban megjelent vizsgálat. A kutatók 21, nyilvánosan elérhető nagy nyelvi modellt teszteltek 29 klinikai eseten. Az eseteket fokozatosan mutatták be a rendszereknek, vagyis az AI először csak kevés információt kapott, majd lépésről lépésre ismerhette meg a teljes kórtörténetet.

Amikor minden fontos adat rendelkezésre állt, a legjobb modellek 90 százalék fölötti pontossággal nevezték meg a végső diagnózist. Az ellátás korai szakaszában viszont, amikor még hiányos információkból kellett felsorolniuk a lehetséges betegségeket, mind a 21 modell 80 százalék fölötti hibaarányt mutatott. 

Alapelvek az AI használatához

Egy kórházi AI-rendszer működésében sok szereplő vesz részt. A fejlesztő elkészíti a modellt, a beszállító beilleszti a kórház informatikai rendszerébe, az intézmény megvásárolja, az informatikusok üzemeltetik, az egészségügyi szakember pedig használja. A döntés következményeit végül a beteg viseli.

Hiba esetén könnyen elmosódhat a felelősség. A fejlesztő arra hivatkozhat, hogy a rendszert helytelenül használták. A kórház az engedélyekre és a tanúsítványokra mutathat, az orvos pedig arra, hogy a gép ezt az eredményt javasolta. Közben a beteg esetleg csak a zárójelentésből vagy egy későbbi vizsgálat során tudja meg, hogy valami félrecsúszott. A betegközpontú működéshez ezért átlátható szabályokra van szükség. A páciensnek joga van tudni, milyen AI-rendszert használtak az ellátása során, mi volt a rendszer feladata, és milyen korlátai vannak. Fontos az is, hogy a kórház ismerje a modell helyi teljesítményét, vagyis azt, hogy mennyire megbízható az adott intézmény saját betegeinek körében.

Egyértelművé kell tenni, hogy ki hozza meg a végső döntést. Rögzíteni szükséges azt is, ha az orvos eltér a gép javaslatától, vagy éppen azért választ egy kezelést, mert az AI azt ajánlotta. Ha a beteg hibára gyanakszik, tudnia kell, hol tehet bejelentést, ki vizsgálja ki az ügyet, és mikorra várhat választ. Egy rendszer jó vagy átlagos eredménye kevés vigaszt nyújt annak, akinek az esetében hibázott.

Az Egészségügyi Világszervezet hat alapelvet határozott meg az egészségügyi AI használatához. Ezek szerint 

• védeni kell a beteg önrendelkezését,
• óvni kell az emberi biztonságot és jóllétet,
• a rendszer működésének átláthatónak és érthetőnek kell lenni,
• tisztázni kell a döntési felelősség kérdését,
• az AI használata nem növelheti az egyenlőtlenségeket,
• működését folyamatosan ellenőrizni és szükség esetén módosítani kell. 

A betegnek tisztában kell ezekkel az elvekkel. Tudni kell, hogy mire jutott az AI, az orvos miért fogadta el vagy utasította el a javaslatát, és milyen más vizsgálati vagy kezelési lehetőségek állnak rendelkezésre. Az átláthatóság végső soron azt jelenti, hogy a beteg érti, hogyan született meg a róla szóló döntés.

Betegjogok, felelősség 

Az Európai Unió mesterséges intelligenciáról szóló rendelete, az AI Act 2024. augusztus 1-jén lépett hatályba, rendelkezéseit pedig több lépcsőben kezdik alkalmazni. Számos orvostechnikai eszközhöz kapcsolódó AI-rendszer a magas kockázatú kategóriába kerül. Ezeknél a fejlesztőnek többek között igazolnia szükséges az adatok megfelelő kezelését, a rendszer pontosságát, nyomonkövethetőségét és kiberbiztonságát. Biztosítani kell az emberi felügyeletet is. A rendelet külön figyelmet fordít az automatizálási torzításra. Ez akkor alakul ki, amikor az orvos a gép javaslatának a kelleténél nagyobb jelentőséget tulajdonít, és saját szakmai megítélésével szemben is követi azt. 

Az emberi ellenőrzés ezért csak akkor jelent valódi védelmet, ha az orvos érti a rendszer működését, felismerheti a hibát, és szabadon felülírhatja az ajánlást.

Egy hiba kivizsgálásakor vissza kell tudni keresni, hogy az adott napon a rendszer melyik változata működött, milyen adatokat kapott, milyen eredményt adott, és ki hagyta jóvá a döntést. Fontos, hogy a kórház észlelje a szokatlan működést, szükség esetén leállíthassa az eszközt, és érthetően tájékoztassa a beteget az AI szerepéről. A megfelelőségi jelölés a használat egyik feltétele; a biztonságot a rendszer teljes működési ideje alatt ellenőrizni szükséges.

Az adatvédelem uniós jogi keretét a GDPR (általános adatvédelmi rendelet) adja, amely az egészségügyi adatokat a különleges személyes adatok körébe sorolja. A beteg megtudhatja, milyen célból használják az adatait, kik férhetnek hozzájuk, és meddig őrzik meg őket. Másolatot kérhet a kezelt adatokról, kezdeményezheti a pontatlan információk kijavítását, jogsérelem gyanúja esetén pedig a felügyeleti hatósághoz vagy bírósághoz fordulhat. Külön szabályok vonatkoznak azokra a döntésekre, amelyeket kizárólag automatizált rendszer hoz meg, és amelyek jogi vagy hasonlóan jelentős hatással járnak az érintettre. Ilyen esetben a beteg számára érthető tájékoztatást kell adni a döntés jelentőségéről, várható következményeiről és – a vonatkozó feltételek teljesülésekor – a rendszer működésének logikájáról. 

Az Európai Egészségügyi Adattérről szóló rendelet azt kívánja elérni, hogy az emberek könnyebben hozzáférjenek saját elektronikus egészségügyi adataikhoz, és nagyobb ellenőrzést gyakoroljanak azok felhasználása felett. A rendelet kutatási, innovációs, betegbiztonsági és szabályozási célokra is keretet teremt az egészségügyi adatok másodlagos felhasználásához. A közös adatbázisokból pontosabb diagnosztikai rendszerek és eredményesebb kezelések születhetnek. A társadalmi haszon mellett azonban minden esetben tisztázni szükséges, mely adatok kerülnek be, milyen célra használják őket, kik kaphatnak hozzáférést, és milyen módon csökkentik az érintettek azonosításának kockázatát.

Magyarországon az egészségügyről szóló 1997. évi CLIV. törvény biztosítja a beteg számára az egyénre szabott, teljes körű tájékoztatást, az önrendelkezést, az egészségügyi dokumentáció megismerését és az orvosi titok védelmét. Ezek a jogok akkor is érvényesek, ha az ellátásban mesterséges intelligenciát használnak. 

Az EESZT-ben és az EgészségAblakban a beteg hozzáférhet számos egészségügyi dokumentumához, az önrendelkezési beállításokkal pedig szabályozhatja adatainak egyes felhasználási módjait. A hozzáférési napló segítségével azt is ellenőrizheti, kik tekintették meg az adatait. 

Adatvédelmi jogsérelem gyanújával a beteg a Nemzeti Adatvédelmi és Információszabadság Hatósághoz fordulhat. Az ellátással kapcsolatos panaszt benyújthatja az egészségügyi szolgáltatóhoz vagy annak fenntartójához, és segítséget kérhet a betegjogi képviselőtől. A szolgáltatónak vagy fenntartónak a panaszt ki kell vizsgálnia, az eredményről pedig legfeljebb harminc munkanapon belül írásban tájékoztatnia kell a beteget.

Ki tudja, egyszer talán a saját leletünk fölött tér el egymástól az orvos és az algoritmus véleménye. Abban a pillanatban melyik mondat adna nagyobb biztonságot: „Ezt számolta a rendszer”, vagy az, hogy „Megértettem, miért jutott erre az AI, összevetettem azzal, amit önről tudok, és vállalom a döntésemet”? 

Ha választanunk lehetne, valóban a legpontosabb gépet kérnénk magunk mellé, vagy azt az orvost, aki akkor is képes önállóan gondolkodni, amikor a gép magabiztosan téved?