Microsoft vás chce presvedčiť, že ich AI model je presnejší než váš lekár
Spoločnosť Microsoft uverejnila v magazíne Science štúdiu, podľa ktorej ich diagnostický systém poháňaný umelou inteligenciou dosiahol výrazne lepšie výsledky než samotní lekári. Systém vo všetkých hodnotených prípadoch prekonal všeobecných lekárov, pri klinicko-patologických prípadoch bola jeho presnosť viac než dvojnásobná.
Profesorka digitálneho zdravia na Univerzite v Southamptone a docentka aplikovanej informatiky na Slovenskej technickej univerzite Gabriela Czanner si myslí, že výroky Microsoftu sú miestami nadhodnotené. „Výsledky štúdie sú z technologického hľadiska zaujímavé, ale pri ich interpretácii musíme byť opatrní,“ varuje vedkyňa. Podľa nej porovnanie úspešnosti umelej inteligencie s lekármi v testovacom prostredí ešte neznamená, že AI dokáže diagnostikovať pacientov lepšie než lekári v bežnej klinickej praxi.
Ako štúdia prebiehala
Microsoft testoval diagnostický systém MAI-DxO poháňaný jazykovým modelom GPT-5 od spoločnosti OpenAI. Systém funguje na základe postupnej diagnostiky, keď model získava informácie o pacientovi priebežne. Niekoľko AI agentov analyzovalo symptómy a zdravotnú anamnézu pacienta a rozhodovalo o tom, ktoré vyšetrenia je potrebné vykonať.
Pri 304 klinicko-patologických prípadoch dosiahol model diagnostickú presnosť 83,2 percenta v porovnaní so všeobecnými lekármi, ktorí dosiahli 36,1 percenta. Pri ďalších 325 prípadoch pacientov prijatých z urgentného príjmu dosiahol systém presnosť 80,3 percenta, zatiaľ čo lekári 46,8 percenta.
Metodologické problémy
Czanner vidí výber testovaných prípadov ako jeden z najväčších metodologických problémov štúdie. V časopise sú podľa nej publikované najmä diagnosticky zaujímavé a komplikované prípady, zatiaľ čo ostatné pochádzali z urgentného príjmu. „Ani jedna z týchto skupín nereprezentuje bežnú populáciu pacientov,“ hovorí Czanner. „V štúdii navyše chýbajú zdraví pacienti a bežné nekomplikované ochorenia. Preto nevieme, ako často by AI nesprávne označila zdravého človeka za chorého.“
Odborníčka tiež upozorňuje, že štúdia porovnáva sofistikovaný systém simulujúci spoluprácu tímu lekárov s jednotlivými lekármi. Za férovejšie by považovala porovnanie s multidisciplinárnymi tímami odborníkov.
Nižšie náklady nemusia znamenať rýchlejšiu diagnostiku
V štúdii porovnávali nielen diagnostickú presnosť, ale aj náklady na stanovenie diagnózy. V porovnaní s lekármi dosahovala umelá inteligencia pri klinicko-patologických prípadoch vyššiu presnosť pri nižších nákladoch. Podľa Czanner to však neznamená, že AI môže byť v diagnostike lacnejšia. „Ak bude lekár musieť každé odporúčanie AI dodatočne kontrolovať, vysvetľovať alebo opravovať, môže mu nová technológia prácu dokonca komplikovať,“ hovorí.
Zodpovednosť a regulácia
Na Slovensku už umelá inteligencia pomáha lekárom napríklad pri diagnostike mozgových nádorov či analýze zobrazovacích dát. „Kým však budeme môcť hovoriť o samostatnej diagnostike, potrebujeme dôkazy o jej bezpečnosti a spoľahlivosti v reálnych podmienkach,“ hovorí Czanner. Nebezpečenstvo vidí aj v tom, či model dokáže vyjadriť neistotu ohľadom svojej diagnózy. „AI dokáže odpovedať veľmi presvedčivo, aj keď sa mýli.“
Podľa Czanner by pacienti mali byť informovaní, ak umelá inteligencia významne ovplyvnila proces diagnózy. „Ak AI odporučí nesprávnu diagnózu a pacient utrpí ujmu, kto bude zodpovedný? Lekár, ktorý odporúčanie prijal, zdravotnícke zariadenie alebo výrobca systému?“ Európska únia prostredníctvom aktu o umelej inteligencii postupne stanovuje pravidlá jej používania.
Ochrana súkromia
Pacienti by podľa Czanner nemali do verejných AI systémov bez overenia podmienok ochrany údajov vkladať celé lekárske správy, rodné čísla, identifikačné údaje ani zdravotné informácie o iných osobách. „AI by mala slúžiť ako zdroj informácií a podpora rozhodovania, nie ako náhrada odborného úsudku lekára.“
