Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
O.z. Dôstojnosť Slovenska
O.z. Dôstojnosť Slovenska
ByKamil
Microsoft chce nahradiť lekára: Super AI by mala prevziať diagnostiku
Share your love
Vy ale o tu prácu prídete či chcete, alebo nie !! Riešenie je jednoduché. Odmietni Al a ID na svojom pracovisku, v mobile, na sociálnych sieťach, v OC, v online a ofline a atď, inak si skončil vlastnou vinou !!!
„Medicínska superinteligencia“ od Microsoftu: Revolúcia v diagnostike – alebo marketingová rozprávka?
Kritická analýza MAI‑DxO a mýtu o neomylnosti
O tomto som už informoval ešte v roku 2020: klikni na → mohlo-by-sa-to-stat-microsoftom-mediciny.
V ďalších článkoch tiež som informoval, že ktoré odvetvia nahradí Al človeka!!
podla-wef-41-spolocnosti-na-celom-svete-nahradi-svojich-zamestnancov-ai-do-roku-2030
pracovne-pozicie-ktore-by-mohla-umela-inteligencia-nahradit-varovanie-expertov
digitalna-depresia-a-nahradenie-lekarov-ucitelov-trenerov-a-inych-umelou-inteligenciou
wef-a-osn-vyzyvaju-na-cenzuru-digitalne-id-a-umelu-inteligenciu-vsade
Nerealistické testovacie podmienky: Lekári so zaviazanými očami
Základom pre superlatív spoločnosti Microsoft je štúdia 304 komplexných prípadových štúdií z časopisu New England Journal of Medicine . Zatiaľ čo umelá inteligencia dokázala čerpať z koncentrovaných vedomostí z internetu a viacerých jazykových modelov, ľudskí lekári museli robiť rozhodnutia bez odbornej literatúry, bez konzultácie a bez dodatočných testov . Tento scenár sa nijako nepodobá na skutočnú klinickú prax – kde lekári pracujú ako tím a spoliehajú sa na skúsenosti, modernú diagnostiku a cielené doplňujúce otázky.
Spoločnosť Microsoft prirovnáva vysokovýkonné lietadlo k bicyklu – a potom tvrdí, že lietadlo lieta lepšie.
Skreslenie vzorkovania: AI sa trénuje na hádankách namiesto reality
Ďalší kritický bod: Výber prípadov pozostával z obzvlášť zložitých, často akademicky skonštruovaných, výnimočných prípadov . Toto sú presne tie prípady, v ktorých sú modely rozsiahlych jazykov obzvlášť dobré v analýze – mnohé z nich napokon priamo alebo nepriamo pochádzajú z trénovacích údajov umelej inteligencie.
Výsledok: Testovacie prostredie, ktoré poskytuje maximálny úžitok pre umelú inteligenciu , ale umožňuje len málo záverov o každodennej starostlivosti o pacientov. Zriedkavé choroby tvoria len zlomok skutočnej klinickej práce – a práve tento zlomok je základom údajnej nadradenosti umelej inteligencie.
Žiadna externá validácia – žiadny klinický význam
Napriek všetkej propagande zostáva MAI‑DxO čisto výskumným systémom – bez schválenia, bez partnerského hodnotenia a bez pilotných štúdií na skutočných pacientoch. Systém netestovali ani lekárske spoločnosti, ani nezávislé výskumné ústavy. Pôsobivé čísla sú založené výlučne na internom testovacom prostredí spoločnosti Microsoft – čiernej skrinke s vysokým faktorom sebapotvrdenia .
Skutočnosť, že sa v tomto kontexte objavuje pojem „superinteligencia“, ukazuje menej vedeckej presnosti ako marketingovo motivovanú aroganciu .
Ilúzia automatizácie: Keď umelá inteligencia nahradí lekárov – ale nerozumie im
MAI‑DxO nie je určený len na stanovenie diagnóz, ale aj na rozhodovanie o ďalších testoch. Hoci to znie technicky pôsobivo, je to eticky zložité: Výber diagnostických opatrení si vyžaduje nielen štatistické znalosti, ale aj klinickú citlivosť, kontextové povedomie a zodpovednosť .
Príliš skoré zavedenie umelej inteligencie a slepá dôvera v ňu by mohli viesť k systematickej nesprávnej diagnóze alebo nedostatočnej liečbe – najmä v nedostatočne financovaných systémoch zdravotnej starostlivosti, kde je vysoký ekonomický tlak a lekárske kapacity sú obmedzené. Bolo by veľké pokušenie nechať „systém“ rozhodnúť – na úkor blaha pacienta .
Skutočné riziko: humbuk okolo umelej inteligencie namiesto ochrany pacientov
Krok spoločnosti Microsoft prichádza v správnom čase – v ére rastúcej technologickej eufórie a zmenšujúcich sa rozpočtov na zdravotníctvo. Práve preto je však potrebná opatrnosť. Systém umelej inteligencie založený na manipulatívnom benchmarkingu, nerealistických predpokladoch a nepodložených sľuboch o efektívnosti by sa nemal stať plánom pre budúcnosť medicíny .
Predtým, ako sa systémy ako MAI‑DxO vôbec môžu zvážiť pre diagnostiku v reálnom svete, je potrebné nasledovné:
- Nezávislé klinické štúdie so skutočnými pacientmi
- Transparentnosť údajov o školeniach, rozhodovacích procesov a miery chybovosti
- etické a regulačné preskúmanie zo strany verejných orgánov
- a úprimnú diskusiu o zodpovednosti, povinnostiach a dôvere
Záver: Technológia s potenciálom – ale bez zrelosti
MAI‑DxO môže byť zaujímavým výskumným prístupom – a technologickým experimentom s vyhliadkami do budúcnosti. Nie je však ani revolučný, ani praktický . Pojem „lekárska superinteligencia“ naznačuje úroveň zrelosti, ktorá jednoducho neexistuje.
Namiesto toho, aby podľahol PR fantáziám o všemohúcnosti, by sa Microsoft mal radšej vydať náročnou cestou: cestou kontrolovaných štúdií, lekárskych partnerstiev a transparentného zverejňovania všetkých obmedzení a rizík. Dovtedy zostane MAI-DxO elegantnou demografickou skupinou s nebezpečným nárokom na autoritu – nič viac, nič menej.
Microsoft tvrdí, že jeho nový systém umelej inteligencie diagnostikoval pacientov štyrikrát presnejšie ako ľudskí lekári
Technologický gigant oslovil niekoľko špičkových výskumníkov z Googlu, aby im pomohli vybudovať výkonný nástroj umelej inteligencie, ktorý dokáže diagnostikovať pacientov a potenciálne znížiť náklady na zdravotnú starostlivosť.
Spoločnosť Microsoft vytvorila systém umelej inteligencie s názvom MAI Diagnostic Orchestrator, ktorý podľa spoločnosti dokáže diagnostikovať ochorenia.
Spoločnosť Microsoft prevzala„Skutočný krok smerom k lekárskej superinteligencii,“ hovorí Mustafa Suleyman, generálny riaditeľ divízie umelej inteligencie spoločnosti . Technologický gigant tvrdí, že jeho nový výkonný nástroj umelej inteligencie dokáže diagnostikovať choroby štyrikrát presnejšie a za výrazne nižšie náklady ako panel ľudských lekárov.
Experiment testoval, či nástroj dokáže správne diagnostikovať pacientovi ochorenie, čím napodobnil prácu, ktorú typicky vykonáva ľudský lekár.
Tím spoločnosti Microsoft použil 304 prípadových štúdií z časopisu New England Journal of Medicine na vytvorenie testu s názvom Sequential Diagnosis Benchmark. Jazykový model rozdelil každý prípad na postupný proces, ktorý lekár vykonal, aby dospel k diagnóze.
Výskumníci spoločnosti Microsoft potom vytvorili systém s názvom MAI Diagnostic Orchestrator (MAI-DxO), ktorý dotazuje niekoľko popredných modelov umelej inteligencie – vrátane GPT od OpenAI, Gemini od Google, Claude od Anthropic, Llama od Meta a Grok od xAI – spôsobom, ktorý voľne napodobňuje spoluprácu niekoľkých ľudských expertov.
V ich experimente MAI-DxO prekonal ľudských lekárov a dosiahol presnosť 80 percent v porovnaní s 20 percentami lekárov. Taktiež znížil náklady o 20 percent výberom lacnejších testov a postupov.
„Tento mechanizmus orchestrácie – viacero agentov, ktorí spolupracujú v tomto štýle reťazca diskusií – nás priblíži k lekárskej superinteligencii,“ hovorí Suleyman.
Spoločnosť si na pomoc s týmto úsilím najala niekoľko výskumníkov umelej inteligencie od Googlu – ďalší znak zintenzívňujúcej sa vojny o špičkové odborné znalosti v oblasti umelej inteligencie v technologickom priemysle. Suleyman predtým pôsobil ako manažér v spoločnosti Google pracujúci na umelej inteligencii.
Umelá inteligencia sa už v niektorých častiach amerického zdravotníctva široko používa, vrátane pomoci rádiológom pri interpretácii skenov. Najnovšie multimodálne modely umelej inteligencie majú potenciál fungovať ako všeobecnejšie diagnostické nástroje, hoci používanie umelej inteligencie v zdravotníctve prináša vlastné problémy, najmä tie, ktoré súvisia so skreslením tréningových údajov, ktoré sú skreslené smerom k určitým demografickým skupinám.
Spoločnosť Microsoft sa zatiaľ nerozhodla, či sa pokúsi túto technológiu komercializovať, ale ten istý manažér, ktorý hovoril pod podmienkou anonymity, uviedol, že spoločnosť by ju mohla integrovať do služby Bing, aby pomohla používateľom diagnostikovať ochorenia. Spoločnosť by tiež mohla vyvinúť nástroje, ktoré pomôžu lekárskym odborníkom zlepšiť alebo dokonca automatizovať starostlivosť o pacientov. „V priebehu nasledujúcich niekoľkých rokov uvidíte, že budeme robiť čoraz viac práce na overovaní týchto systémov v reálnom svete,“ hovorí Suleyman.
Tento projekt je najnovším v rastúcom súbore výskumov, ktoré ukazujú, ako modely umelej inteligencie dokážu diagnostikovať choroby. V posledných rokoch spoločnosti Microsoft aj Google publikovali články, ktoré ukazujú, že modely s rozsiahlymi jazykmi dokážu presne diagnostikovať ochorenie, keď im je poskytnutý prístup k zdravotným záznamom.
Nový výskum spoločnosti Microsoft sa od predchádzajúcich prác líši tým, že presnejšie replikuje spôsob, akým lekári diagnostikujú choroby – analýzou symptómov, objednávaním testov a vykonávaním ďalších analýz, až kým sa nedosiahne diagnóza. Spoločnosť Microsoft v dnešnom blogovom príspevku o projekte opisuje spôsob, akým skombinovala niekoľko modelov umelej inteligencie na hraniciach vývoja, ako „cestu k lekárskej superinteligencii“.
Projekt tiež naznačuje, že umelá inteligencia by mohla pomôcť znížiť náklady na zdravotnú starostlivosť, čo je kritický problém, najmä v USA. „Náš model funguje neuveriteľne dobre, a to ako pri stanovení diagnózy, tak aj pri jej stanovení veľmi nákladovo efektívne,“ hovorí Dominic King, viceprezident spoločnosti Microsoft, ktorý sa na projekte podieľa.
„Je to celkom vzrušujúce,“ hovorí David Sontag, vedec na MIT a spoluzakladateľ startupu Layer Health, ktorý vyvíja nástroje umelej inteligencie v medicíne. Sontag tvrdí, že táto práca je dôležitá nielen preto, že vernejšie odráža spôsob, akým lekári pracujú, ale aj preto, že dôsledne rieši potenciálne problémy so základnou metodológiou. „To je to, čo robí tento článok silným,“ hovorí.
Sontag však hovorí, že zistenia spoločnosti Microsoft by sa mali brať s určitou opatrnosťou, pretože lekári v štúdii boli požiadaní, aby nepoužívali žiadne ďalšie nástroje na pomoc s diagnózou, čo nemusí odrážať to, ako fungujú v reálnom živote. Dodáva, že zostáva otázne, či systém umelej inteligencie v praxi výrazne zníži náklady. Lekári zapojení do štúdie mohli zohľadniť faktory, ktoré umelá inteligencia nemohla zohľadniť, ako napríklad toleranciu pacienta k zákroku alebo dostupnosť konkrétneho zdravotníckeho nástroja.
„Toto je pôsobivá správa, pretože sa zaoberá veľmi zložitými prípadmi z hľadiska diagnózy,“ hovorí Eric Topol , vedec zo Scripps Research Institute. Dodáva, že preukázanie, že umelá inteligencia by teoreticky mohla znížiť náklady na lekársku starostlivosť, je novinkou.
Topol aj Sontag z MIT tvrdia, že ďalším krokom pri overovaní potenciálu systému od spoločnosti Microsoft pred jeho všeobecným nasadením by bolo preukázanie účinnosti nástroja v klinickej štúdii, v ktorej by sa jeho výsledky porovnali s výsledkami skutočných lekárov liečiacich skutočných pacientov. „Potom môžete získať veľmi prísne vyhodnotenie nákladov,“ hovorí Sontag. https://www.wired.com. Zdroj titulného obrázka.
