Umelá inteligencia teraz predpisuje lieky v Utahu

Lieky sa predpisujú bez ľudského zásahu. A na to som varoval, že čo nastane!

Utah je prvým štátom USA, ktorý v rámci nového pilotného programu testuje autonómnu umelú inteligenciu (AI) na obnovovanie liekov na chronické ochorenia.

o-10-rokov-uz-ludi-nebude-treba/

popredny-poradca-wef-yuval-noah-harari-varuje-ze-umela-inteligencia-by-mohla-zotrocit-ludstvo-ovladnut-nabozenstva-a-dokonca-prepisat-bibliu/

Vláda v Paríži schválila Al

Je horšie ako ste si mysleli…

Al nahradí zamestnancov do roku 2030

Tieto pracovné pozície nahradí Al

V utorok Úrad pre politiku umelej inteligencie Ministerstva obchodu štátu Utah oznámil jedinečné partnerstvo so spoločnosťou Doctronic , platformou pre zdravotnú starostlivosť založenú na umelej inteligencii.

Cieľom je poskytnúť pacientom s chronickými ochoreniami rýchlejší a automatizovaný spôsob obnovenia liekov.

Tento krok však vyvoláva vážne otázky: Kto je zodpovedný za to, keď umelá inteligencia predpisuje lieky? Ako sú pacienti chránení? A koľko rozhodovacej právomoci v oblasti medicíny bude prenesené na algoritmy bez verejnej diskusie?

Podľa tlačovej správy štátu:

Táto dohoda predstavuje prvý vládou schválený program v USA, ktorý umožňuje systému umelej inteligencie legálne sa podieľať na procesoch lekárskeho rozhodovania o obnovovaní liekov – ide o nový model, ktorý by mohol zmeniť prístup k starostlivosti a v konečnom dôsledku zlepšiť výsledky liečby.

Nedodržiavanie liečby je jedným z najväčších faktorov, ktoré vedú k zdravotným následkom, ktorým sa dá predísť, a k zbytočným nákladom na zdravotnú starostlivosť. Keďže obnovenie receptov predstavuje približne 80 % všetkých aktivít súvisiacich s liekmi, spoločnosti Utah a Doctronic sa snažia otestovať, ako môže autonómna umelá inteligencia pomôcť odstrániť medzery v prístupe k liekom, znížiť oneskorenia, ktoré vedú k prerušeniu liečby, a zlepšiť výsledky liečby miliónov ľudí s chronickými ochoreniami.

Vďaka tomuto partnerstvu sa spoločnosť Doctronic stane prvou umelou inteligenciou (AI) legálne oprávnenou vydávať bežné dopĺňanie receptov nasadením svojej autonómnej platformy pre zdravotnú starostlivosť s umelou inteligenciou v rámci regulačného sandboxového rámca štátu Utah. Úrad bude dôkladne hodnotiť klinické bezpečnostné protokoly, skúsenosti pacientov a ich účinnosť v reálnom svete. Cieľom je preukázať, že bezpečná a dobre regulovaná umelá inteligencia môže zlepšiť dodržiavanie liečby, predchádzať hospitalizáciám, ktorým sa dá vyhnúť, a znížiť náklady na zdravotnú starostlivosť – a to všetko pri zachovaní lekárov v centre starostlivosti.

Pozadie doktríny

Spoločnosť Doctronic založil v septembri 2023 Matt Pavelle, sériový podnikateľ a technologický manažér so sídlom v New Yorku, ktorý sa špecializuje na riešenia v zdravotníctve založené na umelej inteligencii, ako informoval Business Insider.

Platforma je agnostická voči modelu veľkých jazykov (Large Language Model), čo znamená, že sa nespolieha na jeden systém umelej inteligencie, ale na niekoľko – ako napríklad OpenAI a Anthropic – a z nich vytvára konsenzus.

Pavelle získal počiatočné financovanie vo výške 5 miliónov dolárov, ktoré viedli spoločnosti Union Square Ventures, Tusk Ventures a akcelerátor startupov HF0.

Používatelia Doctronicu musia pred zadaním svojich symptómov poskytnúť osobné údaje, ako je vek a pohlavie.

Podľa zasvätených osôb potom dostanú štyri pravdepodobné vysvetlenia, ako aj akčný plán vrátane štandardizovanej poznámky, ktorú majú odovzdať svojmu lekárovi.

Pacienti si tiež môžu rezervovať video stretnutie s licencovaným zdravotníckym pracovníkom.

„Môžete si objednať termín 24 hodín denne, 7 dní v týždni vo všetkých 50 štátoch a zvyčajne budete spojení s odborníkom do 30 minút, pričom cena začína na 39 dolároch,“ uvádza sa v správe.

V apríli minulého roka Pavelle potvrdil, že Doctronic zaznamenáva približne 50 000 používateľov týždenne.

V údajoch zdieľaných s regulačnými orgánmi v Utahu spoločnosť Doctronic porovnala svoj systém umelej inteligencie s ľudskými lekármi s použitím 500 prípadov na pohotovosti, ako informoval Politico.

Údajne sa liečebný plán umelej inteligencie zhodoval s plánom lekárov v 99,2 % prípadov.

Zvážte

Generálny riaditeľ a výkonný viceprezident Americkej lekárskej asociácie Dr. John Whyte uviedol, že „hoci má umelá inteligencia neobmedzený potenciál zmeniť medicínu k lepšiemu, bez lekárskeho zásahu predstavuje aj vážne riziká pre pacientov a lekárov.“

Obavy siahajú od zneužívania alebo nesprávneho používania až po možnosť, že ľudia so závislosťou od drog by sa mohli pokúsiť oklamať automatizovaný systém, aby nelegálne získali lieky.

A čo jemné klinické varovné signály alebo liekové interakcie, ktoré by lekár rozpoznal?

Ešte dôležitejšie je, že pilotný projekt v Utahu nastoľuje otázku, kedy presne bol neľudskému systému udelený zákonný súhlas na účasť v procesoch lekárskeho rozhodovania – prah, ktorý bol historicky vyhradený pre licencovaných odborníkov zodpovedných pacientom a regulačným orgánom.

Tým, že štát umožňuje autonómnej umelej inteligencii legálne vydávať bežné dopĺňané recepty, netestuje len nový nástroj, ale aj nový medicínsky model – model, v ktorom je úsudok tradične vykonávaný lekármi delegovaný na algoritmy fungujúce v rámci regulačného pieskoviska.

Vláda prezentuje program ako prostriedok na zlepšenie efektívnosti a dostupnosti, ale rýchlosť a škálovanie v skutočnosti zvyšujú riziká, keď sa vyskytnú chyby – najmä keď sú rozhodnutia automatizované a uplatňujú sa na milióny ľudí s chronickými ochoreniami.

Sľub, že lekári zostanú „v centre starostlivosti“, je v rozpore so systémom explicitne navrhnutým pre autonómnu prevádzku a vyvoláva otázky o tom, kde končí ľudský dohľad a začína algoritmická autorita.

Ak sa obnovenie receptov – ktoré predstavuje približne 80 % všetkých aktivít súvisiacich s liekmi – teraz považuje za bezpečné pre automatizáciu, aké ďalšie kľúčové lekárske funkcie by mohli čoskoro nasledovať rovnakú logiku?

A hoci Utah prezentuje tento pilotný projekt ako národný model pre umelú inteligenciu v zdravotníctve, vynára sa ďalšia otázka: Je to úzko definovaný experiment – ​​alebo prvý krok k normalizácii lekárskeho rozhodovania podporovaného umelou inteligenciou bez jasne definovaných, pevne stanovených zábran?