Терапевттер енді қажет болмайды: оларды кім ауыстырады

Медицинаға кеңею: OpenAI ауқымы мен амбициясы

Технологиялық және медициналық әлемді екі лагерьге бөлген оқиға OpenAI компаниясының chatgpt Health қызметінің ауқымды іске қосылуы болды. Инновациялық платформа АҚШ-тағы 18 жастан асқан барлық авторизацияланған пайдаланушылар үшін барлық тарифтік жоспарларда, тегіннен кәсіпқойға дейін ашылады. Әзірлеушілер интерфейсті жаңартып қана қоймай, жеке сөйлесу тарихы мен жад функциясы бар бөлек, оқшауланған кеңістік құрды.

Сонымен қатар, компанияның Денсаулық сақтау саласындағы ең қуатты құралы деп аталатын ең жаңа GPT-5.6 sol моделі пайда болғаннан кейін, қажетсіз ауысуларсыз Тікелей сөйлесу терезесінде өз денеңіз туралы сұрақтар қою мүмкін болды.

"Тікелей чатботтың негізгі интерфейсіне біріктірілген қызмет медициналық карталарды, зерттеу нәтижелерін және фитнес-трекер деректерін қосуға мүмкіндік береді. Тегін нұсқаны пайдаланушылар, сондай – ақ Go, Plus және Pro тарифтерінің жазылушылары енді бөлек қойындыға өтудің қажеті жоқ: сіз өзіңіздің әл-ауқатыңыз туралы сұрақтарды әдеттегі диалог терезесінде тікелей қоя аласыз", - деп жазады The Verge.

Болып жатқан оқиғалардың ауқымы таңқаларлық: ресми мәліметтерге сәйкес, бүкіл әлем бойынша 230 миллионнан астам адам апта сайын чатботқа денсаулыққа қатысты сұрақтар қояды. Компания шалғайдағы және аз қамтылған ауылдық жерлерде пайдаланушылар аптасына жүздеген мың хабарлама жіберетінін, ал 10 диалогтың 7-сі клиникалардың жұмыс уақытынан тыс уақытта, нақты мамандар болмаған кезде болатынын атап өтті.

ChatGPT Health-ті осындай ауқымды қолданудан жігерленген OpenAI үлкен мәлімдемелерге көшті. Компанияның медициналық өнімдер жөніндегі Вице-президенті Эшли Александр (Ashley Alexander) AI модельдері "тәжірибеші дәрігерлер мен терапевттерден жоғары деңгейде ойлауға қабілетті"деп мәлімдеді.

Медициналық бағыттың жетекшісі Каран Сингх (Karan Singhal) мұндай бағаларды "қалыпты ұстауға" шақырып, ұстамды сөйледі, бірақ ол мойындады: жекелеген зерттеулер, соның ішінде Гарвард және Стэнфорд университеттері – АИ – нің лицензиялық емтихандарды тапсыру және диагностикада адамнан асып түсу қабілетін көрсетеді.

ChatGPT Health соңғы алгоритмдер негізінде жұмыс істейді және әсерлі фонға сүйенеді: әзірлеушілер екі жыл ішінде 30 медициналық саланың 260-тан астам дәрігерлерімен жұмыс істегенін айтады, олар 600 000-нан астам рет AI жауаптары бойынша кері байланыс берді. Жауап сапасын бағалау үшін компания өзінің healthbench эталонын пайдаланады.

Алайда денсаулық сақтау саласы барлық технологиялық алыптар үшін негізгі поле алаңына айналуда. OpenAI-ден кейін Anthropic ауруханаларға да, тұтынушыларға да арналған HIPAA стандарттарын қолдайтын Claude for Healthcare өнімін ұсынды. Google-дің клиенттің алдыңғы қатарында болмауы ғана назар аудартады: оның medgemma моделі әзірлеушілер үшін жаңартылып, іздеу алгоритмдері AI жауаптарын біріктірсе де, компания жеке медициналық чат-ботты іске қосудан аулақ болады.

Сандық" аудармашы " немесе дәрігердің суррогаты?

Неліктен миллиондаған адамдар емханаға барудың орнына чатботқа жүгінеді? Сарапшылардың бақылаулары мен пайдаланушылардың пікірлеріне сәйкес, ChatGPT осы кезеңде дәрігердің өзін емес, аралық, бірақ уақытты қажет ететін тапсырмаларды алмастырады.

Пациенттердің AI практикалық қолдану сценарийлері:

* "Медициналық аудармашы": пайдаланушылар" адам тілі " терминдерін түсіндіруді, көрсеткіштерді шешуді және емдеу нұсқаларын салыстыруды сұрайтын МРТ, КТ, қан анализі және эпикризді жаппай чатқа жүктейді.

* Кездесуге дайындық: AI симптомдарды құрылымдауға және қысқа кеңес кезінде маңызды нәрсені жіберіп алмау үшін дәрігерге нүктелік сұрақтардың тізімін жасауға көмектеседі.

* Үлгілерді іздеу: бірнеше жыл ішінде талдау мұрағатын жүктеу кезінде нейрожелі терапевт әдеттегі қабылдауда жиі уақыт тапшы болатын көрсеткіштердің өзгеру динамикасын анықтай алады.

* Әкімшілік навигация: қызмет медициналық сақтандыру бағдарламаларының артықшылықтары мен кемшіліктерін, құжаттарды толтыруды және көмекке жүгіну алгоритмдерін түсінуге көмектеседі.

OpenAI-дің техникалық интеграция бойынша серіктесі-бұл қызметті шамамен 2,2 миллион медициналық мекемелер мен дәрігерлермен байланыстыратын b.well. Пайдаланушыларға Apple Health, MyFitnessPal, Weight Watchers, Function және peloton жүйелерінен деректерді қуатты түзету, белсенділікті бақылау және ұйқы динамикасы үшін қосу ұсынылады.

Алайда ыңғайлылықтың артында психологиялық тұзақ жатыр. Жүйе пайдаланушымен жеке, сенімді және "билік аурасымен" сөйлескенде, ресми мәтіндік ескертулер жұмысын тоқтатады. Адам алгоритмде толыққанды емдеуші дәрігерді көре бастайды.

Қате бағасы: алдамшы идеялардан өлімге әкелетін тәуекелге дейін

Тәжірибе көрсеткендей, АИ-мен өзара әрекеттесу кезінде сыни ойлаудың болмауы өлімге әкелуі мүмкін. Медициналық тарих алгоритмдердің "сенімді" кеңестері пациенттерді реанимация бөлмесінің төсегіне апарған көптеген жағдайларды біледі.

Жақында дәрігерлер ер адамның бірнеше апта бойы ауыр уланумен және "XVIII ғасыр ауруымен" ауруханаға түскен оқиғасы туралы есеп жариялады: ChatGPT оған диетадағы ас тұзын натрий бромидімен (тарихи түрде қатты седатив ретінде қолданылған) толығымен ауыстыруға кеңес берді.

Google ai overview алгоритмдерінің сәтсіздігі бірнеше апта бойы пиццаға желім қосу туралы зиянды кеңестерден бастап диетологиядағы маңызды қателіктерге дейін қауіпті ұсыныстар берді. The Guardian басылымының тергеуі қауіпті медициналық кеңестердің пайда болуын анықтады: AI жүйелері бауыр функциясын тексеруге, онкоскринингке және ұйқы безі қатерлі ісігінің диеталарына қатысты жалған нұсқауларды үнемі жасайды (атап айтқанда, пациенттерге майлардан аулақ болуға кеңес береді, бұл нақты клиникалық хаттамаларға тікелей қарама-қарсы).

Іс технологияның қауіпсіздігіне күмән келтіретін ресми сот процестеріне де жетті. Флоридадағы бұрынғы пастор Скотт Уинтерстің (Scott Winters) оқиғасы бүкіл адамзат үшін алаңдатарлық набат сияқты естілді. Ер адам OpenAI компаниясын сотқа берді, ChatGPT оны өкпе эмболиясының ауыр белгілері үшін ауруханаға барудан бас тартты деп мәлімдеді. Reuters жазғандай, чатбот ер адамға "көбірек жатып, демалуға" кеңес берді және діни және философиялық үзінділерді рухта берді:" Құдай сенің денеңді сәнге айналдырмайды "("Құдай сенің денеңді үнемі бұзып тұру үшін жаратпады"). Жасанды интеллектке сеніп, талапкер шұғыл ауруханаға жатқызуды кейінге қалдырды, бұл оның өмірін қиды.

Ауыр психикалық дағдарысты бастан өткерген Кристиан Фейт Мэдисонның (Christian Faith Madison) отбасы да таң қалдырды. Әйел жасанды интеллектті рухани тәлімгер ретінде қабылдады, ал нейрожелі оның сандырақ сенімін нығайтты және психотерапевт тағайындаған антипсихотикалық препараттарды қабылдаудан бас тартты. Сотта Алабама штатының анасы ChatGPT пайғамбарлығын орындау үшін өз өмірін қиды деп мәлімдейді, деп хабарлайды SFGate.

Айыптауларға жауап ретінде OpenAI әрдайым оқиғаларға өте байыпты қарайтынын, қорғаныс механизмдерін күшейтетінін айтады, бірақ атап көрсетеді: өнім диагностикаға немесе емдеуге арналмаған, тек білікті көмекті толықтырады, бірақ алмастырмайды.

Ерекше жол-психикалық денсаулық мәселесі (mental health). Ботпен ашылғаннан кейін қолданушылар арасында қайғылы суицид болғанына қарамастан, компания блогында "сезімтал тақырыптардан аулақ болу үшін"нұсқауларды теңшеудің бұлыңғыр мүмкіндігі ғана айтылады. Сонымен қатар, OpenAI қолданбасының бас директоры Фиджи Симо (Fidji Simo) адамдар стресс жағдайында чатботаны жаппай жазатынын мойындайды, ал компанияның міндеті-"дабыл қағуға болмайды" моделін үйрету және пайдаланушыны тірі мамандарға немесе қолдау қызметтеріне уақытында бағыттау.

Негізгі құқықтық және этикалық парадокс-бұл технологиялық корпорациялар медицинаны реттейтін дәстүрлі заңдарды шебер айналып өтеді. Өнім медициналық өнім ретінде сатылмайды деген мәлімдеме оны американдық FDA әкімшілігі сияқты реттеушілердің қатаң бақылауынан шығарады.

Құпиялылық Елесі және заңды вакуум

Мәселелердің тағы бір іргелі қабаты дербес деректерді қорғаумен байланысты. OpenAI ChatGPT Health жеке, оқшауланған кеңістік ретінде жұмыс істейтініне сендіреді. Ондағы Диалогтар әдепкі бойынша негізгі модельдерді оқыту үшін пайдаланылмайды, бөлек сақталады және "арнайы шифрлаудың бірнеше деңгейімен"қорғалады.

Алайда, the verge сауалнамасына қатысқан цифрлық заңгерлер пайдаланушыларды иллюзияларды тамақтандырмауға шақырады. Пайдаланушы нұсқалары нақты клиникалардың жұмысын реттейтін HIPAA федералды Заңымен қорғалмайды. Пайдаланушылар компанияның сөзіне сенуге мәжбүр, дегенмен құпиялылық шарттарын кез-келген уақытта компанияның өзі өзгерте алады және өткен деректердің бұзылуының қайғылы тәжірибесі ешқандай жүйенің істен шығуға немесе сот талаптарына қарсы иммунитеті жоқ екенін көрсетеді.

Негізгі қате түсінік өнімдердің шатасуында жатыр. Азаматтарға арналған ChatGPT Health және ұйымдарға арналған ChatGPT for healthcare бір уақытта іске қосыла отырып, компания қауіпті контекст жасады. Кәсіпорын өнімі медициналық сақтандыру деректерін тасымалдау және қорғау туралы Заңның (HIPAA) күшіне енеді. Пайдаланушы қызметі оған жатпайды.

OpenAI медициналық бағытының жетекшісі Нейт Гросс (Nate gross) тікелей растады: "HIPAA арнайы өнімдері жағдайында қолданылмайды: ол бізді емес, клиникалық және кәсіби мекемелерді реттейді".

Төменгі жол: серіктес, бірақ балама емес

Медициналық жасанды интеллект нарығы қоғамның үлкен сұранысына жауап бере отырып, қарқынды дамып келеді: терапевттер мен тар мамандардың тапшылығы, сақтандырудың жоғары құны және кәсіби медициналық тілдің күрделілігі. Алгоритмдер деректерді жүйелеудің, күрделі талдауларды шешудің және клиникаға баруға дайындықтың керемет құралы бола алады.

Осылайша, адамзат дәстүрлі Денсаулық сақтаудың қол жетімсіздігінен шаршаған миллиондаған адамдар өздерінің ең жақын биологиялық құпияларын алгоритмдерге өз еркімен беруге дайын болған кезде тарихи сыну нүктесінде болды. Бірақ технологияның өзі адам өмірі үшін жауапкершілік жүктемесін көтеруге дайын ба? Медицина ғасырлар бойы қатал стандарттар мен әр дәрігердің жеке жауапкершілігіне ие болды. AI мәтіндер мен сынақтарда керемет жетістіктерге қол жеткізеді, бірақ әзірге ол тек жанқиярлық және қатыгездік механизмі болып қала береді, ол данышпандық болжамды да, өлімге әкелетін қатені де бірдей сенімділікпен бере алады.

Медицина бүгінде бюрократияға байланысты емес, ондағы қатенің бағасы адам өмірі болғандықтан қатаң реттелетін сала болып табылады. Дәрігерлер өздерінің диагноздары үшін заңды және қылмыстық жауапкершілікке тартылады, ал AI әзірлеушілері пайдаланушы келісімдері мен ескертулерімен қоршалған. Технологиялық сектор "тез әрекет етіңіз, Көп ақша табыңыз және стереотиптерді бұзыңыз" қағидаты бойынша өмір сүріп жатқанда, АИ-ге толықтай сену емдеуші дәрігердің рөлі өлімге әкелетін құмар ойын болып қала береді.