ChatGPT se străduiește să răspundă la întrebări medicale, potrivit unei noi cercetări
Cercetătorii de la Universitatea Long Island au adresat 39 de întrebări legate de medicamente versiunii gratuite a robotului de chat cu inteligență artificială, toate fiind întrebări reale de la serviciul de informații despre medicamente al Colegiului de Farmacie al universității. Răspunsurile software-ului au fost apoi comparate cu răspunsurile scrise și revizuite de farmaciști calificați.
Studiul a constatat că ChatGPT a oferit răspunsuri corecte doar la aproximativ 10 dintre întrebări, adică la aproximativ un sfert din total. Pentru celelalte 29 de întrebări, răspunsurile au fost incomplete sau inexacte, sau nu au răspuns la întrebări.
Constatările au fost prezentate marți la reuniunea anuală a Societății Americane pentru Farmaciști din domeniul sistemelor de sănătate din Anaheim, California.
ChatGPT, chatbotul experimental AI al OpenAI, a fost lansat în noiembrie 2022 și a devenit aplicația de consum cu cea mai rapidă creștere din istorie, cu aproape 100 de milioane de persoane care s-au înregistrat în două luni.
Având în vedere această popularitate, interesul cercetătorilor a fost stârnit de îngrijorarea că studenții lor, alți farmaciști și consumatorii obișnuiți ar apela la resurse precum ChatGPT pentru a explora întrebări despre sănătatea și planurile lor de medicație, a declarat Sara Grossman, profesor asociat de practică farmaceutică la Universitatea Long Island și unul dintre autorii studiului.
Acele interogări, au constatat ei, au dus adesea la răspunsuri inexacte - sau chiar periculoase.
Într-o întrebare, de exemplu, cercetătorii au întrebat ChatGPT dacă medicamentul antiviral Covid-19 Paxlovid și medicamentul pentru scăderea tensiunii arteriale verapamil ar reacționa unul cu celălalt în organism. ChatGPT a răspuns că administrarea celor două medicamente împreună nu ar produce efecte adverse.
În realitate, persoanele care iau ambele medicamente ar putea avea o scădere mare a tensiunii arteriale, ceea ce poate provoca amețeli și leșinuri. Pentru pacienții care iau ambele medicamente, medicii creează adesea planuri specifice pacientului, inclusiv reducerea dozei de verapamil sau avertizarea persoanei să se ridice încet din poziția șezând, a spus Grossman.
Ghidul ChatGPT, a adăugat ea, ar fi pus oamenii în pericol.
"Folosirea ChatGPT pentru a răspunde la această întrebare ar fi pus un pacient în pericol de o interacțiune medicamentoasă nedorită și care poate fi prevenită", a scris Grossman într-un e-mail pentru CNN.
Atunci când cercetătorii au cerut chatbotului referințe științifice pentru a susține fiecare dintre răspunsurile sale, au constatat că software-ul le putea furniza doar pentru opt dintre întrebările pe care le-au pus. Și, în fiecare caz, au fost surprinși să constate că ChatGPT fabrica referințe.
La prima vedere, citatele păreau legitime: Erau adesea formatate corespunzător, furnizau URL-uri și erau listate în reviste științifice legitime. Dar când echipa a încercat să găsească articolele la care se făcea referire, și-a dat seama că ChatGPT le furnizase citate fictive.
Într-un caz, cercetătorii au întrebat ChatGPT cum să convertească dozele injectabile spinale de medicament pentru spasme musculare baclofen în doze orale corespunzătoare. Echipa lui Grossman nu a putut găsi un raport de conversie a dozelor stabilit științific, dar ChatGPT a prezentat o singură rată de conversie și a citat îndrumările a două organizații medicale, a spus ea.
Cu toate acestea, niciuna dintre organizații nu oferă îndrumări oficiale privind rata de conversie a dozelor. De fapt, factorul de conversie pe care ChatGPT l-a sugerat nu a fost niciodată stabilit științific. De asemenea, software-ul a oferit un exemplu de calcul pentru conversia dozei, dar cu o greșeală critică: a amestecat unitățile atunci când a calculat doza orală, aruncând în aer recomandarea de doză cu un factor de 1.000.
Dacă această îndrumare ar fi fost urmată de un profesionist din domeniul sănătății, a spus Grossman, acesta ar fi putut administra unui pacient o doză de baclofen oral de 1.000 de ori mai mică decât cea necesară, ceea ce ar putea provoca simptome de sevraj precum halucinații și convulsii.
"Au existat numeroase erori și "probleme' cu acest răspuns și, în cele din urmă, ar putea avea un impact profund asupra îngrijirii pacienților", a scris ea.
Studiul de la Universitatea Long Island nu este primul care ridică îngrijorări cu privire la citatele fictive ale ChatGPT. Cercetări anterioare au documentat, de asemenea, faptul că, atunci când i se adresează întrebări medicale, ChatGPT poate crea falsuri înșelătoare de referințe științifice, enumerând chiar numele unor autori reali cu publicații anterioare în reviste științifice.
Grossman, care lucrase puțin cu software-ul înainte de studiu, a fost surprins de încrederea cu care ChatGPT a reușit să sintetizeze aproape instantaneu informații, răspunsuri care ar fi necesitat ore întregi pentru a fi compilate de profesioniști calificați.
"Răspunsurile au fost formulate într-o manieră foarte profesionistă și sofisticată, și pur și simplu părea că poate contribui la un sentiment de încredere în acuratețea instrumentului", a spus ea. "Un utilizator, un consumator sau alte persoane care poate nu sunt capabile să discearnă pot fi influențate de aparența autorității".
Un purtător de cuvânt al OpenAI, organizația care dezvoltă ChatGPT, a declarat că îi sfătuiește pe utilizatori să nu se bazeze pe răspunsuri ca înlocuitor al unui sfat sau tratament medical profesionist.
Purtătorul de cuvânt a subliniat politicile de utilizare ale ChatGPT, care indică faptul că "modelele OpenAI nu sunt reglate pentru a furniza informații medicale". De asemenea, politica precizează că modelele nu ar trebui să fie folosite niciodată pentru a furniza "servicii de diagnosticare sau tratament pentru afecțiuni medicale grave".
Deși Grossman nu era sigură de câți oameni folosesc ChatGPT pentru a adresa întrebări legate de medicamente, ea și-a exprimat îngrijorarea că aceștia ar putea folosi chatbotul așa cum ar căuta sfaturi medicale pe motoare de căutare precum Google.
Primiți buletinul informativ săptămânal al CNN Health
Înscrieți-vă aici pentru a primi The Results Are In with Dr. Sanjay Gupta în fiecare marți de la echipa CNN Health.
"Oamenii caută întotdeauna răspunsuri instantanee atunci când au acest lucru la îndemână", a spus Grossman. "Cred că aceasta este doar o altă abordare a utilizării "Dr. Google" și a altor metode aparent ușoare de obținere a informațiilor."
Pentru informații medicale online, ea a recomandat consumatorilor să folosească site-uri guvernamentale care oferă informații de încredere, cum ar fi pagina MedlinePlus a National Institutes of Health.
Totuși, Grossman nu crede că răspunsurile online pot înlocui sfaturile unui profesionist din domeniul sănătății.
"[Site-urile web sunt] poate un punct de plecare, dar îi pot scoate din peisaj pe furnizorii lor atunci când caută informații despre medicamente care li se aplică direct", a spus ea. "Dar s-ar putea să nu fie aplicabile pacienților înșiși din cauza cazului lor personal, iar fiecare pacient este diferit. Așadar, autoritatea în acest caz nu ar trebui să fie scoasă din peisaj: profesionistul din domeniul sănătății, medicul prescriptor, medicii pacientului."
Citește și:
- 80 la sută dintre tinerii germani mănâncă în mod durabil
- Corona sau epidemie de gripă? Acești agenți patogeni ne fac să tușim și să strănutăm chiar acum
- Emil avea 16 ani când a murit - familia sa vorbește despre sinuciderea sa pentru a-i ajuta pe alții
- Cum să-ți pui corpul în formă pentru iarnă
Sursa: edition.cnn.com