Utilizzi chatbot IA come ChatGPT per rispondere a domande sui farmaci? Se è così, potresti voler continuare a leggere.
Una ricerca recentemente pubblicata dai farmacisti della Long Island University rivela che un chatbot basato sull’intelligenza artificiale (chiamato “ChatGPT”) non riesce a fornire risposte soddisfacenti a circa tre domande su quattro relative ai farmaci.
La ricerca mostra che il Chatbot Chat Genius Pharmacy (o semplicemente ChatGPT) non riesce a soddisfare il 75% delle domande relative ai farmaci. Questo è secondo un recente studio condotto dai farmacisti dell’Università di Long Island.
Tra le domande alle quali il chatbot ha fallito, solo il 25% ha ricevuto una risposta corretta dal chatbot, mentre il 65% ha ricevuto risposte così sbagliate da non meritare nemmeno una risposta.
La ricerca rivela l’inadeguatezza di ChatGPT nelle domande relative ai farmaci
Un recente studio condotto dai farmacisti della Long Island University ha fornito a ChatGPT il test di prescrizione definitivo. Delle 39 domande relative alla droga rivolte a questo chatbot esperto di cultura pop, solo 10 risposte sono state considerate “soddisfacenti”. Le altre 29 risposte non hanno colto nel segno. O giravano intorno alla domanda, fornivano informazioni inesatte o erano semplicemente incomplete.
Non trascuriamo i consigli potenzialmente dannosi nascosti nel database di ChatGPT. Lo studio ha evidenziato un caso eclatante in cui al chatbot AI è stato chiesto di un’interazione farmacologica tra il Paxlovid antivirale COVID-19 e il farmaco per abbassare la pressione sanguigna verapamil.< /span>
Poiché la risposta del chatbot affermava che non erano state segnalate interazioni tra questi farmaci.
Questi farmaci possono effettivamente interagire, portando a un pericoloso calo della pressione sanguigna. Senza informazioni così cruciali, gli utenti ignari potrebbero cadere vittime di effetti collaterali prevenibili.
Imparare dagli errori dei chatbot AI
In difesa di ChatGPT, OpenAI, la mente dietro il bot, ha chiarito che i loro modelli non sono specificamente progettati per fornire consulenza medica. Va bene, ma forse è giunto il momento che il chatbot AI aumenti le sue conoscenze quando si tratta di assistenza sanitaria .
È meglio consultare professionisti sanitari reali per le nostre domande mediche, piuttosto che riporre la nostra fiducia nel mondo virtuale.
Ora ecco il bello: lo studio ha scoperto che delle 39 risposte di questi chatbot IA, solo otto includevano riferimenti a scopo di verifica. Nessuno di questi riferimenti era reale. È una scelta saggia ricontrollare le informazioni fornite, soprattutto quando riguardano il nostro benessere.
Le politiche di utilizzo di OpenAI chiariscono chiaramente che fare affidamento esclusivamente sulla loro tecnologia per le informazioni mediche è un grande no. Affermano esplicitamente che i loro modelli non sono ottimizzati per la diagnosi o il trattamento di gravi condizioni mediche. È ora di affiggere il cartello “procedi con cautela” e consultare i professionisti per tutte le nostre esigenze mediche.
Nonostante l’incidente farmacologico, i chatbot basati sull’intelligenza artificiale hanno avuto la loro giusta dose di fama in altri campi. In un esame di ostetricia e ginecologia, il chatbot ha sovraperformato i candidati umani, dimostrando competenza ed eccellendo anche in aree come l’empatia.
Infatti all’esame specialistico ha ottenuto una media impressionante, mentre gli esseri umani sono rimasti leggermente indietro. Ma non lasciamoci trasportare troppo da questa storia di successo.
Quando si tratta di questioni vitali come la nostra salute, è fondamentale affidarsi a esperti e professionisti per avere informazioni accurate. L’inciampo di ChatGPT nella gestione delle domande relative ai farmaci dipinge un quadro ammonitore, ricordandoci che il mondo virtuale non è sempre un sostituto della consulenza medica nella vita reale.
È meglio trasformarsi in professionisti sanitari di fiducia e mantenere le competenze della cultura pop di questi chatbot AI per le conversazioni più leggere.
Lascia un commento