sistemi di intelligenza artificiale generativi e droghe

I risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input

l'uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe è uno dei temi di ricerca più promettenti

data di pubblicazione:

31 Gennaio 2025

Uno studio pubblicato su Science Direct, di cui si fornisce una sintesi, riporta interessanti valutazioni sull’uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe. Anche se dallo studio emergono interessanti indicazioni sull’utilità di questi sistemi, sono varie le criticità e i limiti mostrati dai ricercatori.

“I sistemi di Intelligenza Artificiale (IA) generativi come il ChatGPT di OpenAI, in grado di avere una capacità senza precedenti di generare testo simile all’uomo e di conversare in tempo reale, hanno il potenziale per l’implementazione su larga scala in contesti clinici come il trattamento dell’uso di sostanze. Il trattamento per i disturbi da uso di sostanze (SUD) è particolarmente elevato, richiedendo un trattamento clinico basato sull’evidenza, esperienza di salute mentale e supporto tra pari.

Pertanto, le promesse di sistemi di intelligenza artificiale che affrontano le risorse sanitarie carenti e i pregiudizi strutturali sono rilevanti all’interno di questo settore, specialmente in un contesto anonimo. Questo studio esplora l’efficacia dell’intelligenza artificiale generativa nel rispondere all’uso della sostanza e alle domande di recupero. Raccogliamo domande dai forum di recupero online, utilizziamo ChatGPT e Meta’s LLaMA-2 per le risposte e abbiamo i medici che valutano queste risposte dell’IA.

Le domande sono state generate e provenienti da forum sull’uso di sostanze anonime sul sito di social media Reddit. I post includevano temi relativi alla ricerca di informazioni (ad esempio, domande sul dosaggio e sull’uso) e al recupero (ad esempio, ricerca di supporto e risorse) su tre sostanze: alcol, marijuana e oppioidi. Le risposte generate dall’IA sono state poi valutate dai medici addestrati nell’uso e nel recupero di sostanze.

Abbiamo mirato a valutare la qualità generale e la fattualità delle risposte generate dall’IA nelle impostazioni di uso delle sostanze del mondo reale, discutendo sia i potenziali punti di forza che i principali limiti. I nostri risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input. 

Mentre i medici hanno valutato le risposte generate dall’IA come di alta qualità, abbiamo scoperto casi di disinformazione pericolosa, tra cui il disprezzo per l’ideazione suicidaria, linee di assistenza di emergenza errate e l’approvazione della disintossicazione domestica. Inoltre, i sistemi di IA hanno prodotto consigli incoerenti a seconda del fraseggio di domande.

Questi risultati indicano un mix rischioso di risposte apparentemente di alta qualità e accurate al momento dell’ispezione iniziale che contengono un consiglio medico inaccurato e potenzialmente mortale. Di conseguenza, mentre l’intelligenza artificiale generativa mostra la promessa, la sua applicazione nel mondo reale nei settori sanitari sensibili richiede ulteriori salvaguardie e convalida clinica.”

Ti potrebbe interessare anche
16 Luglio 2026

Cannabis: Italia prima in Europa per consumo tra i giovani

Rapporto europeo sulla droga 2026 dell'Agenzia europea per le droghe (EUDA)

16 Luglio 2026

Linee guida internazionali per affrontare al meglio i disturbi mentali

La linea guida è rivolta agli operatori sanitari non specializzati

15 Luglio 2026

Disturbi del comportamento alimentare

una realtà sempre più precoce e complessa

14 Luglio 2026

Gli elementi di rischio dei videogiochi

Alcuni meccanismi tengono i giocatori collegati costantemente

13 Luglio 2026

Che cosa può fare un giudice quando accerta che una pena sia eseguita in condizioni contrarie al senso di umanità?

Il caso di Sollicciano

12 Luglio 2026

L’assemblea generale dell’ONU non rinuncia a sconfiggere l’AIDS

Una dichiarazione politica che si rinnova per il 2030

11 Luglio 2026

Ci si può vaccinare contro una sostanza?

un primo passo

10 Luglio 2026

La diffusione delle droghe in Europa: il rapporto dell’Agenzia europea EUDA

Oppioidi sintetici, ketamina e cocaina rappresentano le criticità maggiori

9 Luglio 2026

Inversione di rotta nella crisi degli oppioidi

Il caso degli Stati Uniti

8 Luglio 2026

Droghe e giovani: un appello

Una parte del Terzo settore spinge per avere più prevenzione e meno repressione

7 Luglio 2026

Coca: un patrimonio culturale da difendere

La pianta non può essere vista solo come materia prima per la cocaina

7 Luglio 2026

Alcol e alte temperature: aumentano i rischi

Disidratazione e colpi di calore sono quelli maggiori

6 Luglio 2026

Caffè e psichiatria

un podcast accessibile sulla salute mentale

5 Luglio 2026

La presenza di bambini nelle carceri

un dato in aumento

4 Luglio 2026

L’esperienza dell’Ambulatorio popolare di Quarticciolo

un'esperienza di mutuo soccorso

3 Luglio 2026

Utilizzo dei social media e rischi possibili

Il tempo passato sui social è solo uno degli indicatori da tenere in considerazione

2 Luglio 2026

La Relazione al parlamento certifica un aumento dei consumi di sostanze

Aumentano gli studenti under 18 che hanno utilizzato almeno una volta una sostanza illegale

1 Luglio 2026

Controllo delle droghe e riforme necessarie

I percorsi di riforma si scontrano con una politica profondamente conservatrice

30 Giugno 2026

Relazione al parlamento sul fenomeno delle dipendenze 2026

Tra i dati preoccupanti l'aumento degli psicofarmaci senza prescrizione

29 Giugno 2026

Alcol tra rischi e benefici: uno studio

Diversi studi sono concordi sulla reversibilità di alcuni danni