sistemi di intelligenza artificiale generativi e droghe

I risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input

l'uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe è uno dei temi di ricerca più promettenti

data di pubblicazione:

31 Gennaio 2025

Uno studio pubblicato su Science Direct, di cui si fornisce una sintesi, riporta interessanti valutazioni sull’uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe. Anche se dallo studio emergono interessanti indicazioni sull’utilità di questi sistemi, sono varie le criticità e i limiti mostrati dai ricercatori.

“I sistemi di Intelligenza Artificiale (IA) generativi come il ChatGPT di OpenAI, in grado di avere una capacità senza precedenti di generare testo simile all’uomo e di conversare in tempo reale, hanno il potenziale per l’implementazione su larga scala in contesti clinici come il trattamento dell’uso di sostanze. Il trattamento per i disturbi da uso di sostanze (SUD) è particolarmente elevato, richiedendo un trattamento clinico basato sull’evidenza, esperienza di salute mentale e supporto tra pari.

Pertanto, le promesse di sistemi di intelligenza artificiale che affrontano le risorse sanitarie carenti e i pregiudizi strutturali sono rilevanti all’interno di questo settore, specialmente in un contesto anonimo. Questo studio esplora l’efficacia dell’intelligenza artificiale generativa nel rispondere all’uso della sostanza e alle domande di recupero. Raccogliamo domande dai forum di recupero online, utilizziamo ChatGPT e Meta’s LLaMA-2 per le risposte e abbiamo i medici che valutano queste risposte dell’IA.

Le domande sono state generate e provenienti da forum sull’uso di sostanze anonime sul sito di social media Reddit. I post includevano temi relativi alla ricerca di informazioni (ad esempio, domande sul dosaggio e sull’uso) e al recupero (ad esempio, ricerca di supporto e risorse) su tre sostanze: alcol, marijuana e oppioidi. Le risposte generate dall’IA sono state poi valutate dai medici addestrati nell’uso e nel recupero di sostanze.

Abbiamo mirato a valutare la qualità generale e la fattualità delle risposte generate dall’IA nelle impostazioni di uso delle sostanze del mondo reale, discutendo sia i potenziali punti di forza che i principali limiti. I nostri risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input. 

Mentre i medici hanno valutato le risposte generate dall’IA come di alta qualità, abbiamo scoperto casi di disinformazione pericolosa, tra cui il disprezzo per l’ideazione suicidaria, linee di assistenza di emergenza errate e l’approvazione della disintossicazione domestica. Inoltre, i sistemi di IA hanno prodotto consigli incoerenti a seconda del fraseggio di domande.

Questi risultati indicano un mix rischioso di risposte apparentemente di alta qualità e accurate al momento dell’ispezione iniziale che contengono un consiglio medico inaccurato e potenzialmente mortale. Di conseguenza, mentre l’intelligenza artificiale generativa mostra la promessa, la sua applicazione nel mondo reale nei settori sanitari sensibili richiede ulteriori salvaguardie e convalida clinica.”

Ti potrebbe interessare anche
1 Ottobre 2026

Politiche sulle droghe e diritti dei minori

La protezione dei minori non deve passare solo attraverso la proibizione

30 Settembre 2026

Come funzionano le app per scommesse online

La frequenza imprevedibile di tali notifiche mantiene il cervello in un costante stato di attesa

29 Settembre 2026

Richiesta revisione per l’Alcover

Confermato dall'EMA che i benefici superano i rischi

28 Settembre 2026

Crisi da overdose in Quebec: una ricerca qualitativa

Uno dei temi che emergono dalla ricerca è l'aumento delle disuguaglianze e della precarietà

27 Settembre 2026

Le politiche sulle droghe del Portogallo

Un modello replicabile?

26 Settembre 2026

Le politiche repressive sul consumo di sostanze non sono efficaci

Cambiano le sostanze, si abbassa l’età di chi le consuma e aumentano le situazioni di fragilità.

25 Settembre 2026

Invecchiare con l’HIV: una guida

Una guida con consigli pratici per un invecchiamento in salute

24 Settembre 2026

I rischi del consumo di alcol in gravidanza

Non esiste alcuna quantità minima di alcol considerata sicura o tollerabile

23 Settembre 2026

I rischi dell’esposizione al fumo passivo

Tutti i prodotti contenenti nicotina espongono chi sta accanto allo stesso rischio?

22 Settembre 2026

Aumentano le morti per overdose in Europa

Gli oppiodi, la cocaina e il policonsumo sono le cause principali

22 Settembre 2026

L’alcol entra nello scontro sui dazi tra Canada e USA

In Canada, il boicottaggio dell'alcol ha compattato l'opinione pubblica

21 Settembre 2026

Overdose in calo negli USA

Nel 2025 le morti per overdose sono state il 14% in meno del 2024

21 Settembre 2026

Psicofarmaci e disturbi del comportamento alimentare

Il loro utilizzo influisce sull'aumento del peso corporeo?

20 Settembre 2026

Dalla lobby al bancone

Un libro che racconta il potere delle lobby del vino in Francia

19 Settembre 2026

CURARSI CON IL VINO

Libri brutti podcast

18 Settembre 2026

Dopamina e cibo: un legame profondo

Nel contesto dell'alimentazione, la dopamina attiva il circuito della ricompensa e la sua funzione principale consiste nel governare il desiderio.

17 Settembre 2026

Overdose: un problema di salute pubblica

Emergenza medica o reato? Il bivio drammatico delle overdose in Libano

16 Settembre 2026

Alcol e prevenzione nelle scuole

Unplugged e Smashed sono due progetti che riescono a coinvolgere efficacemente studentesse e studenti

15 Settembre 2026

Prevenzione del virus HIV e diritti negati nei paesi africani

Le persone LGBTQ+ sono sempre più discriminate rendendo l'accesso alle cure contro l'HIV difficile

14 Settembre 2026

Cocaina: dalla scoperta alla sua proibizione

Dalla pianta di coca alla produzione di cocaina cloridrato