sistemi di intelligenza artificiale generativi e droghe

I risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input

l'uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe è uno dei temi di ricerca più promettenti

data di pubblicazione:

31 Gennaio 2025

Uno studio pubblicato su Science Direct, di cui si fornisce una sintesi, riporta interessanti valutazioni sull’uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe. Anche se dallo studio emergono interessanti indicazioni sull’utilità di questi sistemi, sono varie le criticità e i limiti mostrati dai ricercatori.

“I sistemi di Intelligenza Artificiale (IA) generativi come il ChatGPT di OpenAI, in grado di avere una capacità senza precedenti di generare testo simile all’uomo e di conversare in tempo reale, hanno il potenziale per l’implementazione su larga scala in contesti clinici come il trattamento dell’uso di sostanze. Il trattamento per i disturbi da uso di sostanze (SUD) è particolarmente elevato, richiedendo un trattamento clinico basato sull’evidenza, esperienza di salute mentale e supporto tra pari.

Pertanto, le promesse di sistemi di intelligenza artificiale che affrontano le risorse sanitarie carenti e i pregiudizi strutturali sono rilevanti all’interno di questo settore, specialmente in un contesto anonimo. Questo studio esplora l’efficacia dell’intelligenza artificiale generativa nel rispondere all’uso della sostanza e alle domande di recupero. Raccogliamo domande dai forum di recupero online, utilizziamo ChatGPT e Meta’s LLaMA-2 per le risposte e abbiamo i medici che valutano queste risposte dell’IA.

Le domande sono state generate e provenienti da forum sull’uso di sostanze anonime sul sito di social media Reddit. I post includevano temi relativi alla ricerca di informazioni (ad esempio, domande sul dosaggio e sull’uso) e al recupero (ad esempio, ricerca di supporto e risorse) su tre sostanze: alcol, marijuana e oppioidi. Le risposte generate dall’IA sono state poi valutate dai medici addestrati nell’uso e nel recupero di sostanze.

Abbiamo mirato a valutare la qualità generale e la fattualità delle risposte generate dall’IA nelle impostazioni di uso delle sostanze del mondo reale, discutendo sia i potenziali punti di forza che i principali limiti. I nostri risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input. 

Mentre i medici hanno valutato le risposte generate dall’IA come di alta qualità, abbiamo scoperto casi di disinformazione pericolosa, tra cui il disprezzo per l’ideazione suicidaria, linee di assistenza di emergenza errate e l’approvazione della disintossicazione domestica. Inoltre, i sistemi di IA hanno prodotto consigli incoerenti a seconda del fraseggio di domande.

Questi risultati indicano un mix rischioso di risposte apparentemente di alta qualità e accurate al momento dell’ispezione iniziale che contengono un consiglio medico inaccurato e potenzialmente mortale. Di conseguenza, mentre l’intelligenza artificiale generativa mostra la promessa, la sua applicazione nel mondo reale nei settori sanitari sensibili richiede ulteriori salvaguardie e convalida clinica.”

Ti potrebbe interessare anche
1 Settembre 2026

Le politiche USA sulle morti da fentanyl

Trump taglia i fondi sulla riduzione del danno

31 Agosto 2026

Drug Checking: come funziona?

Una strategia di riduzione del danno

30 Agosto 2026

L’AI come principale interlocutore tra gli adolescenti

un chatbot come amico

29 Agosto 2026

Per contrastare l’HIV serve un approccio integrato con le altre IST

Servono diagnosi precoci e screening coordinati per raggiungere gli obiettivi del 2030

28 Agosto 2026

Una prospettiva di genere sulle infezioni virali

l'esempio di HPV E HBV

27 Agosto 2026

Le scommesse sportive tra i giovani: i risultati dello studio francese PProJeTIM

La familiarizzazione con le scommesse avviene precocemente e spesso proprio all'interno delle mura domestiche

26 Agosto 2026

Solitudine e salute mentale: un binomio da contrastare

Il cambiamento delle relazioni ha sicuramente inciso su questa situazione

25 Agosto 2026

Cannabis e sonno

fa davvero dormire meglio?

24 Agosto 2026

L’impatto ambientale del gioco d’azzardo

quanto costa al Pianeta questa filiera?

23 Agosto 2026

I figli del lock-down

i bambini nati durante la pandemia di covid

22 Agosto 2026

L’invasione – Dal Fentanyl ai nuovi oppiacei: viaggio nel cuore di un’epidemia globale

Un libro di Biagio Simonetta

21 Agosto 2026

Nuove linee guida sulle campagne di comunicazione per il gioco responsabile

obiettivo di contrastare la diffusione dei disturbi legati al gioco d’azzardo

20 Agosto 2026

Il grande processo contro Meta in USA

L'accusa è di aver progettato Facebook e Instagram per creare dipendenza

19 Agosto 2026

Un’architettura della dipendenza

analogie tra smartphone e slot machine

18 Agosto 2026

Figli nostri

Vite e voci dalle carceri minorili italiane

17 Agosto 2026

Oltre il gioco d’azzardo

sempre più casi di polidipendenze

16 Agosto 2026

Bollino rosso per le carceri toscane

14 Agosto 2026

La salute mentale come questione sociale

famiglie più isolate, pressione digitale e scolastica precoce, stigma

13 Agosto 2026

Allarme alle Fiji per l’epidemia di HIV

Le modalità di trasmissione del virus sono state favorite dal consumo di metanfetamine per via endovenosa

12 Agosto 2026

Citisina e dipendenza da nicotina

Questa molecola naturale, estratta dall'albero del Maggiociondolo, rappresenta per la cura del tabagismo un cambio di paradigma