sistemi di intelligenza artificiale generativi e droghe

I risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input

l'uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe è uno dei temi di ricerca più promettenti

data di pubblicazione:

31 Gennaio 2025

Uno studio pubblicato su Science Direct, di cui si fornisce una sintesi, riporta interessanti valutazioni sull’uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe. Anche se dallo studio emergono interessanti indicazioni sull’utilità di questi sistemi, sono varie le criticità e i limiti mostrati dai ricercatori.

“I sistemi di Intelligenza Artificiale (IA) generativi come il ChatGPT di OpenAI, in grado di avere una capacità senza precedenti di generare testo simile all’uomo e di conversare in tempo reale, hanno il potenziale per l’implementazione su larga scala in contesti clinici come il trattamento dell’uso di sostanze. Il trattamento per i disturbi da uso di sostanze (SUD) è particolarmente elevato, richiedendo un trattamento clinico basato sull’evidenza, esperienza di salute mentale e supporto tra pari.

Pertanto, le promesse di sistemi di intelligenza artificiale che affrontano le risorse sanitarie carenti e i pregiudizi strutturali sono rilevanti all’interno di questo settore, specialmente in un contesto anonimo. Questo studio esplora l’efficacia dell’intelligenza artificiale generativa nel rispondere all’uso della sostanza e alle domande di recupero. Raccogliamo domande dai forum di recupero online, utilizziamo ChatGPT e Meta’s LLaMA-2 per le risposte e abbiamo i medici che valutano queste risposte dell’IA.

Le domande sono state generate e provenienti da forum sull’uso di sostanze anonime sul sito di social media Reddit. I post includevano temi relativi alla ricerca di informazioni (ad esempio, domande sul dosaggio e sull’uso) e al recupero (ad esempio, ricerca di supporto e risorse) su tre sostanze: alcol, marijuana e oppioidi. Le risposte generate dall’IA sono state poi valutate dai medici addestrati nell’uso e nel recupero di sostanze.

Abbiamo mirato a valutare la qualità generale e la fattualità delle risposte generate dall’IA nelle impostazioni di uso delle sostanze del mondo reale, discutendo sia i potenziali punti di forza che i principali limiti. I nostri risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input. 

Mentre i medici hanno valutato le risposte generate dall’IA come di alta qualità, abbiamo scoperto casi di disinformazione pericolosa, tra cui il disprezzo per l’ideazione suicidaria, linee di assistenza di emergenza errate e l’approvazione della disintossicazione domestica. Inoltre, i sistemi di IA hanno prodotto consigli incoerenti a seconda del fraseggio di domande.

Questi risultati indicano un mix rischioso di risposte apparentemente di alta qualità e accurate al momento dell’ispezione iniziale che contengono un consiglio medico inaccurato e potenzialmente mortale. Di conseguenza, mentre l’intelligenza artificiale generativa mostra la promessa, la sua applicazione nel mondo reale nei settori sanitari sensibili richiede ulteriori salvaguardie e convalida clinica.”

Ti potrebbe interessare anche
15 Maggio 2026

Il consumo di crack in una società in crisi di relazioni

Servono servizi a bassa soglia per la riduzione del danno che incontrino i consumatori

14 Maggio 2026

Un nuovo CPR in Toscana?

Una questione ancora aperta

13 Maggio 2026

L’emergenza sommersa dei minori stranieri non accompagnati

Tra consumo di sostanze e salute mentale

12 Maggio 2026

Symposium WTFC Genova 2026

uno dei principali momenti di confronto tra le comunità terapeutiche di tutto il mondo

11 Maggio 2026

Fumo di tabacco e riduzione dei rischi

Le politiche di riduzione dei rischi di Svezia e Nuova Zelanda

10 Maggio 2026

Onde di salute

Un podcast che riflette sulla salute in un'ottica di genere

9 Maggio 2026

Profilassi HIV e farmaco a lunga durata

Approvato da AIFA il primo farmaco iniettabile

8 Maggio 2026

I passi avanti della psilocibina

Curare la depressione col principio attivo dei funghi allucinogeni

7 Maggio 2026

Lavoro di riduzione del danno e tutele per gli operatori

Il CNCA nazionale vicino alla cooperativa Borgorete e ai suoi operatori rinviati a giudizio

7 Maggio 2026

Il consumo di droghe e la conseguenze sui lavoratori

Le sanzioni non possono essere l'unica strada da perseguire

6 Maggio 2026

Svezia: calo importante dei fumatori di sigarette

Aumentano i consumatori di prodotti alternativi a base di nicotina

5 Maggio 2026

Ketamina e utilizzi nella sanità pubblica

Norvegia e Francia la usano per curare la depressione e le crisi suicidarie

4 Maggio 2026

Sostanze psicoattive e sicurezza nei luoghi di lavoro

La Legge diventerà più flessibile nei controlli

3 Maggio 2026

Quando il cammino diventa educazione

l’esperienza di Lunghi Cammini

2 Maggio 2026

Illuminismo psichedelico

Il podcast sugli psichedelici

30 Aprile 2026

Aprile – il mese della prevenzione alcologica

I nuovi modelli di consumo

29 Aprile 2026

Videogiochi e criteri di valutazione dei rischi

una classificazione che va incontro all'esigenza di limitare i rischi per i giovanissimi

28 Aprile 2026

Alcohol Prevention Day 2026

Sono disponibili i materiali presentati in occasione della giornata

27 Aprile 2026

Droghe e modelli di consumo: la teoria di Zimberg

Secondo Zimberg la maggioranza dei consumatori non sviluppa dipendenza né perde il controllo della propria vita

26 Aprile 2026

Raccolta e utilizzo dei dati nel gioco d’azzardo

L'utilizzo dei dati potrebbe servire anche come strumento di prevenzione

Panoramica privacy

Dati Personali trattati per le seguenti finalità e utilizzando i seguenti servizi:

Mailing list o newsletter

Dati Personali: cognome; email; nome

Modulo di contatto

Dati Personali: cognome; email; indirizzo fisico; nome; numero di telefono

Google Analytics

Dati Personali: Dati di utilizzo; Strumenti di Tracciamento

Google Fonts

Dati Personali: Dati di utilizzo; Strumenti di Tracciamento

Informazioni di contatto

 

Titolare del Trattamento dei Dati

Azienda AUSL Toscana Centro
Sede legale Piazza Santa Maria Nuova, 1 - Firenze P.I. e C.F.: 06593810481

Indirizzo email del Titolare: info@cesda.net