sistemi di intelligenza artificiale generativi e droghe

I risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input

l'uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe è uno dei temi di ricerca più promettenti

data di pubblicazione:

31 Gennaio 2025

Uno studio pubblicato su Science Direct, di cui si fornisce una sintesi, riporta interessanti valutazioni sull’uso di sistemi di intelligenza artificiale generativi e il trattamento dell’uso di droghe. Anche se dallo studio emergono interessanti indicazioni sull’utilità di questi sistemi, sono varie le criticità e i limiti mostrati dai ricercatori.

“I sistemi di Intelligenza Artificiale (IA) generativi come il ChatGPT di OpenAI, in grado di avere una capacità senza precedenti di generare testo simile all’uomo e di conversare in tempo reale, hanno il potenziale per l’implementazione su larga scala in contesti clinici come il trattamento dell’uso di sostanze. Il trattamento per i disturbi da uso di sostanze (SUD) è particolarmente elevato, richiedendo un trattamento clinico basato sull’evidenza, esperienza di salute mentale e supporto tra pari.

Pertanto, le promesse di sistemi di intelligenza artificiale che affrontano le risorse sanitarie carenti e i pregiudizi strutturali sono rilevanti all’interno di questo settore, specialmente in un contesto anonimo. Questo studio esplora l’efficacia dell’intelligenza artificiale generativa nel rispondere all’uso della sostanza e alle domande di recupero. Raccogliamo domande dai forum di recupero online, utilizziamo ChatGPT e Meta’s LLaMA-2 per le risposte e abbiamo i medici che valutano queste risposte dell’IA.

Le domande sono state generate e provenienti da forum sull’uso di sostanze anonime sul sito di social media Reddit. I post includevano temi relativi alla ricerca di informazioni (ad esempio, domande sul dosaggio e sull’uso) e al recupero (ad esempio, ricerca di supporto e risorse) su tre sostanze: alcol, marijuana e oppioidi. Le risposte generate dall’IA sono state poi valutate dai medici addestrati nell’uso e nel recupero di sostanze.

Abbiamo mirato a valutare la qualità generale e la fattualità delle risposte generate dall’IA nelle impostazioni di uso delle sostanze del mondo reale, discutendo sia i potenziali punti di forza che i principali limiti. I nostri risultati mostrano che questi modelli generano rapidamente risposte incoerenti e potenzialmente dannose semplicemente riformulando le domande di input. 

Mentre i medici hanno valutato le risposte generate dall’IA come di alta qualità, abbiamo scoperto casi di disinformazione pericolosa, tra cui il disprezzo per l’ideazione suicidaria, linee di assistenza di emergenza errate e l’approvazione della disintossicazione domestica. Inoltre, i sistemi di IA hanno prodotto consigli incoerenti a seconda del fraseggio di domande.

Questi risultati indicano un mix rischioso di risposte apparentemente di alta qualità e accurate al momento dell’ispezione iniziale che contengono un consiglio medico inaccurato e potenzialmente mortale. Di conseguenza, mentre l’intelligenza artificiale generativa mostra la promessa, la sua applicazione nel mondo reale nei settori sanitari sensibili richiede ulteriori salvaguardie e convalida clinica.”

Ti potrebbe interessare anche
20 Maggio 2026

Rassegna clinica sul tabagismo

Rassegna promossa da FeDerSerD

19 Maggio 2026

L’ultimo azzardo

Un podcast sul gioco d'azzardo

18 Maggio 2026

Bologna: aumenta il consumo di crack e il policonsumo

E' quanto emerge dal rapporto 2025 sulle Dipendenze

17 Maggio 2026

Il ruolo del “tempo” nei gioco d’azzardo online

Il tempo perde il suo valore reale nell'iperconnessione

16 Maggio 2026

Una vita sessuale sana è un diritto ad ogni età

La prevenzione è ancora un tabù

15 Maggio 2026

Il consumo di crack in una società in crisi di relazioni

Servono servizi a bassa soglia per la riduzione del danno che incontrino i consumatori

14 Maggio 2026

Un nuovo CPR in Toscana?

Una questione ancora aperta

13 Maggio 2026

L’emergenza sommersa dei minori stranieri non accompagnati

Tra consumo di sostanze e salute mentale

12 Maggio 2026

Symposium WTFC Genova 2026

uno dei principali momenti di confronto tra le comunità terapeutiche di tutto il mondo

11 Maggio 2026

Fumo di tabacco e riduzione dei rischi

Le politiche di riduzione dei rischi di Svezia e Nuova Zelanda

10 Maggio 2026

Onde di salute

Un podcast che riflette sulla salute in un'ottica di genere

9 Maggio 2026

Profilassi HIV e farmaco a lunga durata

Approvato da AIFA il primo farmaco iniettabile

8 Maggio 2026

I passi avanti della psilocibina

Curare la depressione col principio attivo dei funghi allucinogeni

7 Maggio 2026

Lavoro di riduzione del danno e tutele per gli operatori

Il CNCA nazionale vicino alla cooperativa Borgorete e ai suoi operatori rinviati a giudizio

7 Maggio 2026

Il consumo di droghe e la conseguenze sui lavoratori

Le sanzioni non possono essere l'unica strada da perseguire

6 Maggio 2026

Svezia: calo importante dei fumatori di sigarette

Aumentano i consumatori di prodotti alternativi a base di nicotina

5 Maggio 2026

Ketamina e utilizzi nella sanità pubblica

Norvegia e Francia la usano per curare la depressione e le crisi suicidarie

4 Maggio 2026

Sostanze psicoattive e sicurezza nei luoghi di lavoro

La Legge diventerà più flessibile nei controlli

3 Maggio 2026

Quando il cammino diventa educazione

l’esperienza di Lunghi Cammini

2 Maggio 2026

Illuminismo psichedelico

Il podcast sugli psichedelici

Panoramica privacy

Dati Personali trattati per le seguenti finalità e utilizzando i seguenti servizi:

Mailing list o newsletter

Dati Personali: cognome; email; nome

Modulo di contatto

Dati Personali: cognome; email; indirizzo fisico; nome; numero di telefono

Google Analytics

Dati Personali: Dati di utilizzo; Strumenti di Tracciamento

Google Fonts

Dati Personali: Dati di utilizzo; Strumenti di Tracciamento

Informazioni di contatto

 

Titolare del Trattamento dei Dati

Azienda AUSL Toscana Centro
Sede legale Piazza Santa Maria Nuova, 1 - Firenze P.I. e C.F.: 06593810481

Indirizzo email del Titolare: info@cesda.net