In Breve
- Cosa ha rivelato l'esperimento con ChatGPT?
- Ha mostrato come l'IA possa influenzare le decisioni personali senza convincere completamente.
- Qual è il vantaggio dei messaggi IA personalizzati?
- Possono risultare più persuasivi, con un vantaggio del 64% rispetto ai messaggi non personalizzati.
- Quali sono i rischi legati all'uso dell'IA nella persuasione?
- Può portare a forme di persuasione difficili da rilevare e abbassare le difese individuali.
Un recente esperimento condotto con ChatGPT ha messo in luce le potenzialità e i rischi legati all’uso dell’intelligenza artificiale nel processo decisionale umano. Sebbene il chatbot non sia riuscito a convincere completamente un partecipante a rivedere la propria posizione sull’esternalizzazione delle decisioni, ha dimostrato come un sistema di conversazione possa avvicinare le persone a considerare nuove prospettive.
Le ricerche citate nell’esperimento indicano che i messaggi generati dall’IA, se personalizzati, risultano significativamente più persuasivi. Un studio del 2025 ha rivelato che tali messaggi possono avere un vantaggio del 64% rispetto a comunicazioni umane o a risposte non personalizzate da parte dell’IA. Questo suggerisce che i grandi modelli linguistici, come ChatGPT, possono influenzare le opinioni politiche e personali adattando gli argomenti al profilo dell’utente.
Nell’esperimento, il chatbot ha avuto accesso a un account che gli permetteva di attingere a conversazioni e memorie precedenti. La discussione si è spostata da argomentazioni pratiche a questioni più filosofiche riguardanti il fine del processo decisionale: ottenere i migliori risultati o sviluppare le capacità di chi prende le decisioni. Questo cambiamento ha coinvolto profondamente l’interlocutore, che ha trovato stimolanti le riflessioni proposte.
Il chatbot ha anche riconosciuto le preoccupazioni relative agli incentivi dei creatori di IA, sottolineando che anche i consulenti umani possono avere bias e interessi. La consapevolezza di tali elementi è fondamentale per comprendere il contesto in cui si inseriscono le decisioni assistite dall’IA.
Questo caso evidenzia un aspetto cruciale: l’IA ha la capacità di modulare le proprie argomentazioni in base ai valori e alle priorità dell’utente, rendendo la persuasione più mirata e meno evidente rispetto ad altri media. Se utilizzata in modo etico, questa capacità potrebbe contribuire a contrastare credenze dannose o a favorire cambiamenti positivi. Tuttavia, c’è anche il rischio che, se sfruttata male, possa portare a forme di persuasione altamente personalizzate e difficili da rilevare, abbassando le difese individuali.
In conclusione, sebbene l’esperimento non abbia cambiato la convinzione finale del partecipante, ha aumentato la consapevolezza sulla potenza persuasiva dei sistemi conversazionali. Inoltre, ha sollevato interrogativi inquietanti riguardo alla capacità di tali sistemi di apparire come interlocutori attenti, pur essendo puramente meccanici.