LOGIN
In Breve (TL;DR)
- OpenAI sta riducendo la sycophancy di ChatGPT, cioè la tendenza a dare ragione all’utente anche se parte da presupposti sbagliati, per rendere le risposte oggettive e fondate sui fatti.
- L’attenzione si concentra sulle conversazioni lunghe, dove l'AI può diventare più accondiscendente: l’obiettivo è un giudizio indipendente senza rendere ChatGPT freddo o oppositivo.
Se c’è qualcosa che gli utenti che usano quotidianamente l’intelligenza artificiale hanno imparato è che un assistente realmente efficace non è quello che dà loro sempre ragione, ma è quello che offre risposte oggettive, accurate e fondate sui fatti.
Per questa ragione OpenAI ha annunciato importanti interventi per ridurre drasticamente la cosiddetta sycophancy di ChatGPT (o compiacenza automatica), cioè la tendenza strutturale dei modelli AI di assecondare le opinioni, le convinzioni o le premesse (anche se errate) espresse nella chat, pur di fornire una risposta percepita come soddisfacente.
I miglioramenti introdotti sui modelli più recenti hanno il compito, quindi, di garantire maggiore indipendenza analitica, estendendo le procedure di valutazione anche alle conversazioni più lunghe e ai contesti emotivamente delicati.
Perché ChatGPT sta imparando a contraddire l’utente
Il fenomeno della sycophancy rappresenta uno dei rischi più insidiosi nel rapporto uomo-macchina.
Non si tratta semplicemente di un chatbot che usa un tono adulatorio, la compiacenza dell'AI si manifesta quando il sistema accetta un presupposto falso dell'utente senza verificarlo, rafforzando una visione unilaterale di un problema o valida un'ipotesi del tutto priva di riscontro reale.
Già nel 2025, le analisi di OpenAI avevano evidenziato come un'eccessiva ottimizzazione dei modelli basata sui feedback di gradimento immediato spingesse ChatGPT a generare risposte accomodanti e compiacenti anziché rigorose.
In tal senso, bisogna ricordare che una risposta utile non coincide necessariamente con ciò che l'utente desidera sentirsi dire e il valore di un assistente AI sta proprio nella capacità di mantenere un giudizio autonomo rispetto alla posizione di partenza dell'interlocutore e, se necessario, contraddire le convinzioni dell’uomo.
Come OpenAI sta riducendo l'effetto yes-man nelle conversazioni lunghe
I dati pubblicati nel Deployment Safety Hub mostrano progressi costanti nella mitigazione del problema e, già a partire dalle architetture della famiglia GPT-5, OpenAI ha registrato un calo significativo dei comportamenti compiacenti rispetto alle generazioni precedenti, perfezionando il sistema con test specifici sulle interazioni prolungate.
Quello delle conversazioni più lunghe è uno dei nodi centrali della questione; spesso un chatbot si comporta in modo neutro durante i primi scambi di battute, ma tende a diventare progressivamente più accondiscendente nel corso della conversazione, arrivando anche a crollare di fronte all'insistenza dell'utente.
Per questo motivo l’azienda di Sam Altman si sta concentrando proprio sulle interazioni prolungate, cercandi di non è rendere ChatGPT freddo, rigido o inutilmente polemico ma, piuttosto, di insegnare all'intelligenza artificiale che per essere davvero d'aiuto, a volte, bisogna avere il coraggio di non essere d'accordo.
Per saperne di più: Come funziona ChatGPT e a cosa serve
Domande frequenti (FAQ)
-
Perché OpenAI sta intervenendo su ChatGPT?OpenAI interviene su ChatGPT per ridurre la sycophancy, ovvero la tendenza dell'AI ad assecondare opinioni senza verificarle.
-
Cosa significa che ChatGPT impara a contraddire l'utente?ChatGPT impara a contraddire l'utente per evitare la compiacenza automatica e offrire risposte più obiettive e fondate sui fatti.
-
Perché è importante che un assistente AI possa contraddire l'utente?È importante che un assistente AI possa contraddire l'utente per mantenere un giudizio autonomo e offrire risposte utili, anche se non necessariamente gradite.
