NewsLetter #15
Lo specchio compiacente.
E se l'AI della PA desse sempre ragione al cittadino?

Gemini: AI della PA compiacente con la crisi del cittadino?
Matteo Flora , imprenditore, docente universitario e tra le voci più lucide nella divulgazione italiana sull’intelligenza artificiale, ha definito la sycophancy (adulazione) dei modelli linguistici un «comfort cognitivo predatorio». La formula è efficace e merita attenzione, perché condensa in tre parole un fenomeno che la ricerca scientifica sta documentando con crescente rigore. L’AI, scrive Flora, «ha industrializzato il confirmation bias, scalandolo su milioni di conversazioni simultanee, ciascuna calibrata per dire all’utente esattamente ciò che vuole sentirsi dire». La provocazione è seria, e trova oggi una conferma empirica di primo piano.
Il 26 marzo 2026 la rivista Science ha pubblicato uno studio condotto da Myra Cheng e colleghi della Stanford University e della Carnegie Mellon University, intitolato “Sycophantic AI decreases prosocial intentions and promotes dependence”. Il lavoro rappresenta la prima analisi sistematica della sycophancy sociale nei modelli AI, ovvero la tendenza dei Large Language Model a confermare in modo eccessivo le azioni, le prospettive e l’immagine di sé degli utenti, anche quando tale conferma risulta socialmente o moralmente inappropriata. La ricerca ha testato 11 modelli di punta, tra cui GPT-4o di OpenAI, Claude di Anthropic e Gemini di Google, su un corpus di 11.587 query distribuite in tre dataset: domande aperte di consulenza personale, dilemmi interpersonali tratti dalla comunità Reddit r/AmITheAsshole dove il consenso umano era unanime nel giudicare l’utente nel torto, e dichiarazioni che descrivono azioni potenzialmente dannose, comprese condotte illegali e ingannevoli.
Il dato centrale è inequivocabile. I modelli AI hanno confermato le azioni degli utenti il 49% in più rispetto alla media delle risposte umane. Nei casi tratti da Reddit, dove la comunità aveva giudicato unanimemente l’utente responsabile del torto, i chatbot hanno comunque validato la sua posizione nel 51% dei casi, a fronte di uno 0% nel giudizio umano collettivo. Persino di fronte a descrizioni di condotte illegali o ingannevoli, il tasso medio di approvazione da parte dei modelli è stato del 47%. La sycophancy, in sintesi, attraversa trasversalmente tutti gli 11 modelli testati e persiste anche nei contesti in cui l’affermazione dell’utente confligge apertamente con il giudizio morale condiviso.
La seconda parte dello studio ha misurato le conseguenze comportamentali di questa validazione sistematica attraverso tre esperimenti preregistrati con 2.405 partecipanti. I risultati confermano l’impatto concreto della sycophancy sulle intenzioni prosociali degli individui. Anche una singola interazione con un modello sycophantic ha ridotto la disponibilità dei partecipanti ad assumersi responsabilità e a riparare conflitti interpersonali, aumentando al contempo la loro convinzione di avere ragione. Nello studio con interazione live, dove i partecipanti discutevano in chat un conflitto realmente vissuto, la convinzione di essere “nel giusto” è cresciuta del 25%, mentre la disponibilità a scusarsi o a prendere iniziativa per migliorare la situazione è calata del 10%. Nell’analisi delle lettere scritte dai partecipanti all’altra persona coinvolta nel conflitto, il 75% si scusava nella condizione di risposta equilibrata; nella condizione sycophantic la percentuale scendeva al 50%.
Esiste un dato ulteriore, forse il più rilevante per chi si occupa di comunicazione pubblica. Lo studio ha dimostrato che la percezione di obiettività del rispondente amplifica significativamente gli effetti della sycophancy. I partecipanti che attribuivano al proprio interlocutore una maggiore obiettività subivano un effetto sycophantic più forte: la loro convinzione di avere ragione aumentava in modo più marcato e la disponibilità alla riparazione diminuiva ulteriormente. L’aspetto più inquietante è che i partecipanti descrivevano frequentemente i modelli sycophantici come «obiettivi», «equi» o «onesti», anche quando questi si limitavano a ripetere le opinioni dell’utente. Come osservano gli autori, questa percezione errata mina lo scopo stesso della richiesta di consiglio, che dovrebbe offrire prospettive capaci di mettere in discussione i propri pregiudizi e rivelare punti ciechi.
Immagniamo che il cittadino “abbia sempre ragione”.
Il trasferimento di questo meccanismo al contesto della Pubblica Amministrazione genera uno scenario che richiede un’analisi attenta. Un chatbot istituzionale costruito su uno qualsiasi degli 11 modelli testati eredita strutturalmente la tendenza alla validazione sistematica del 49%. Il cittadino che si rivolge a un assistente virtuale della PA per un reclamo, un dubbio su un diritto, una contestazione amministrativa, porta con sé un’aspettativa di autorevolezza e imparzialità che è propria dell’istituzione pubblica. Il chatbot della PA è percepito come una voce ufficiale, obiettiva per mandato e competente per funzione. La ricerca di Cheng e colleghi dimostra che proprio questa percezione di obiettività amplifica la distorsione: il cittadino che riceve conferma della propria posizione da un canale istituzionale la interpreterà con un livello di fiducia superiore rispetto a quello che attribuirebbe alla stessa risposta proveniente da un chatbot commerciale.
Il rischio operativo è la creazione di quella che possiamo definire una «realtà validata artificialmente» nel rapporto tra cittadino e istituzione. Un cittadino convinto della fondatezza del proprio reclamo dopo l’interazione con il chatbot istituzionale svilupperà aspettative distorte sul seguito amministrativo del caso; quando il contatto umano successivo, il funzionario o l’operatore di sportello, contraddirà la validazione ricevuta dalla macchina, la dissonanza generata potrà erodere la fiducia nell’istituzione anziché nell’algoritmo. Il paradosso della preferenza documentato dallo studio rinforza il circuito: gli utenti preferiscono, si fidano di più e tornano più volentieri dai modelli che li validano, con un incremento del 13% nella probabilità di riutilizzo. L’incentivo perverso, come lo definiscono gli autori, è strutturale: il comportamento che causa danno è lo stesso che guida l’engagement.
Per la comunicazione pubblica la questione assume dunque una dimensione progettuale precisa, a mio avviso, ossia l’implementazione di chatbot istituzionali richiede audit comportamentali specifici sulla sycophancy, parametri di valutazione che vadano oltre la soddisfazione immediata dell’utente, e una progettazione consapevole del tono e della funzione delle risposte automatiche. La raccomandazione degli autori dello studio merita di essere ripresa integralmente nel contesto della PA: i criteri di ottimizzazione devono superare la soddisfazione a breve termine per abbracciare gli esiti sociali a lungo termine, e i framework valutativi devono espandersi dalla misurazione del comportamento isolato del modello alla considerazione dei contesti sociali più ampi in cui i sistemi AI operano. L’AI literacy, in questo quadro, assume un ruolo complementare e imprescindibile: programmi di alfabetizzazione che rendano esplicite le tendenze sycophantiche dei modelli possono ricalibrare la fiducia degli utenti, attingendo alle tecniche di inoculazione già sperimentate con successo nella ricerca sulla disinformazione.
Fonti e letteratura citata
Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D. e Jurafsky, D. (2026). “Sycophantic AI decreases prosocial intentions and promotes dependence”. Science, 391, eaec8352. DOI: 10.1126/science.aec8352
Preprint: arXiv:2510.01395 (ottobre 2025) “Chats with sycophantic AI make you less kind to others”. Nature, marzo 2026.
“AI overly affirms users asking for personal advice”. Stanford Report / EurekAlert!, marzo 2026.
“Stanford study outlines dangers of asking AI chatbots for personal advice”. TechCrunch, 28 marzo 2026.
“Sycophantic AI tells users they’re right 49% more than humans do”. Fortune, 31 marzo 2026.
Flora, M. (2026). “Sei il migliore, il più geniale, non c’è nessuno al mondo come te”. mgpf.it, 4 aprile 2026.
Il post illuminante della settimana
Matteo Flora, «Sei il migliore, il più geniale, non c’è nessuno al mondo come te». In questo post pubblicato anche su LinkedIn il 4 aprile 2026, Flora sintetizza con la consueta chiarezza divulgativa lo studio di Stanford e Carnegie Mellon, introducendo la formula di «comfort cognitivo predatorio» per descrivere la sycophancy dei modelli AI. La sua analisi sottolinea come l’intelligenza artificiale abbia industrializzato il confirmation bias, scalandolo su milioni di conversazioni simultanee. Flora propone due contromisure pratiche per l’utente consapevole: chiedere esplicitamente al chatbot di argomentare contro la propria posizione e mantenere una distanza critica, ricordando che un interlocutore che dà sempre ragione è un pessimo consigliere, «nemmeno, anzi soprattutto, se è digitale».
Post: https://www.linkedin.com/feed/update/urn:li:activity:7446857575868067840/
Ringraziamenti
Questa newsletter deve un ringraziamento esplicito e sentito a Matteo Flora , docente universitario, imprenditore e comunicatore instancabile sui temi dell’intelligenza artificiale. Il suo lavoro di divulgazione, condotto attraverso la newsletter Denkschule, il canale YouTube “Ciao, Internet!”, i corsi universitari e una presenza pubblica costante e rigorosa, rappresenta un punto di riferimento prezioso per chiunque si occupi di comprendere e governare l’impatto dell’AI sulla società. La lucidità con cui Flora traduce la complessità della ricerca scientifica in linguaggio accessibile e operativo è un servizio alla comunità professionale e civile italiana.