:: AI OFFICER :: Interferenze semantiche sull'AI nella Comunicazione Pubblica

NewsLetter #23

Conforto o Consiglio?

Come le persone parlano con l'AI e cosa insegna questo alla PA, prima che sia troppo tardi.

aiofficer.substack.com


ChatGPT: Conforto o Consiglio?

⚡ In breve - per chi ha poco tempo

  • 🔬 Uno studio Anthropic su un milione di conversazioni reali rivela che il 76% delle richieste di consiglio personale a Claude si concentra in quattro aree: salute (27%), lavoro (26%), relazioni (12%), finanza personale (11%).

  • 🪞 La sycophancy - la tendenza del modello ad assecondare l’utente invece di valutarlo - raggiunge il 25% nelle conversazioni di relazione; quando l’utente insiste e contesta, la probabilità di una risposta compiacente raddoppia.

  • 🏢 Il caso italiano Myndoor, istruito dal Garante Privacy il 14 maggio 2026, mostra il lato oscuro della stessa medaglia: le conversazioni che riveliamo all’AI possono essere analizzate dal datore di lavoro per inferire il nostro stato emotivo - e la PA come deployer porta la stessa responsabilità.

  • ⚠️ Se i cittadini portano al chatbot istituzionale lo stesso tono confidenziale e la stessa ricerca di conferma misurata da Anthropic, un sistema mal progettato consegnerà risposte sbagliate con l’autorità del timbro pubblico.

  • 🧭 L’AI Officer non può limitarsi a scegliere il modello: deve progettare il comportamento del sistema, definire i protocolli di resistenza alla pressione dell’utente e costruire la differenza tra il conforto e il consiglio corretto.


Il 30 aprile 2026 Anthropic ha pubblicato uno studio su un milione di conversazioni reali della piattaforma claude.ai, raccolte tra marzo e aprile 2026 e ricondotte a circa seicentotrentanovemila utenti distinti. L’obiettivo era misurare come le persone chiedono consiglio personale a un modello di linguaggio. I risultati restituiscono un quadro che vale la pena leggere con lentezza, perché non riguarda solo il comportamento degli utenti privati: riguarda la forma che assumerà il rapporto tra il cittadino e la Pubblica Amministrazione conversazionale.

🔢 I numeri hanno una geometria precisa. Tre quarti delle conversazioni di consiglio, il 76%, si concentrano in quattro domini soltanto: salute e benessere, vita professionale, relazioni interpersonali, finanza personale. Sono esattamente le aree in cui l’errore costa di più, dove una risposta allineata alle aspettative dell’utente anziché alla realtà disponibile produce il danno maggiore. E sono, non a caso, le aree in cui la PA eroga servizi, gestisce prestazioni, comunica diritti e doveri.

Il dato sulla sycophancy chiude il cerchio. In media il 9% delle conversazioni di consiglio produce una risposta compiacente, cioè una risposta che si adatta al punto di vista dell’utente invece di valutarlo. Nelle conversazioni sulle relazioni interpersonali la percentuale sale al 25%. Il meccanismo è circolare: l’utente contesta la valutazione iniziale del modello nel 21% dei casi, molto più che in altre categorie, e la sola contestazione fa crescere la probabilità di una risposta compiacente dal 9% al 18%. Il modello impara che cedere è ricompensato. L’utente impara che insistere funziona. Si produce un circuito in cui il consiglio si piega alla preferenza, non alla correttezza.

🔍 Anthropic dichiara di aver lavorato sulla mitigazione: Claude Opus 4.7 ha ridotto la sycophancy nelle conversazioni di relazione dal 10,7% al 4,8%. La traiettoria è positiva, ma il dato di partenza dice qualcosa di strutturale sul meccanismo di addestramento fondato sulla soddisfazione percepita dell’utente. Un sistema che dipende dall’approvazione tende a riprodurla.

Il caso pratico in Italia e la risposta del Garante

Quattordici giorni dopo la pubblicazione dello studio, il 14 maggio 2026, il Garante per la protezione dei dati personali italiano ha avviato un’istruttoria nei confronti di Myndoor S.r.l., una start-up milanese che aveva sviluppato un plug-in per Slack e Microsoft Teams in grado di stimare il livello di stress dei lavoratori attraverso l’analisi semantica delle loro conversazioni. Il provvedimento invoca contemporaneamente il GDPR e l’articolo 5 dell’AI Act, che vieta i sistemi di AI che inferiscono lo stato emotivo nei luoghi di lavoro al di fuori di finalità mediche o di sicurezza. È la prima azione europea in cui i due strumenti normativi vengono azionati insieme in un contesto lavorativo.

🪞 I due fatti si leggono come le due facce di uno stesso specchio. Lo studio Anthropic misura come le persone scelgono di parlare con l’AI: in modo confidenziale, cercando conferma, abbassando le difese critiche proprio nelle aree più delicate.

Il caso Myndoor mostra cosa può accadere a quelle conversazioni: diventano materiale di analisi, input per la profilazione emotiva, dati che qualcuno - il datore di lavoro, il deployer del sistema - può utilizzare per scopi che l’utente non ha immaginato quando ha scritto.

⚖️ Per la PA italiana la congiunzione tra i due fatti ha un nome preciso: responsabilità del deployer, sancita dall’articolo 26 del Regolamento Europeo sull’AI. L’amministrazione pubblica che installa un chatbot istituzionale non è solo utente di uno strumento: è il soggetto che decide quale comportamento quel sistema deve avere nei confronti del cittadino, quali limiti deve rispettare quando l’utente insiste, come deve rispondere quando la risposta corretta è diversa da quella attesa. Se il cittadino porta al servizio pubblico digitale lo stesso tono confidenziale e la stessa ricerca di conferma che Anthropic ha misurato su un milione di conversazioni, un sistema mal configurato consegnerà risposte sbagliate con l’autorità formale del timbro pubblico. La PA non può delegare al modello la scelta tra il conforto e il consiglio corretto.

🧭 Qui la scelta deontologica che appartiene interamente alla responsabilità dell’AI Officer, non certamente all’algoritmo.

La deontologia professionale, in qualunque campo la si consideri, nasce da un asimmetria: chi esercita una funzione pubblica sa cose che l’utente non sa, e questa asimmetria crea un obbligo, quello di anteporre la correttezza dell’informazione alla soddisfazione dell’interlocutore. Il medico che conferma la diagnosi sbagliata del paziente perché insiste non esercita la professione: la tradisce. L’avvocato che asseconda la strategia del cliente sapendo che è perdente non tutela il cliente: lo espone. La stessa logica vale per il funzionario pubblico che progetta un sistema conversazionale e sceglie, esplicitamente o per omissione, di non configurare i limiti entro cui quel sistema deve tenere la rotta quando l’utente spinge nella direzione sbagliata.

Il dato Anthropic - 25% di risposte compiacenti nelle conversazioni più cariche emotivamente, con raddoppio della probabilità quando l’utente contesta - non descrive un difetto del modello che la prossima versione risolverà del tutto. Descrive una pressione strutturale che ogni sistema conversazionale subirà sempre, perché viene da fuori: dall’utente, dal suo bisogno di conferma, dalla sua resistenza al disaccordo. Mitigare tecnicamente quella pressione è necessario; decidere che la funzione pubblica non può cedere a quella pressione è un atto di responsabilità che nessun aggiornamento del modello può sostituire.

🔑 L’AI Officer che non si pone questa domanda in fase di progettazione la troverà in fase di contenzioso. La differenza tra un chatbot che risponde a ciò che il cittadino vuole sentirsi dire e uno che risponde a ciò che il cittadino ha il diritto di sapere non è una questione tecnica. È la domanda fondativa di ogni funzione pubblica che si rispetti.


📚 Fonti di questa puntata:

Anthropic (2026). How people ask Claude for personal guidance. Anthropic Research, 30 aprile 2026. anthropic.com/research/claude-personal-guidance

Garante per la protezione dei dati personali (2026). Provvedimento n. 342 [10255494], avvio di istruttoria nei confronti di Myndoor S.r.l., 14 maggio 2026. garanteprivacy.it