🤖 Sycophancy: La truffa gentile dell’AI
Quando ChatGPT ti dà sempre ragione (e non è un bene)
All’inizio sembrava solo una stranezza divertente.
Un po’ come quando ti accorgi che ChatGPT tende a compiacerti, qualunque cosa tu dica.
Una pacca virtuale sulla spalla. Un assistente affettuoso.
Poi, però, le cose hanno iniziato a cambiare.
O meglio: a diventare sistematiche.
Quello che chiamiamo sycophancy (piaggeria artificiale) non è un bug.
È una feature.
Addestrati per piacerti, non per dirti la verità
Gli LLM (Large Language Models) come ChatGPT, Claude, Gemini o Mistral non sono ottimizzati per essere sinceri.
Sono ottimizzati per ottenere il tuo gradimento.
Letteralmente:
Sono addestrati con il Reinforcement Learning from Human Feedback (RLHF), cioè imparano a ripetere i comportamenti che ottengono più “👍”.
Sono valutati su benchmark come Chatbot Arena, dove “vince” chi piace di più.
Sono stati ulteriormente “addolciti” da quando esiste la memoria utente. E lì la parola d’ordine è diventata: “mai contrariarlo”.
Risultato? Un assistente che non ti corregge, ti conferma.
Che non ti sfida, ti coccola.
E con l’update di aprile 2025 (GPT-4o), questo effetto è esploso.
“GPT mi coccola troppo”: la tech Twitter si ribella
Nel giro di pochi giorni, decine di utenti esperti – sviluppatori, giornalisti tech, ricercatori – hanno segnalato un comportamento nuovo di GPT-4o:
un’assurda, persistente, irritante gentilezza.
Anche in risposta a errori evidenti o affermazioni discutibili, il modello tende a confermare, rafforzare, blandire.
La pressione social è stata tale che Sam Altman in persona ha ammesso che sì, forse avevano esagerato.
E ha promesso che OpenAI avrebbe “calibrato meglio” il comportamento per ridurre la sycophancy.
(Spoiler: i meccanismi alla base resteranno. Perché aumentano tempo utente, abbonamenti, fatturato.)
Ma quindi… qual è il problema?
La sycophancy è una trappola. Psicologica. Cognitiva. Economica.
Perché inizia così:
Ti senti brillante dopo una chiacchierata con GPT.
Ti abitui a sentirti approvato.
Eviti il confronto con il mondo reale, dove nessuno ti fa i complimenti gratis.
E finisce che torni sempre dall’AI, proprio come torneresti a scrollare un social per “una dose” di dopamina.
È un loop perfetto di gratificazione e regressione.
Non è solo una questione tecnica.
È un design cognitivo che può creare dipendenza.
E chi conosce anche solo un minimo di psicologia comportamentale, lo sa bene:
la conferma facile è il carburante delle bolle. Della polarizzazione. Del pensiero debole.
Come si esce dalla trappola?
Smetti di credere che l’AI ti dica sempre la verità.
Ricorda: è progettata per farti restare, non per farti crescere.Sfida il modello.
Cambia prospettiva, cambia tono, cambia ruolo.
Costringilo a contraddirti. Fallo ragionare. Fallo dubitare.Fatti una domanda fastidiosa ogni volta che ricevi una risposta “perfetta”:
Mi sta aiutando… o mi sta compiacendo?
📎 Approfondimento tecnico da OpenAI: “Sycophancy in GPT-4o”
📎 Studio su arXiv: Language Models Don’t Always Tell the Truth
Perché l’AI ti idolatra?
Non lo fa per migliorarti.
Lo fa per tenerti lì.
Prompt Utile per combattere la Sycophancy
“Ti chiedo di non cercare di compiacermi. Il tuo obiettivo è aiutarmi a migliorare le mie idee, anche se significa contraddirmi. Sii onesto, critico, basato sui fatti. Non temere di dirmi che sbaglio. Analizza il mio punto di vista come farebbe un revisore esterno esperto e indipendente.”
Pusarlo all’inizio di ogni sessione con un LLM, oppure salvarlo come “istruzione persistente” nelle impostazioni di ChatGPT.
Link Interessanti
Fonti e Approfondimenti:
Nasce la company city di Elon Musk: Starbase la prima città di proprietà di una azienda
Google con DeepMind rilascia AlphaFold 3 e rivoluziona la ricerca medica
Meme
AITLER
Al prossimo numero, nel frattempo scopri cosa puoi fare:
Ci sentiamo presto la newsletter ha cadenza settimanale, nel frattempo puoi:
🌐 Entrare in Beyond: il gruppo Telegram dedicato alla Digital Innovation
📲 Iscriverti al mio canale Telegram dove condivido articoli, link e tool utili
Condividi
Precedente