Skip to content
Sign in
Artwork for Parole in beta
Parole in beta · October 7 · 9 min

Allucinazione

In questo episodio esploriamo il termine "allucinazione", partendo da un'esclusiva della CNN del 18 settembre 2026: un rapporto d'intelligence scritto con l'aiuto di un chatbot identifica per errore un carico nucleare su una nave cinese. Gli aerei americani sono già in volo quando qualcuno ricontrolla. In sintesi: La parola. Dal latino alucinari, "vagare con la mente, sognare". In informatica nasce nel 2000 con un senso positivo (inventare i dettagli di un volto sfocato) e si capovolge con i modelli linguistici. Nel 2023 hallucinate è la parola dell'anno del Cambridge Dictionary. Perché succede. Un modello linguistico prevede la continuazione più plausibile, non quella vera. Addestramento e test premiano la risposta più dell'ammissione di incertezza: come un esame a crocette in cui tirare a indovinare conviene. Sei forme, sei casi. Fonti inventate (Mata v. Avianca, Deloitte, Tribunale di Firenze), fatti inventati (il chatbot di Air Canada), persone confuse (Brian Hood), testi infedeli alla fonte (Whisper negli ospedali), codice che richiama librerie inesistenti, false descrizioni di sé (l'agente di Replit). Come difendersi. Aprire le fonti, evitare domande con la risposta incorporata, dare al modello i documenti, verificare in proporzione alla posta in gioco, non trasformare un testo non verificato in un documento ufficiale. Approfondimenti: CNN, US military had close call after using AI for false intelligence report, sources say, 18 settembre 2026: https://edition.cnn.com/ Timnit Gebru ed Emily M. Bender, Forget 'superintelligence': error-prone AI nearly sparked world war three this month, The Guardian: https://www.theguardian.com/ Kalai, Nachum, Vempala, Zhang, Why Language Models Hallucinate, 2025: https://arxiv.org/abs/2509.04664 Ji et al., Survey of Hallucination in Natural Language Generation, ACM Computing Surveys: https://arxiv.org/abs/2202.03629 Hicks, Humphries, Slater, ChatGPT is bullshit, Ethics and Information Technology, 2024: https://doi.org/10.1007/s10676-024-09775-5 Damien Charlotin, AI Hallucination Cases database: https://www.damiencharlotin.com/hallucinations/ The Guardian, Deloitte to pay money back to Albanese government after using AI in $440,000 report, 6 ottobre 2025: https://www.theguardian.com/australia-news/2025/oct/06/deloitte-to-pay-money-back-to-albanese-government-after-using-ai-in-440000-report The Guardian, Two US lawyers fined for submitting fake court citations from ChatGPT, 23 giugno 2023: https://www.theguardian.com/technology/2023/jun/23/two-us-lawyers-fined-submitting-fake-court-citations-chatgpt

0:00-9:02
Play in
Transcript file

transcript

No transcript — this publisher did not publish one.

show notes

In questo episodio esploriamo il termine "allucinazione", partendo da un'esclusiva della CNN del 18 settembre 2026: un rapporto d'intelligence scritto con l'aiuto di un chatbot identifica per errore un carico nucleare su una nave cinese. Gli aerei americani sono già in volo quando qualcuno ricontrolla.

In sintesi:

  • La parola. Dal latino alucinari, "vagare con la mente, sognare". In informatica nasce nel 2000 con un senso positivo (inventare i dettagli di un volto sfocato) e si capovolge con i modelli linguistici. Nel 2023 hallucinate è la parola dell'anno del Cambridge Dictionary.
  • Perché succede. Un modello linguistico prevede la continuazione più plausibile, non quella vera. Addestramento e test premiano la risposta più dell'ammissione di incertezza: come un esame a crocette in cui tirare a indovinare conviene.
  • Sei forme, sei casi. Fonti inventate (Mata v. Avianca, Deloitte, Tribunale di Firenze), fatti inventati (il chatbot di Air Canada), persone confuse (Brian Hood), testi infedeli alla fonte (Whisper negli ospedali), codice che richiama librerie inesistenti, false descrizioni di sé (l'agente di Replit).
  • Come difendersi. Aprire le fonti, evitare domande con la risposta incorporata, dare al modello i documenti, verificare in proporzione alla posta in gioco, non trasformare un testo non verificato in un documento ufficiale.

Approfondimenti:

  • CNN, US military had close call after using AI for false intelligence report, sources say, 18 settembre 2026: https://edition.cnn.com/
  • Timnit Gebru ed Emily M. Bender, Forget 'superintelligence': error-prone AI nearly sparked world war three this month, The Guardian: https://www.theguardian.com/
  • Kalai, Nachum, Vempala, Zhang, Why Language Models Hallucinate, 2025: https://arxiv.org/abs/2509.04664
  • Ji et al., Survey of Hallucination in Natural Language Generation, ACM Computing Surveys: https://arxiv.org/abs/2202.03629
  • Hicks, Humphries, Slater, ChatGPT is bullshit, Ethics and Information Technology, 2024: https://doi.org/10.1007/s10676-024-09775-5
  • Damien Charlotin, AI Hallucination Cases database: https://www.damiencharlotin.com/hallucinations/
  • The Guardian, Deloitte to pay money back to Albanese government after using AI in $440,000 report, 6 ottobre 2025: https://www.theguardian.com/australia-news/2025/oct/06/deloitte-to-pay-money-back-to-albanese-government-after-using-ai-in-440000-report
  • The Guardian, Two US lawyers fined for submitting fake court citations from ChatGPT, 23 giugno 2023: https://www.theguardian.com/technology/2023/jun/23/two-us-lawyers-fined-submitting-fake-court-citations-chatgpt

more episodes

All episodes