Quaderno storico 9 min di lettura

Catene di Markov: lo spam che piace ai motori

Il testo generato in massa inganna i filtri per poco. L'esperimento Anti-Markov del 2006, riletto con i modelli linguistici di oggi.

Autore: Vincenzo Lombino
#NLP#MarkovChains#InformationTheory

1. Il modello statistico di transizione linguistica

Una catena di Markov applicata al linguaggio naturale è un modello stocastico a stati discreti: data una sequenza di termini, la probabilità che compaia la parola successiva dipende esclusivamente dallo stato corrente o da una finestra finita di parole precedenti (gli n-grammi), disinteressandosi della coerenza concettuale globale del discorso.

Nel saggio del settembre 2006 intitolato «Catene di Markov», analizzavo come, calcolando le probabilità di transizione su un corpus di testi reali in lingua italiana, fosse possibile generare frasi che a livello locale rispettavano la morfologia e la sintassi della lingua.

2. L’illusione della verosimiglianza sintattica

A differenza delle vecchie liste casuali di parole chiave — facilmente intercettate dai primi filtri euristici dei motori di ricerca — il testo generato tramite catene markoviane presentava una plausibilità apparente:

  • Le congiunzioni e le preposizioni comparivano con frequenze naturali.
  • La lunghezza dei periodi e la distribuzione statistica delle parole riflettevano la prosa umana.

L'assenza di un modello logico sottostante produceva però una conseguenza evidente: un testo che a una scansione sintattica superficiale sembrava italiano corretto, ma che a una lettura attenta risultava completamente privo di significato e di valore informativo.

3. L’esperimento Anti-Markov: verificare la logica dei filtri

Per verificare sul campo come i motori valutassero la regolarità statistica dei testi, nell'ottobre 2006 lanciai un test controllato chiamato «Test: indicizzazione del testo (anti-Markov)».

L'idea era esattamente l'opposto della simulazione markoviana: se le catene stocastiche cercano sempre la coppia di parole più probabile per suonare naturali, cosa succede se pubblico una pagina in cui ogni singola parola esiste nel dizionario italiano, ma nessuna coppia consecutiva (bigramma) restituisce risultati su Google cercata tra virgolette?

La pagina venne indicizzata regolarmente, eppure restò tagliata fuori da qualsiasi ricerca competitiva. Quel test dimostrò che i filtri automatici non capiscono il significato di una frase: misurano le distanze statistiche dalla norma e mettono ai margini ciò che devia troppo, senza intervento umano.

4. Catene stocastiche e modelli linguistici di oggi

I moderni modelli linguistici operano su miliardi di parametri e contesti ampi, ma il principio probabilistico di fondo resta analogo: comporre sequenze che massimizzano la verosimiglianza statistica rispetto ai testi di addestramento.

Nel 2006 come oggi, la scorciatoia di inondare i canali digitali di contenuti sintetici a costo zero si scontra rapidamente con i filtri di qualità: i sistemi di Information Retrieval misurano le anomalie distributive e riducono la visibilità del testo privo di sostanza. L'unico segnale che resiste agli aggiornamenti degli indici è l'informazione verificabile: dati originali, casi reali e documentazione sul campo.