Non c'è un tasto «non lo so»

Alla fine di ogni passaggio la macchina ha centomila punteggi e deve sceglierne uno. Non ha una via d'uscita: non esiste, nel meccanismo, un modo di rispondere «non lo so». C'è solo la continuazione più verosimile, e una continuazione verosimile esiste sempre.

Mettiti nei suoi panni davanti a «nella sentenza della Cassazione numero…». Nei testi che ha letto, dopo quelle parole veniva sempre un numero, poi una data, poi un principio. La forma è chiarissima; il contenuto specifico non ce l'ha. Quindi produce un numero plausibile, una data plausibile, un principio plausibile.

Ne esce una frase perfetta e falsa. Non è un guasto: è il meccanismo che funziona come è fatto.

Dove sbaglia, in modo prevedibile

L'errore non è distribuito a caso. Segue una regolarità che deriva da come la macchina ha imparato — impara ciò che ha visto variare, e in proporzione a quanto lo ha visto, come nella tappa 06.

QUANTO CI SI PUÒ FIDARE, PER TIPO DI INFORMAZIONE Come funziona una cosa, in generale Riformulare o riassumere ciò che gli dai Nozioni molto diffuse e stabili Dettagli rari, tecnici, di nicchia Numeri, nomi, citazioni, riferimenti Fatti recenti o appena cambiati

Guarda le due righe in fondo, e nota una cosa spiacevole: sono anche le due che si notano di meno. Un ragionamento sbagliato in una spiegazione generale suona strano e mette in allarme. Un numero di sentenza inventato non suona in nessun modo: è un numero.

La regola controintuitiva

Da qui esce un criterio che va contro l'istinto e che è il contenuto più utile di questa pagina.

L'ISTINTO DICE «Le cose difficili le controllo, le cose semplici come un numero o una data le do per buone.» IL MECCANISMO DICE Più un dato è preciso, raro e verificabile, meno va creduto senza averlo verificato.

Il motivo sta nella tappa 09: i fatti non stanno in una casella consultabile, sono spalmati su una configurazione diffusa insieme a migliaia di altri. Non esiste, dentro la macchina, un confine fra la zona di ciò che sa e la zona di ciò che sta componendo. E quindi non può esistere nemmeno una spia che si accenda quando passa dall'una all'altra.

La fluidità di una risposta non dice niente sulla sua correttezza. Sono due proprietà indipendenti, ed è per questo che le sbagliamo di continuo.

Perché anche chiedere «sei sicuro?» non serve

Verrebbe naturale usare la macchina per controllare la macchina. Non funziona, e adesso è chiaro perché: la risposta a «sei sicuro?» è la continuazione più verosimile di una conversazione in cui qualcuno ha appena chiesto conferma — e quel testo, nei miliardi di scambi su cui si è allenata, prosegue quasi sempre con una conferma o con delle scuse.

Non sta rivalutando: sta continuando. Ottieni una seconda affermazione con lo stesso identico fondamento della prima, che è nessuno.

Che cosa cambia per te

  • Tratta ogni numero, nome, data, citazione e riferimento normativo come da verificare. Non perché sbagli spesso — perché quando sbaglia lì, non lo vedi.
  • Usalo dove è forte. Riformulare, riassumere ciò che gli hai dato, spiegare un concetto generale, produrre una prima stesura: lì il rischio è basso e il guadagno alto.
  • Diffida in proporzione alla precisione. Una risposta vaga è meno pericolosa di una risposta con tre riferimenti puntuali: la seconda è più utile se è giusta e più dannosa se è sbagliata.
  • Se hai bisogno di fatti, dagli i documenti. È l'unico modo di ancorare la risposta a qualcosa di controllabile, ed è il tema del caso su documenti e conoscenza.