Il vero rischio è un’AI che sbaglia bene.

Una risposta convincente può farci abbassare la guardia. Il valore del professionista comincia proprio dalla verifica.

Una risposta arriva in pochi secondi. È scritta bene, ha un tono sicuro e sembra mettere ogni cosa al proprio posto. È in quel momento, prima ancora di controllarla, che rischiamo di darle ragione. Nei contenuti che ho dedicato all’AI negli ultimi mesi torno spesso su questo punto: la qualità della scrittura e l’affidabilità di ciò che leggiamo sono due valutazioni diverse.

Un sistema generativo può produrre un riferimento inesistente, completare un’informazione mancante o assecondare troppo facilmente la direzione della domanda. Il problema diventa concreto quando quella risposta entra in una proposta commerciale, in un documento professionale o in una decisione. La fluidità del testo può nascondere il punto esatto in cui serviva fermarsi.

Per questo, quando parlo di formazione, non mi fermo alla costruzione del prompt. Voglio che una persona sappia riconoscere quale parte del risultato richiede una fonte, quale un confronto con i dati dell’azienda e quale una competenza che lo strumento non può assumersi al suo posto. Verificare significa risalire al documento originale, controllare date e contesto, mettere alla prova le ipotesi e accettare che alcune risposte restino incomplete.

Nella mia visione, la consulenza serve anche a decidere dove questa verifica deve avvenire nel processo. Chi controlla? Con quali elementi? Prima di quale passaggio? Una buona procedura rende visibile questa responsabilità e le riserva tempo. Se il vantaggio dell’AI viene consumato nel correggere errori scoperti troppo tardi, abbiamo accelerato il problema.

La domanda che mi interessa portare in azienda è semplice: oggi sappiamo distinguere una risposta utile da una risposta soltanto convincente?