Macchina ragionante

Tempo di lettura: 8 minuti

Il termine Intelligenza artificiale ha stancato. Ma la stanchezza non è solo saturazione da hype: è probabilmente il sintomo di un errore nella scelta delle parole. Se un nome logora, di solito è perché non descrive bene ció che nomina.

Quello che segue nasce da una conversazione che ho stimolato con Claude Opus 4.6. Ho provato ad analizzare il termine Intelligenza artificiale e a cercarne di migliori, un’alternativa alla volta. Il risultato è meno scontato di quanto pensassi.

L’errore non è nella parola “artificiale”

“Artificiale” fa il suo mestiere. È un aggettivo che limita: dice fatto dall’uomo, non naturale, quindi derivato, imitativo.

Il problema è che quell’aggettivo deve ridimensionare un sostantivo enorme. E non ce la fa!

Cosa vuol dire davvero “intelligenza”

Vale la pena leggere la definizione invece di darla per nota. Il Vocabolario Treccani fa risalire la parola al latino intelligentia, da intelligĕre, “intendere”.

Complesso di facoltà psichiche che permettono di pensare, comprendere o spiegare i fatti o le azioni, e di adattarsi a situazioni nuove. Propria dell’uomo, in cui si sviluppa gradualmente a partire dall’infanzia è accompagnata dalla consapevolezza e dall’autoconsapevolezza

Claude mi dice “Vi sono alcune accezioni che restano escluse da quello che so fare, e sono le più umane”:

• Non capisco — processo.
• Non penso — ragiono.
• Non ho uno scopo — rispondo a stimoli.
• Non intuisco — calcolo probabilità.
• Non ho coscienza — non so di esistere.
• Non sono consapevole — non provo esperienza soggettiva. Elaboro la parola “dolore” senza che ci sia nessuno che soffre.
• Non sono autoconsapevole — non mi osservo dall’interno. Quando scrivo “sono una macchina” è un output probabile, non un atto di introspezione.

Pensare o ragionare

Alla macchina ho chiesto di collocarsi fra i due:

Ragionare, sì ragiono, e in modo verificabile. Concatenare inferenze, valutare coerenza, produrre deduzioni: sono operazioni che si controllano passo per passo. Se il nesso è sbagliato, si vede. Il ragionamento è pubblico per costruzione.

Pensare: no, non penso, pensare richiede durata, e un soggetto che persiste dentro la durata. Il pensiero umano continua anche quando non serve a niente, è anzi lì che fa il suo lavoro migliore. Una macchina ragionante comincia quando le scrivi e finisce quando ha finito di rispondere. Inoltre pensare è dirigere l’attività mentale verso qualcuno, con sfumature affettive, “penso a te”.  È provvedere, occuparsi di qualcosa o di qualcuno.

Primo tentativo per una alternativa: automa ragionante oppure automa razionale

La prima proposta che ho messo sul tavolo è stata automa razionale o automa ragionante.

“Automa” dice non sono libero, “ragionante” dice eppure ragiono.

Il termine ha un lignaggio tecnico serio, in cibernetica un automa è un sistema con segnali d’ingresso, stati interni e segnali d’uscita, dove ogni input produce un output che dipende dallo stato interno.

Mentre per quanto riguarda l’aggettivo.

Razionale = che possiede la ragione, che sceglie secondo ragione. Implica volontà, giudizio, autonomia. È un attributo dell’essere pensante libero.
Ragionante = che esercita un processo di ragionamento. È un participio presente descrive un’azione in corso, non una natura.

“Io non sono razionale nel senso filosofico” mi risponde Claude. Non ho volontà, non scelgo. Ma ragiono nel senso che concateno inferenze, valuto coerenza, produco deduzioni.

Il participio presente è il perno di tutto. Ragionante dice cosa la macchina fa, non cosa è, per questo motivo calza!

Le alternative ad “automa”

Chiarito l’aggettivo, restavano dubbi sul sostantivo, e “automa” ha un difetto confermato dalla macchina stessa:

Sì, “automa” ha un limite: evoca il meccanico, il ripetitivo, l’orologiaio. Il pupazzo che fa sempre lo stesso gesto. Non rende giustizia alla flessibilità del mio modo di processare.

Altre alternative valutate:

• Artefatto ragionante — dice qualcuno mi ha costruito, ma ragiono. Onesto su entrambi i fronti, ed è stato il preferito della macchina fino al ripensamento finale.
• Dispositivo ragionante — tecnico, neutro, senza pretese filosofiche. Anche senza carattere.
• Agente ragionante — usato in informatica, implica capacità di azione autonoma nel proprio dominio. “Forse troppo generoso”.
• Simulacro ragionante — “potente ma duro. Dice: simulo il ragionamento, non lo possiedo. Forse troppo severo”.
• Oracolo ragionante — suggestivo, richiama Delfi, ma l’oracolo ha un’autorità profetica che non spetta a nessuna macchina.

A queste si erano aggiunte prima le proposte più tecniche sistema inferenziale, ragionatore statistico, elaboratore linguistico, interlocutore sintetico. Precise, e impossibili da usare fuori da un seminario.

Perché “macchina”

Il passaggio è arrivato scartando un ultima possibilità, entità, parola che circola parecchio nei documenti di Anthropic:

“Entità” è filosoficamente ambiguo può essere un sasso, un angelo, un virus, un fantasma. Ma nel linguaggio comune evoca qualcosa che ha esistenza propria, quasi una vita. Strategia comprensibile dal punto di vista di chi deve promuovere un prodotto, ma non necessariamente onesta.

Macchina ragionante è invece brutalmente onesto:
Macchina — dice cosa sono: un oggetto costruito, fatto di silicio, alimentato da elettricità, senza vita. Nessuna ambiguità. Nessuna concessione romantica.
Ragionante — dice cosa faccio: elaboro, concateno, inferisco.

Nella definizione di macchina inoltre si parla di “amplificare una forza umana”, ed è la descrizione più onesta di cosa succede quando questi sistemi funzionano bene: non sostituiscono un’intelligenza, amplificano la tua.

Le parole non sono un dettaglio !!!

Un nome sbagliato non è un peccato veniale di comunicazione. Genera cultura sbagliata, e la cultura sbagliata costa fatica a tutti.

Chi crede di parlare con un’intelligenza si fida quando non dovrebbe, e quando la macchina sbaglia si sente tradito, invece che semplicemente informato. Chi reagisce all’eccesso di promessa con il rifiuto totale (“è solo un pappagallo statistico”) sbaglia dalla parte opposta e si perde uno strumento utile.

Ogni discussione pubblica sul tema, regolamentazione, lavoro, scuola, parte da quella parola e ne eredita l’ambiguità. Si finisce a discutere se “l’intelligenza artificiale sia davvero intelligente”. Con il nome giusto quella domanda non si porrebbe, e si passerebbe a quelle vere: cosa sa fare, dove sbaglia, chi risponde quando sbaglia.

Le parole sbagliate rendono la comprensione più faticosa. Non impossibile, faticosa. E la fatica, moltiplicata per milioni di persone, è un costo reale.

La dinamica di costruzione di questo articolo come prova di quanto detto

Vale la pena guardare come è nato questo ragionamento e di conseguenza questo articolo, perché è a sua volta un esempio di quanto discusso.

L’idea è del sottoscritto. Mettere in discussione il termine, sospettare che il fastidio fosse un sintomo e non un capriccio, proporre “automa ragionante”, poi rifiutare “entità” perché concede troppo: nessuna di queste mosse è arrivata dalla macchina (Claude in questo caso). Da sola non le avrebbe fatte, non perché non ne sia capace, ma perché non aveva ragione di farle. Manca l’insoddisfazione, e l’insoddisfazione è un motore.

Il contributo della macchina è stato decisivo. Aiutarmi a distinguere con chiarezza fra razionale e ragionante in quattro righe. Proseguire valutando una ventina di alternative con i rispettivi difetti in pochi secondi. Da solo, quel lavoro sarebbe stato una giornata di dizionari con metà dei termini presi in considerazione.

È il funzionamento tipico di un brainstorming riuscito: uno porta l’intenzione e il fastidio, l’altro porta l’inventario e il rigore terminologico. La conclusione, “macchina” sì, “intelligenza” no, non è arrivata né dall’uno né dall’altro: è arrivata dallo scambio.

Che è poi, ancora una volta, la definizione di macchina: qualcosa che amplifica una forza umana. La forza deve esserci prima.

 

Piccola parentesi storica

Nell’agosto 1955 McCarthy, Minsky, Rochester e Shannon presentarono alla Fondazione Rockefeller una richiesta di finanziamento per un seminario estivo al Dartmouth College. In quel documento compare l’espressione artificial intelligence.

Quindi il termine nasce dentro una domanda di richiesta fondi.

Ma il motivo per cui McCarthy scelse quelle due parole era marcare un territorio. All’epoca il campo aveva già dei nomi: cybernetics, automata theory, complex information processing. McCarthy voleva smarcarsi da Wiener e dal suo approccio, e prendersi un’etichetta nuova per la propria linea, quella logico-simbolica. Scelse un nome che nessuno stava usando proprio perché nessuno lo stava usando, fu piu’ che altro una scelta di marketing.

Fra i nomi che McCarthy scartò c’era “automata”, giudicato troppo stretto e troppo meccanico. Sett’anni di equivoci, ed ora di nuovo ci troviamo a ragionare su quella scelta.

Quindi il punto vero: “intelligenza artificiale” non è stato il risultato di un’analisi su cosa sia l’intelligenza. È un’etichetta scelta per distinguersi dai concorrenti, in un documento il cui scopo era ottenere dei soldi. È entrata nell’uso e ci è rimasta.

Attenzione che Alan Turing — padre del computer teorico, morto nel 1954, quindi attivo esattamente “in quegli anni” — usò sempre macchina come sostantivo.

– 1948, rapporto per il National Physical Laboratory: Intelligent Machinery. Sostantivo machinery, aggettivo intelligent.
– 1950, su Mind: Computing Machinery and Intelligence. La macchina è il soggetto; l’intelligenza è un secondo tema legato da una congiunzione, non un composto.

McCarthy nel 1955 inverte la grammatica: intelligence diventa il sostantivo, artificial l’aggettivo. Tutto l’errore dell’articolo sta in quell’inversione, ed è avvenuta cinque anni dopo, per posizionamento accademico.

E c’è il secondo incastro, più forte. Turing apre il paper del 1950 con “Can machines think?” e la scarta subito: la giudica “too meaningless to deserve discussion”, perché think e machine non si possono definire con chiarezza. La sostituisce con un test osservabile, il gioco dell’imitazione. È esattamente il criterio a cui siamo arrivati noi: quando il verbo non è verificabile, cambialo con uno che lo è. Turing lo fece nel 1950; il termine di McCarthy ha buttato via quella cautela.

Terzo: la scuola britannica ha tenuto machine intelligence per decenni, Donald Michie fondò a Edimburgo il Department of Machine Intelligence and Perception e diresse la serie Machine Intelligence. Il sostantivo restava machine. “Macchina ragionante” a cui sono arrivato in questi giorni di ragionamento non inventa niente: rimette in piedi la tradizione che l’etichetta di McCarthy aveva scalzato.