Intelligenza e coscienza: che cosa cambia quando ci risponde una macchina?
Di Francesco Cattivelli· 4 minuti di lettura
Una risposta arriva sullo schermo. È chiara, pertinente, perfino delicata. Può farci sentire ascoltati. A quel punto nasce una domanda che riguarda sia la macchina sia noi: che cosa stiamo riconoscendo in quelle parole? Un’elaborazione utile, una comprensione del problema, una presenza? In At Sixes and Sevens — AI Era, distinguere queste possibilità è il primo passo per pensare al rapporto con l’intelligenza artificiale.
Le capacità che possiamo osservare
Possiamo valutare una risposta: controllare un calcolo, verificare un riferimento, confrontare una traduzione con il testo di partenza. Possiamo anche chiederci se un sistema risolva un compito in modo affidabile. Sono domande sulle sue capacità e sui risultati che produce. Per rispondere servono criteri adeguati al compito, prove e attenzione agli errori.
La coscienza introduce una questione diversa: esiste un’esperienza soggettiva associata a ciò che il sistema fa? Una macchina che descrive il dolore lo prova? Una frase sulla paura corrisponde a qualcuno che teme? Il risultato osservabile, da solo, non scioglie questa domanda. Il libro invita a mantenere visibile la distanza tra descrivere un’esperienza e viverla.
Che cosa intendiamo con coscienza
La parola coscienza raccoglie significati diversi. Possiamo usarla per indicare consapevolezza di sé, esperienza del mondo o giudizio morale. Confonderli rende difficile persino formulare il problema. Un sistema può riferirsi a se stesso in una frase: questo comportamento linguistico basta a stabilire che abbia un’esperienza di sé? Quale evidenza ulteriore cercheremmo?
Nel percorso del libro, queste domande restano aperte. L’ipotesi di un’intelligenza artificiale generale, capace di affrontare molti tipi di compito, le rende più pressanti. La generalità delle capacità non fornisce però, per definizione, una risposta sulla soggettività. Prima di discutere se un’AI sia cosciente dobbiamo precisare che cosa intendiamo riconoscere e perché riteniamo significativi certi indizi.
Il nostro ruolo dentro la conversazione
Quando una macchina usa un tono premuroso, vale la pena osservare anche la nostra reazione. Ci siamo sentiti capiti perché la risposta ha nominato qualcosa che faticavamo a esprimere? Perché era disponibile nel momento giusto? Perché ci ha dato ragione? Il valore che attribuiamo a uno scambio può nascere da bisogni molto umani.
Riconoscere questi bisogni aiuta a usare lo strumento con maggiore chiarezza. Una conversazione può essere utile senza risolvere la questione di chi, o che cosa, ci sia dall’altra parte. Possiamo apprezzare un aiuto e insieme controllarne il contenuto, scegliere quanto affidarci e conservare lo spazio per il confronto con altre persone.
Una domanda da portare nell’uso quotidiano
La prossima volta che una risposta artificiale ti sembrerà particolarmente convincente, prova a separare tre piani: ciò che dice, ciò che puoi verificare e ciò che ti fa provare. Sono aspetti collegati, ma ciascuno richiede un’attenzione diversa. Un’emozione può essere reale per chi legge anche quando non dimostra nulla sull’esperienza di chi ha prodotto le parole.
I capitoli dedicati a intelligenza, AGI e coscienza sviluppano questa distinzione attraverso domande e situazioni. La lettura offre uno spazio per chiarire il nostro giudizio: quali prove chiediamo alle risposte, quale significato diamo alla presenza e come cambia il nostro modo di ascoltare quando l’interlocutore è una macchina.