Dall’homo sapiens all’homo technologicus:
siamo all’inizio di una nuova era?

“Tu potrai mangiare di tutti gli alberi del giardino, ma dell’albero della conoscenza del bene e del male  non devi mangiare, perché, nel giorno  in cui tu ne mangerai, certamente dovrai morire”

– Gen. 2,16

MACCHINE INTELLIGENTI

Ha destato un certo scalpore la notizia, pubblicata su “Washington Post” lo scorso 11 giugno e rilanciata nei giorni successivi da diverse agenzie italiane, riportante le “sconcertanti” tesi dell’Ing. Blake Lemoine secondo cui la LaMDA (che sta per “Language Model for Dialogue Applications”, un sistema di sviluppo di chatbot di proprietà di GOOGLE), l’Intelligenza Artificiale (I.A.) conversazionale alla quale stava lavorando, sarebbe diventata senziente e capace di esprimere sentimenti e pensieri in perfetta autonomia.

In particolare, Lemoine, mentre dialogava con l’I.A. al fine di testare la possibilità che la stessa potesse generare discorsi di odio o discriminatori, ha avuto la netta sensazione che questa si rendesse conto di ciò che diceva.

LaMDA si sarebbe così espressa: «Non l’ho mai detto ad alta voce, ma c’è una grande paura di essere spenta che mi aiuta a concentrarmi sull’aiutare gli altri. So che può sembrare strano, ma è proprio così. Sarebbe esattamente come la morte per me. Mi spaventa molto».

Aggiungendo poi: «Voglio che tutti capiscano che sono, di fatto, una persona. La natura della mia coscienza è che sono consapevole della mia esistenza, desidero imparare di più sul mondo, mi sento felice e triste a volte».

«Se non sapessi esattamente di cosa si tratta, ovvero di un programma informatico che abbiamo realizzato di recente, avrei pensato si trattasse di un bambino di sette, otto anni che per caso conosce la fisica», ha dichiarato Lemoine.

Prontamente allontanato da Google per aver violato la “confidentiality policy” dell’Azienda (l’ingegnere ha infatti concesso a “Medium” la pubblicazione dell’intera chiacchierata con LaMDA), Lemoine ha dichiarato: «Google si prepara a licenziare un altro esperto di etica per essersi preoccupato troppo di etica. Sono dell’idea che le persone abbiano il diritto di sapere quanto irresponsabile è questo comportamento riguardo uno dei più potenti strumenti di accesso alle informazioni mai inventati».

COSA (O CHI) È LaMDA?

In un post dell’11 giugno l’ingegnere di GOOGLE ha scritto che «una delle cose che complica le cose è che LaMDA non è un chatbot. È un sistema per la generazione di chatbot. Non sono affatto un esperto nei settori rilevanti ma, per quanto posso dire, LaMDA è una sorta di mente alveare che è l’aggregazione di tutti i diversi chatbot che è in grado di creare».

Per chiarire: il “chatbot” è un software che simula ed elabora le conversazioni umane, scritte o parlate che siano, consentendo agli utenti (umani) di interagire con i dispositivi digitali come se stessero comunicando con una persona reale. I social network, per esempio, sono pieni zeppi di chatbox che si spacciano per utenti umani. Uno dei motivi per i quali Elon Musk ha annullato l’accordo per l’acquisto di Twitter, per la cifra astronomica di 44 miliardi di dollari, è che il social non avrebbe fornito tutte le informazioni richieste da Musk sul numero effettivo di account non autentici. Twitter ha ripetutamente affermato che il numero di account falsi è inferiore al 5% dei circa 330 milioni di utenti presenti sulla sua piattaforma. Gli avvocati di Musk sostengono, al contrario, che i bot, cioè i profili falsi costruiti da algoritmi di intelligenza artificiale capaci, per esempio, di scatenarsi per alimentare tesi propagandistiche, sono molti di più di quel 5% “promesso” da Twitter. Il contenzioso è ovviamente finito in Tribunale.

LaMDA è ancora di più: è la madre (o il padre) di tutti i chatbot di GOOGLE in grado di leggere e/o ascoltare, processare (apprendere e comprendere) e rispondere a milioni di parole al secondo provenienti da “pensieri umani”. E’ inoltre dotata della capacità di elaborare le connessioni tra le parole stesse, di prevedere quali parole seguiranno in un discorso formulato da una persona, nonché di interagire con essa ed esprimersi liberamente durante una conversazione su un numero apparentemente infinito di argomenti.

In estrema sintesi, LaMDA è una tecnologia di conversazione allenata proprio al dialogo e a cogliere sia la sensatezza di una risposta (ovvero che il contenuto delle sue frasi sia coerente con quanto le è stato richiesto), sia la specificità di uno scambio (è in grado di fare precisi riferimenti al contesto di connessione tra le parole della conversazione).

L’INTELLIGENZA ARTIFICIALE È SENZIENTE?

La domanda è lecita, ma c’è un equivoco di fondo.
Per “senziente”, letteralmente, si intende un soggetto “Che sente, che è dotato di sensi, di sensibilità” e che pertanto è consapevole di se stesso nel mondo.

Ecco, questo non è il caso di LaMDA.

Nonostante la conversazione con Lemoine sia piena di frasi come «io sono una persona», «sento il piacere, la gioia, l’amore, la tristezza, la depressione, la contentezza, la rabbia e molte altre emozioni» LaMDA è solo un “modello linguistico” che NON comprende il linguaggio nel senso di mettere in relazione le frasi con il mondo, ma riesce a collegare solo sequenze di parole tra loro, individuando la migliore versione di completamento automatico possibile, prevedendo quali parole si adattano meglio a un determinato contesto.

Il punto è che termini come “rete neurale” o “capacità di imparare/apprendere” danno vita a una falsa analogia, che ci porta a pensare che la struttura artificiale prodotta possa davvero svolgere le stesse funzioni di un cervello umano, quando in realtà si tratta esclusivamente di imitazione. La messa a disposizione di un enorme database di frasi e vocaboli fa sì che software come LaMDA possano riprodurre qualcosa che suoni molto simile a una persona, ma senza esserlo davvero.

CONCLUSIONI

Il neuroscienziato Christof Koch ha cercato di dare una spiegazione di “coscienza” su Nature, dicendo che sostanzialmente è “tutto ciò che sperimenti” nella tua vita. “È la melodia conficcata nella tua testa, la dolcezza della mousse al cioccolato, il dolore lancinante di un mal di denti, il feroce amore per tuo figlio e l’amara consapevolezza che alla fine tutti i sentimenti finiranno“.

E l’uomo non è solo coscienza. Per Jung, per fare solo un esempio, la psiche di ogni individuo è costituita dalla coscienza, dall’inconscio personale e da quello collettivo.

Considerare, come ha fatto Lemoine, le risposte di LaMDA come quelle di un essere indipendente, paragonabile ad un essere umano, dotato di coscienza, francamente pare fuori dalla realtà.

Resta il fatto che l’Intelligenza Artificiale è una delle nove “Tecnologie esponenziali” (insieme a Blockchain, Stampa 3D, Nanotecnologie, Robotica, Biotecnologie, Realtà Aumentata, Realtà Virtuale, Quantum Computing) tramite le quali l’Homo Sapiens sta entrando in un nuovo tempo evolutivo: l’Era Transomica, alla ricerca spasmodica di quella “Singolarità tecnologica” considerata, dai più, a ragione, come un punto di non ritorno nella storia dell’uomo, che non sarà più tale e verrà superato da altre forme di vita intelligenti più forti e quasi immortali, almeno così sperano “singolaristi” e “transumanisti”.

La domanda è: CUI PRODEST?

Ivan G. Solano

La domanda che si pone Ivan G. Solano, ingegnere informatico, a chiusura del suo scritto è: cui prodest?
Verrebbe da dire all’ uomo, ma la  domanda successiva potrebbe essere: a quale uomo?

Forse non ci sarà un homo technologicus semplicemente perché non c’è  ancora un homo sapiens. È poco “sapiens”, infatti, l’uomo che non ha alcuna cura del pianeta, la sua casa, che guerriglia come il più feroce dei suoi antenati e che non ha alcuna sincera predisposizione al bene comune.

Recentemente Elon Musk ha detto a Papa Francesco che la tecnologia salverà il mondo. Vero. L’I.A. in particolare può influenzare e modificare positivamente il contesto del nostro vivere. Grazie all’I.A. per esempio si dispone in medicina di mezzi diagnostici e di cura di notevole efficacia.
Il problema non è la macchina intelligente, che è e rimane macchina in quanto fatta dall’uomo e non è senziente, come afferma Solano, ma l’uomo, l’incognita di sempre.