L’essere umano è l’apice della creazione perché, fatto a immagine di Dio, sa distinguere il bene e il male ed è libero di scegliere il suo agire. Questo lo differenzia non solo dagli animali, ma anche dalle macchine, le quali sono costrette nelle loro funzioni dentro a confini decisi dal loro creatore. Un mulino non potrà fare da ruota per un’auto e un cacciavite non potrà svitare una lampadina.

L’invenzione ottocentesca del linguaggio di programmazione, che altro non è se non uno strumento per dare istruzioni ad una macchina, ha aperto un cantiere immenso: una singola macchina può ora compiere azioni diverse senza cambiare le parti meccaniche, ma solo grazie a comandi diversi. L’evoluzione di questa storia vive nelle nostre case: i personal computer, poi gli smartphone e ora le intelligenze artificiali (AI) e il machine learning. Queste ultime due, forse per ora meno note, rappresentano il futuro della tecnologia e mirano sostanzialmente a diminuire la distanza tra uomo e macchina.

Che le macchine siano molto più efficienti dell’uomo in compiti specifici come calcoli, catene di montaggio e trasporti di oggetti pesanti non è un mistero. Un computer, anche datato, può fare più operazioni contemporanee (in parallelo) superando di gran lunga le capacità degli esseri umani. L’uomo, dal canto suo, riesce ad apprendere da solo nuove competenze e, all’occorrenza, inventarne ancora altre.

Il machine learning ha introdotto qualcosa di molto simile: imparando da decine di migliaia di soluzioni dello stesso problema, le AI sono in grado di riscrivere da sole intere parti di codice o di scriverne di nuove, per aggiornare o aggiungere capacità.

Questa rivoluzione, di fatto, stacca le macchine dall’eterno bisogno di una sorveglianza umana e le rende ancor più simili agli uomini: come un bambino all’inizio ha bisogno della madre per apprendere le basi della vita, così una AI necessita di un programmatore che le dia l’inizio, per poi continuare da sola ad imparare sempre cose nuove. La questione in gioco non è da poco. Se la differenza uomo-macchina venisse annullata, si dovrebbe ripensare completamente la Creazione, con un cambio sostanziale dell’uomo, che passerebbe da creatura a Creatore.

Questa differenza tende però solo asintoticamente ad annullarsi, senza sparire mai del tutto. Non corriamo il rischio di diventare creatori al pari di Dio. La coscienza resterà a baluardo dell’umanità come unicum nel creato, lasciando all’uomo il primato all’interno della creazione, ma anche tenendolo ben piantato a terra, totalmente altro dal Creatore.

Agli inizi degli anni Quaranta del secolo scorso Isaac Asimov ipotizzava le tre leggi della robotica, tre leggi a cui ogni macchina deve rispondere sempre e comunque, senza nessuna eccezione. Le tre leggi tengono i robot sotto il dominio umano, scasando ogni possibilità di ribellione da parte di questi.

La coscienza permette all’uomo di ravvedersi, di imparare dai propri errori, di aderire un po’ alla volta al volere divino. Una macchina, anche se sbaglia, non conosce il senso del peccato. Un’auto a guida automatica che provoca un incidente mortale non sa di aver sbagliato, a meno che non gli venga detto. Il primo caso di incidente causato da un’auto a guida automatica risale al 2016, in Florida. Per ora queste auto richiedono la vigilanza del pilota umano, che deve essere pronto ad intervenire prontamente in caso di necessità. Nel 2019 invece un’altra auto a guida autonoma, in Arizona, investe e uccide una ciclista. L’auto verrà scagionata perché la dinamica dell’incidente non avrebbe permesso nemmeno ad un autista umano di impedirlo.

Se venisse riconosciuto un caso di incidente in cui la colpa viene attribuita al software che gestisce la guida automatica, potremmo davvero dire che “è colpa dell’autopilota”? Riconoscere una colpa equivale a riconoscere una coscienza all’auto, la capacità di distinguere bene e male. Ma una macchina non sa di aver ucciso un uomo. Sa di non essere arrivata al traguardo, magari riconosce un corpo umano steso sull’asfalto. Ma il senso del peccato, la consapevolezza di aver fatto una cosa sbagliata, in altre parole la coscienza, è un dono che l’uomo ha ricevuto ed è qualcosa di difficilmente replicabile.

Giovanni ZAGO, insegnante di religione