A valle di commenti più o meno consapevoli sulla notizia di una Intelligenza Artificiale “cosciente”, la cui rivelazione sarebbe costata il posto ad un ricercatore di Google, a capo di questo progetto, denominato Lamda, trovo utile e fertile, per la riflessione, questo lungo articolo di Andrew Keane Woods, Professore di diritto all’Università dell’Arizona, che ha un titolo che è tutto un programma: “Robofobia”.

Punto di partenza, di questa corposa disamina, è un assioma quanto mai veritiero, ovvero che ad oggi, troppo spesso ci occupiamo dei pregiudizi che le macchine possono avere verso gli esseri umani e molto meno del contrario, ovvero dei pregiudizi che noi umani abbiamo verso le cosiddette macchine artificiali, non in senso deontologico, quanto nel senso più pratico del termine, in quanto, come il Professore afferma: «.. di solito preferiamo esseri umani con prestazioni peggiori rispetto a robot con prestazioni migliori.»

Proprio questo è quello che l’autore chiama “robofobia”, ovvero poniamo richieste irragionevoli al robot o al sistema decisionale, creando una sorta di diffidenza verso le decisioni algoritmiche, rispetto a quelle umane, sebbene talora più fallaci. Lo si riscontra in ambito sanitario, dove spesso si preferisce un consulto esclusivamente umano, piuttosto che coadiuvato da strumenti di IA, o in ambiti aziendali ove normative sempre più stringenti “chiudono” all’utilizzo di “macchine.

Secondo Woods, viviamo in una perpetua e continua lotta tra l’accoglimento delle nuove tecnologie, e la costruzione di barriere per limitarle o abbatterle (n.d.r. non solo in riferimento all’IA).

Woods non vuole fare una crociata a favore dei cosiddetti robot, ma suggerisce un approccio più equilibrato e cauto, che sappia “valorizzare” le molteplici attitudini della tecnologia e che aiuti a comprendere come le “macchine” svolgano alcuni compiti, soprattutto quelli ripetitivi e “meccanici”, molto meglio della controparte umana.

Nella seconda parte, Woods elenca i 4 tipi di robofobia: essi si distinguono, anzitutto in due macrocategorie, i pregiudizi antirobot in generale e quelli invece codificati in leggi e regolamenti. Per l’autore tutto si riduce a un problema fondamentale: «- uso improprio umano di attori non umani –», che si presenta sotto varie forme.

Da sempre la letteratura ci ha mostrato i robot come creature create dall’uomo che finiscono per ribellarsi al loro creatore e distruggerlo, e proprio in virtù di questo mito che è nato, quello che Woods definisce il complesso di Frankenstein, che incarna la «paura che l’uomo si introduca, attraverso la tecnologia, nel regno di Dio e non sia in grado di controllare le proprie creazioni.»

Anche nel mainstream, la robofobia non fa altro che fortificare e rafforzare il senso di incertezza e “non sicurezza” del futuro tecnologico rispetto allo stato attuale, creando quindi un pregiudizio al contrario.

Ma il problema è un altro: «un cattivo algoritmo moltiplicato su milioni di decisioni farà più danni di un singolo cattivo decisore umano. Chiaramente, in entrambi gli scenari, dobbiamo valutare attentamente i rischi prima che queste macchine siano destinate all’uso previsto.»

In tutti i casi che questo bel paper riporta, appare evidente come gli standard che vengono richiesti ai cosiddetti robot, siano molto più elevati rispetto a quelli che si richiederebbero ad un essere umano nelle medesime condizioni, addirittura rasentano la richiesta di perfezione. E anche a livello di fiducia, si tende a credere alla performance della macchina fino a che non sbaglia, per essere poi pronti a togliergli quella stessa fiducia, in maniera più forte e molto più duramente rispetto ad un errore commesso da un uomo alle stesse condizioni.

La terza parte, spiega il perché della robofobia, che potremmo sintetizzare nei punti seguenti:

• Paura dell’ignoto
• Paura per la mancanza di trasparenza delle decisioni algoritmiche
• Perdita di controllo (qui mi sento di suggerire di andarsi a rivedere War Games, il film del 1983)
• Ansia per il lavoro
• Disgusto
• Azzardo sulla decisione «Ciò si riferisce all’idea di “negligenza dell’unicità”, la paura che l’intelligenza artificiale non spieghi adeguatamente l’unicità di ogni individuo.»
• Eccessiva fiducia nelle decisioni umane.

Nella quarta parte, l’autore dà una equilibrata panoramica dei giustificati motivi di questo fenomeno della robofobia:

• Preoccupazioni per l’uguaglianza.
• L’economia politica dei robot, per la quale lo sviluppo di un algoritmo in mano alle cosiddette Big tech potrebbe far derivare la seguente fenomenologia: «l’uso diffuso potrebbe dare al proprietario dell’algoritmo troppa potenza con poca responsabilità.»
• Bias pro-macchina, o pregiudizio di automazione, per cui anche i giudici tendono a ritenere più validi dei risultati algoritmici rispetto a quelli umani, per una preconcetta idea che i sistemi di IA siano

Nella quinta parte, Woods conclude con questa affermazione: «Dovremmo valutare le loro prestazioni in modo comparativo, di solito confrontando i robot con il decisore umano che sostituirebbero, e dovremmo preoccuparci dei tassi di miglioramento.»

La conclusione di questo bellissimo viaggio compiuto da Woods, non vuole indicarci una destinazione, vuole solo farci orientare sempre meglio, in un futuro in cui la convivenza uomo-macchina sarà sempre più presente, e in cui l’abbattimento dei pregiudizi dovrà passare da un reset completo e totale, che consenta a coloro che ideano e sviluppano la tecnologia, di permetterle di apprendere sempre di più, per migliorarne le prestazioni, ma anche di valutare sempre, con la maggiore obiettività possibile, i vantaggi sia dell’uomo, sia della macchina e soprattutto del connubio uomo-macchina.

 

Raffaella AGHEMO, avvocato