di Andrea Volpe
Quando all’inizio degli anni 2000 ebbi per la prima volta la possibilità di utilizzare alla guida della mia vettura un navigatore satellitare, pure in una versione ancora basilare che si limitava a indicare con una freccia la direzione da seguire e a parlare con voce metallica, mi sembrò una magia.
Il gioco era allora sfidare la tecnologia, contestarla e trovare una strada alternativa che risultasse più veloce. A distanza di anni e con navigatori certamente più potenti e precisi, oltre che estremamente più economici, non posso negare che oggi sono diventato obbediente alla tecnologia e mi limito a impostare la destinazione e poi seguire pedissequamente le istruzioni.
Mi rimane il gusto di inveire contro lo strumento quando mi ritrovo in qualche via sperduta o bloccato nel traffico, dandogli la colpa e convincendomi che con la mia conoscenza del territorio e il mio senso dell’orientamento forse avrei fatto meglio…magra consolazione!
La verità è che con il tempo ho riposto totale ed eccessiva fiducia nella macchina fino al punto di spegnere la mia capacità critica nella scelta della strada da seguire. È l’Automation Bias (o pregiudizio dell’automazione), un meccanismo cognitivo quantomai attuale per cui le persone tendono a dare un’eccessiva fiducia alle decisioni, ai suggerimenti o alle raccomandazioni fornite da sistemi automatizzati, anche di fronte al rischio che queste possano essere errate o incomplete.
Finché si tratta della scelta della strada migliore il rischio è tutto sommato contenuto, ma l’automation bias può portare ad errori critici ad esempio in contesti come la sanità (diagnosi errate basate su sistemi automatizzati), la giustizia (valutazioni e giudizi scorretti), ma anche nella guida autonoma o nel trading.
I medesimi rischi sono ravvisabili nel business (interpretazione di dati, decisioni strategiche o gestionali, scelte manageriali, selezione di candidati, valutazione di performance, …), dove l’errore umano alimentato da una fiducia eccessiva nei sistemi automatici può avere conseguenze gravi e irreversibili. È fondamentale mantenere in tutti questi casi un equilibrio tra automazione e intervento umano, garantendo che la tecnologia sia uno strumento di supporto e non un sostituto della riflessione critica e della responsabilità umana.
All’origine del bias vi è l’eccessiva fiducia che un sistema automatizzato sia più preciso e affidabile rispetto all’essere umano, ma anche una evidente sottostima della capacità umana e conseguentemente riduzione o sospensione del controllo: ci si affida all’automazione riducendo il proprio livello di supervisione e di pensiero critico, accettando i risultati forniti senza verificare attentamente la correttezza delle informazioni.
La benevolenza con cui come società tendiamo a guardare alla tecnologia (spesso anche attraverso forme di antropomorfismo che la rendono apparentemente amica) e la tendenza a delegare a quest’ultima le nostre decisioni più complesse e motivo di stress, può alimentare l’automation bias, anche su aspetti quali le scelte di consumo e, certamente più delicato, la costruzione di opinioni politiche. Emerge un serio rischio di manipolazione, ad opera della tecnologia, ma in realtà di chi la tecnologia la progetta, costruisce e addestra.
Sarebbe infatti sbagliato, come puntualizza Federico Cabitza, considerare la cosiddetta “algo-crazia” una dittatura degli algoritmi, mentre essa sarebbe piuttosto una forma di potere esercitato mediante gli algoritmi e quindi una dittatura “con” gli algoritmi e non “degli” algoritmi. L’etica e quindi la responsabilità è e deve rimanere nelle persone che commissionano e creano gli algoritmi, non negli algoritmi stessi che sono un sistema deterministico ed eseguono ciò per cui sono stati creati (principio della etica in design).
L’AI è ispirata dalle persone e creata dalle persone e soprattutto ha ripercussioni sulle persone, è pertanto uno strumento che richiede responsabilità. Fei-Fei Li
Dobbiamo quindi guardarci dalla tendenza a proiettare identità e soggettività sulle macchine e a riconoscere agenzialità (ovvero capacità di agire con intenzione e motivazione) in qualità di attori sociali a computer, applicazioni e software. Si tratta di una tendenza umana comune ad altre epoche, quando ad esempio i nostri antenati vedevano il fuoco come una divinità ed un soggetto animato. Il filosofo Luciano Floridi teme che gli esseri umani possano diventare via via e in modo inconsapevole parte di un meccanismo che egli definisce infosfera, dove non solo vi è una separazione tra agere (agire) e intelligere (comprendere) ma addirittura un’inversione della relazione che finisce per mettere l’intelligenza al servizio e non a guida dell’agere. Già Umberto Galimberti, usando il termine téchne (τέχνη) esprimeva l’idea della tecnica come forza dominante che guida la civiltà, non più subordinata all’etica o alla filosofia, segnando la supremazia del “come fare” sul “perché fare”.
In sintesi informatici e filosofi concordano sull’importanza di mantenere spirito critico, dubbio, supervisione per poter utilizzare e sfruttare a pieno le potenzialità della tecnologia ed in particolare dell’Intelligenza Artificiale, riconoscendone gli innumerevoli pregi quando applicata a obiettivi di natura ri-produttiva, ma altrettanto inadeguata nel operare su obiettivi generativi che sono e devono rimanere dominio dell’essere umano.
Se il muscolo non utilizzato si atrofizza, accanto alle competenze tecniche e alla conoscenza del funzionamento e delle opportunità della AI, dobbiamo continuare ad allenare le capacità distintive ed uniche dell’essere umano, costruendo una relazione virtuosa con la macchina che favorisca una interazione produttiva, etica e portatrice di valore.
Una possibile agenda orientativa e non esaustiva, per lo sviluppo delle capacità umane per un uso efficace dell’AI, vede a mio avviso ad esempio: comunicazione efficace con AI e attraverso AI, problem setting e problem solving (dalla definizione di obiettivi e contesto, alla valutazione critica dei risultati, alla eliminazione di errori, bias, o informazioni fuorvianti), creatività, curiosità Intellettuale e l’apertura all’innovazione, capacità decisionale e assunzione di responsabilità, presidio della dimensione etica, empatia e intelligenza emotiva.
Ti suggerisco, per avviare o proseguire un cammino critico e responsabile di conoscenza delle potenzialità dell’AI, la lettura del volume, edito da Bompiani: Intelligenza Artificiale di L. Floridi e F. Cabitza che riprendendo l’invito del Cardinale Carlo Maria Martini, si interrogano da prospettive professionali e competenze differenti sulle implicazioni filosofiche, etiche e tecniche dell’intelligenza artificiale.
#automationbias #etica #generativeAi #ai #critica #algocrazia #responsabilita #agenzialita
Vuoi creare le condizioni per accompagnare le persone verso un utilizzo sostenibile e produttivo della AI nella tua azienda? Contattaci, possiamo fare qualcosa per te!