Ripensare l’uso dei Big Data e il nostro approccio all’intelligenza artificiale, abbandonando qualsiasi atteggiamento fideistico per privilegiare un approccio critico e lo sviluppo di soluzioni tecnologiche più aderenti ai veri bisogni degli utenti. È la ricetta di Francesco Ricci, preside della Facoltà di Scienze e Tecnologie informatiche, e di Thomas Philipp Streifeneder, direttore dell’Istituto per lo sviluppo regionale dell’Eurac Research. Nella conversazione con Ricci e Streifeneder è emerso un chiaro suggerimento: dobbiamo imparare dagli scandali che, recentemente, hanno fatto tremare i colossi come Facebook, a comportarci in maniera più critica e consapevole. Ciò che ognuno di noi deve imparare è guardare alle nuove tecnologie non con sospetto, ma nella giusta prospettiva: come mezzi cioè che possono, se impiegati con consapevolezza, migliorare molti ambiti della nostra vita quotidiana, dal lavoro alla salute, dall’istruzione allo svago.

Iniziamo con una domanda provocatoria: Dobbiamo avere paura dell’Intelligenza Artificiale (IA)? Ci aspetta un futuro distopico in cui le macchine e i robot ci comanderanno?

Ricci: Credo sia un’ipotesi un po’ troppo fantascientifica e comunque dipende più da noi che dagli algoritmi dell’IA. È certo che oggi, diversamente dall’impostazione che vigeva trent’anni fa, la ricerca in IA - quella esemplificata dagli algoritmi incriminati di imprese come Facebook - è basata sull’assunto che i dati parlino da soli. Ma nei dati c’è un po’ di tutto: si possono trovare segnali di comportamenti corretti ed utili ma anche di quelli dannosi. Quindi realizzare un modello che ci aiuta a prendere decisioni estratto a partire da questi dati, che ti dice cosa fare e consumare, è molto difficile e pericoloso. Trent’anni fa l’IA estraeva le conoscenze delle macchine da esperti umani, oggi proviamo a farlo dalle tracce lasciate dalla folla: è decisamente più ambizioso.  

Qual è il punto di vista di un geografo, un esperto che, per il suo lavoro, ha bisogno di grandi quantità di dati?

Streifeneder: I dati vanno sempre presi con le pinze e valutati qualitativamente. Porto un esempio relativo ai dati statistici delle superfici con cui, ad esempio, costruiamo le mappe. Se non si sa come i dati sono stati definiti, l’immagine complessiva non è fedele alla realtà. In Austria, i contadini che comunicavano dati falsi sulla superficie, per accedere a sovvenzioni europee, sono stati sbugiardati da un esame reso possibile dai satelliti. Così l’UE ha scoperto la truffa.

Un tema molto importante è come consumiamo l’informazione, a causa della comparsa dei social network.

Streifeneder: Attualmente, non si sa come le informazioni sono state filtrate. Il medium ti costringe a un consumo dell’informazione passivo. Molto spesso si mette un like senza nemmeno prendersi il tempo di leggere e capire se l’articolo ha un fondamento di realtà o meno. 

Ricci: Oggigiorno l’ecosistema dell’informazione sta perdendo una chiara e riconoscibile “biodiversità” perché quasi non esiste un sito di informazione online che non sia personalizzato. È grave e le conseguenze possono essere pericolose anche perché ci disabituiamo a leggere le informazioni con spirito critico. Per questa ragione, non dovremmo sviluppare di sistemi di raccomandazione nell’abito dell’informazione con gli stessi criteri con cui si realizzano quelli dedicati all’acquisto di un’auto o di una vacanza. Sfortunatamente la logica è sempre la stessa, massimizzare l’adozione del suggerimento, il like dell’utente, la sua permanenza nel sito in questione.  

Senza fare l’apologia del passato, una volta il processo della selezione delle informazioni era forse più trasparente.

Ricci: È possibile che in futuro, torneremo a una selezione delle informazioni attraverso un editor che ha una linea politica chiara, o magari sarà lo stesso algoritmo ad essere trasparente ed in grado di argomentare le sue scelte. Potrebbe essere un servizio di nicchia e non è quello che vogliono fare i big come Google, che parlano a milioni di persone. Chi crea algoritmi per Facebook, ottimizza criteri dettati dal provider, e sostanzialmente cerca di tenere la persona engaged, il più attaccata possibile allo strumento. Ma l’obiettivo non deve essere quello e può essere diverso, non è più complicato, ma temo che debba cambiare il modello economico con cui si sostengono questi attori.

Ma in un’economia di mercato può il legislatore dettare l’obiettivo a un’azienda?

Ricci: No, certo che no. Però, come chi vende macchine si interessa all’inquinamento solo quando il consumatore si fa sentire e teme di vendere meno auto, allo stesso modo dovremo imporre di costruire sempre più strumenti che sono dalla “nostra parte”: applicazioni locali, ovvero che girano sui nostri device e sono sotto il nostro controllo, quindi, che abbiano accesso ai dati che vogliamo condividere e che possano aiutarci.

Streifeneder: Ci sarà forse una polarizzazione nella società, tra chi continua ad usare gli strumenti dei big player e chi si ritira e cerca altre soluzioni ma penso che i tecnici e i ricercatori possano aiutarci a trovare le soluzioni tecnologiche per farlo. Su questo terreno, non dobbiamo lasciare spazio a Google e co. che, com’è naturale, hanno altri obiettivi.

Gli studenti universitari come si comportano?

Ricci: Ho l’impressione che siano sempre meno critici, che accettino le informazioni e gli attuali sistemi senza metterli al vaglio del nostro pensiero critico. Barbara J. Grosz, docente ad Harvard, recentemente mi ha raccontato di aver assegnato come esercizio ai suoi studenti la progettazione di un recommender system. In molti casi mi diceva che gli studenti avevano creato delle soluzioni totalmente anti-etiche ma non se ne erano accorti perché non si erano nemmeno posti il problema. Dobbiamo cercare di sviluppare anche nei tecnici la capacità di analizzare l’impatto sociale di ciò che fanno, magari fornendo loro competenze di psicologia sociale e di etica; anche nelle Facoltà di Informatica.

Streifeneder: In questo senso più che regolamentare con nuove leggi, dobbiamo lavorare sul raggiungimento di una maggiore consapevolezza. Ciò che va potenziata è l’educazione all’utilizzo delle tecnologie unita alla capacità di critica. Le persone e i giovani devono imparare a mettere in discussione i contenuti dei mezzi di comunicazione.

Non tutte le tecnologie sono negative.

Ricci: Assolutamente. Pensiamo al Kindle. Adesso si possono fare note, sottolineature e un algoritmo potrebbe dirti “Guarda da un’altra parte, forse, ci potrebbe essere qualcosa che ti interessa in relazione a questo punto”.  C’è uno spazio enorme. Il fatto che noi ne vediamo gli aspetti negativi è perché molte imprese li usano esclusivamente per i loro scopi. Ma pensiamo solo agli ausili per persone disabili e a quanto possano amplificare le loro capacità cognitive, alcuni di questi sistemi sono realizzati con conoscenze di IA.

Streifeneder: È una grande sfida, anche perché i giovani che hanno maggiori energie ed entusiasmo si lasciano trasportare da queste possibilità inedite. Le funzioni del Kindle sono interessanti ma bisogna che tutti noi impariamo a discernere qual è il plusvalore di ogni cosa e quanto tempo dedicato a un’attività potrebbe essere speso ad esempio per leggere meno libri ma più a fondo. Dovremmo tornare ad apprezzare la Serendipity, possibilità di lasciarsi andare senza una meta precisa. Non c’è sempre bisogno di Google Map per muoverci nel mondo.

Alla fine, ciò che conta è ridare centralità al concetto di responsabilità individuale.

Streifeneder: Internet non può essere la soluzione di tutto perché non possiamo perdere certe capacità – es. di ricordare - immaginando che una macchina supplirà. Credo che bisognerà trovare un assestamento una capacità di convivere con le macchine. I robot potranno andare nei campi e parlare in dialetto sudtirolese coi contadini ma molte informazioni verranno comunque ricavate da un contatto umano. Dopo tutto, sono ottimista, ma ci vorrà tempo.

Ricci: Come esperti abbiamo una grande responsabilità e dobbiamo impegnarci molto affinché gli strumenti siano usati per potenziare le nostre capacità e magari per svilupparne di nuove. Ma decidere cosa è giusto o sbagliato, non ce lo può dire un sistema automatico. Deve essere l’uomo a capirlo. Citando ancora gli albori dell’IA, una volta si parlava di mixed initiative systema, il cui obiettivo era di fare in modo che le macchine aiutassero l’uomo a fare quelle operazioni che meglio potevano essere automatizzate, lasciando all’uomo la parte creativa o il giudizio. Ora le macchine sono sempre più capaci e riescono, entro certi limiti, ad essere perfino creative, componendo musica o inventando barzellette. Immagino che in futuro ci sarà una coevoluzione. Evolveremo usando determinati strumenti tecnologici e dovremmo sviluppare nuove capacità rispetto a quelle attuali. È la storia della nostra specie e non è detto che sia un male.

Intervista di Arturo Zilli e Sigrid Hechensteiner

http://www.academia.bz.it/