6 grandi domande etiche sul futuro dell’intelligenza artificiale | TED

L’intelligenza artificiale è intorno a noi… e il futuro ne porterà solo di più. Come possiamo garantire che i sistemi di IA che costruiamo siano responsabili, sicuri e sostenibili? L’esperta di IA etica Genevieve Bell condivide sei domande per ampliare la nostra comprensione della tecnologia futura – e creare la prossima generazione di pensatori e operatori critici.

**************

Lasciate che vi racconti una storia sull’intelligenza artificiale. C’è un edificio a Sydney al numero 1 di Bligh Street. Ospita molti appartamenti governativi e persone indaffarate. Dall’esterno, sembra qualcosa uscito dalla fantascienza americana: tutto vetro scintillante e linee curve, e un pezzo di scultura arancione. All’interno, ha un ottimo caffè al piano terra e i miei ascensori preferiti di Sydney. Sono bellissimi, sembrano quasi vivi. E si scopre che sono affascinato dagli ascensori. Per molte ragioni. Ma perché gli ascensori sono uno dei posti in cui si può vedere il futuro.

Nel 21° secolo, gli ascensori sono interessanti perché sono uno dei primi posti in cui l’IA ti tocca senza che tu te ne accorga. In molti edifici di tutto il mondo, gli ascensori eseguono una serie di algoritmi. Una forma di intelligenza protoartificiale. Ciò significa che prima ancora che tu ti avvicini all’ascensore per premere il pulsante, ti ha già anticipato. Sta già riorganizzando tutte le carrozze. Sempre in discesa, per risparmiare energia e per sapere dove ci sarà il traffico. Nel momento in cui hai effettivamente premuto il pulsante, sei già parte di un intero sistema che sta dando un senso alle persone, all’ambiente, all’edificio e al mondo costruito.

So che quando si parla di IA, si parla spesso di un mondo di robot. È facile per la nostra immaginazione essere occupati dalla fantascienza, beh, negli ultimi 100 anni. Dico AI e si pensa a “The Terminator”. Da qualche parte, per noi, fare la connessione tra l’IA e il mondo costruito, è una storia più difficile da raccontare. Ma la realtà è che l’IA è già ovunque intorno a noi. E in molti luoghi. È negli edifici e nei sistemi. Più di 200 anni di industrializzazione suggeriscono che l’IA troverà la sua strada a livello di sistemi relativamente facilmente. Dopo tutto, un racconto di quella storia suggerisce che tutto quello che devi fare è trovare una tecnologia, raggiungere l’economia di scala e la rivoluzione seguirà.

La storia della meccanizzazione, dell’automazione e della digitalizzazione indicano tutte il ruolo della tecnologia e la sua importanza. Queste storie di trasformazione tecnologica fanno sembrare la scala, beh, normale. O attesa. E stabile. E a volte anche prevedibile. Ma mettono anche l’accento sulla tecnologia e sul cambiamento tecnologico. Ma io credo che scalare una tecnologia e costruire un sistema richieda qualcosa di più.

Abbiamo fondato il 3Ai Institute all’Australian National University nel settembre 2017. Ha una missione ingannevolmente semplice: stabilire un nuovo ramo dell’ingegneria per portare l’IA in modo sicuro, sostenibile e responsabile su scala. Ma come si fa a costruire un nuovo ramo dell’ingegneria nel 21° secolo? Beh, lo stiamo insegnando ad esistere attraverso un programma educativo sperimentale. La stiamo ricercando con luoghi diversi come il luogo di nascita di Shakespeare, la Grande Barriera Corallina, per non parlare di una delle più grandi miniere autonome dell’Australia. E stiamo teorizzando l’esistenza, prestando attenzione alle complessità dei sistemi cibernetici. Stiamo lavorando per costruire qualcosa di nuovo e di utile. Qualcosa che crei la prossima generazione di pensatori e operatori critici. E stiamo facendo tutto questo attraverso una comprensione più ricca dei molti passati e delle molte storie dell’IA. E lavorando in modo collaborativo e collettivo attraverso l’insegnamento, la ricerca e l’impegno, e concentrandoci tanto sull’inquadramento delle domande quanto sulla soluzione dei problemi.

Non stiamo creando una singola IA, stiamo creando le possibilità per molti. E stiamo lavorando attivamente per decolonizzare il nostro immaginario e per costruire un curriculum e una pedagogia che lasci spazio a una serie di conversazioni e possibilità diverse. Stiamo facendo e rifacendo. E so che siamo sempre un lavoro in corso. Ma ecco un piccolo assaggio di come ci stiamo avvicinando al problema di scalare un futuro.

Cominciamo assicurandoci di essere radicati nella nostra storia. Nel dicembre del 2018, mi sono portato nella città di Brewarrina, al confine tra il New South Wales e il Queensland. Questo posto era un luogo di incontro per gli aborigeni, per diversi gruppi, per riunirsi, fare cerimonie, incontrarsi, stare insieme. Lì, sul fiume Barwon, c’è una serie di dighe per il pesce che sono uno dei più antichi e più grandi sistemi di trappole per il pesce aborigene in Australia. Questo sistema è composto da 1,8 chilometri di muri di pietra a forma di una serie di reti da pesca con gli “Us” che puntano verso il fiume, permettendo ai pesci di essere intrappolati a diverse altezze dell’acqua. Sono anche recinti per la conservazione del pesce con pareti di diversa altezza per lo stoccaggio, progettati per cambiare il modo in cui l’acqua si muove e per essere in grado di immagazzinare pesci grandi e piccoli e per mantenere quei pesci in acqua corrente fresca e chiara. Questo sistema di trappole per pesci era un modo per assicurare che si potesse nutrire la gente che si riuniva in un luogo che era sia un incontro di fiumi che un incontro di culture.

Non si tratta delle rocce e nemmeno delle trappole in sé. Si tratta del sistema che quelle trappole hanno creato. Un sistema che coinvolge conoscenze tecniche, conoscenze culturali e conoscenze ecologiche. Questo sistema è antico. Alcuni archeologi pensano che sia vecchio come 40.000 anni. L’ultima volta che abbiamo i suoi usi registrati è negli anni ’90. Ha avuto una longevità notevole e una scala incredibile. Ed è un’ispirazione per me. E una foto della diga è sulle nostre pareti qui all’Istituto, per ricordarci la promessa e la sfida di costruire qualcosa di significativo. E per ricordarci che stiamo costruendo sistemi in un luogo dove le persone hanno costruito sistemi e sostenuto quegli stessi sistemi per generazioni.

Non è solo la nostra storia, è la nostra eredità mentre cerchiamo di stabilire un nuovo ramo dell’ingegneria. Per costruire su quell’eredità e sul nostro senso di scopo, penso che abbiamo bisogno di un quadro chiaro per porre domande sul futuro. Domande per le quali non ci sono risposte pronte o facili. Qui, il punto è il porre le domande. Crediamo che si debba andare oltre l’approccio tradizionale di problem-solving, per passare a quello più complicato di porre domande e inquadrare le domande. Perché così facendo, si aprono tutti i tipi di nuove possibilità e nuove sfide.

Per me, in questo momento, ci sono sei grandi domande che inquadrano il nostro approccio per portare l’IA in modo sicuro, sostenibile e responsabile. Domande su autonomia, agenzia, garanzia, indicatori, interfacce e intenzionalità.

La prima domanda che facciamo è semplice. Il sistema è autonomo? Ripensate all’ascensore di Bligh Street. La realtà è che un giorno quell’ascensore potrebbe essere autonomo. Vale a dire che sarà in grado di agire senza che gli venga detto di farlo. Ma non è completamente autonomo, giusto? Non può lasciare l’edificio di Bligh Street e andare a Circular Quay per una birra. Va su e giù, tutto qui. Ma lo fa da solo. In questo senso è autonomo.

La seconda domanda che ci poniamo è: questo sistema ha un’agenzia? Questo sistema ha controlli e limiti che vivono da qualche parte che gli impediscono di fare certi tipi di cose in certe condizioni. La realtà con gli ascensori, questo è assolutamente il caso. Pensate a qualsiasi ascensore in cui siete stati. C’è una fessura rossa nella cabina dell’ascensore in cui una persona dei servizi di emergenza può infilare una chiave e annullare l’intero sistema. Ma cosa succede quando quel sistema è guidato dall’intelligenza artificiale? Dove vive la chiave? È una chiave fisica o digitale? Chi può usarla? Sono le persone dei servizi di emergenza? E come fareste a sapere se ciò sta accadendo? Come si manifesterebbe tutto questo nell’ascensore?

La terza domanda che ci poniamo è come pensiamo alla sicurezza. Come pensiamo a tutte le sue parti: sicurezza, protezione, fiducia, rischio, responsabilità, gestibilità, spiegabilità, etica, politica pubblica, legge, regolamentazione? E come diremmo che il sistema è sicuro e funzionante?

La quarta domanda che ci poniamo è quali sarebbero le nostre interfacce con questi sistemi guidati dall’IA. Parleremo con loro? Loro parleranno con noi, parleranno tra loro? E cosa significherà avere una serie di tecnologie che abbiamo conosciuto, per alcuni di noi, per tutta la vita, ora improvvisamente si comportano in modi completamente diversi? Ascensori, automobili, la rete elettrica, i semafori, le cose in casa tua.

La quinta domanda per questi sistemi guidati dall’IA: Quali saranno gli indicatori per mostrare che stanno lavorando bene? Duecento anni di rivoluzione industriale ci dicono che i due modi più importanti per pensare a un buon sistema sono la produttività e l’efficienza. Nel 21° secolo, si potrebbe voler espandere un po’ questo concetto. Il sistema è sostenibile, è sicuro, è responsabile? Chi giudica queste cose per noi? Gli utenti dei sistemi vorrebbero capire come queste cose sono regolate, gestite e costruite.

E poi c’è la domanda finale, forse la più critica, che bisogna fare a questi nuovi sistemi di IA. Qual è il suo intento? Cosa è stato progettato per fare il sistema e chi ha detto che era una buona idea? O detto in un altro modo, qual è il mondo che questo sistema sta costruendo, come viene immaginato quel mondo, e qual è la sua relazione con il mondo in cui viviamo oggi? Chi può far parte di questa conversazione? Chi può articolarla? Come viene inquadrato e immaginato?

Non ci sono risposte semplici a queste domande. Invece, inquadrano ciò che è possibile e ciò che dobbiamo immaginare, progettare, costruire, regolamentare e anche smantellare. Ci indicano le direzioni giuste e ci aiutano a stabilire un nuovo ramo dell’ingegneria. Ma le domande critiche non sono sufficienti. Hai anche bisogno di un modo per tenere insieme tutte queste domande.

Per noi all’Istituto, siamo anche molto interessati a come pensare all’IA come un sistema, e dove e come disegnare i confini di quel sistema. E queste sembrano cose particolarmente importanti in questo momento. Qui, siamo influenzati dal lavoro iniziato negli anni ’40. Nel 1944, insieme agli antropologi Gregory Bateson e Margaret Mead, il matematico Norbert Wiener convocò una serie di conversazioni che sarebbero diventate note come le Macy Conferences on Cybernetics. Alla fine, tra il 1946 e il 1953, si tennero dieci conferenze sotto la bandiera della cibernetica. Come definito da Norbert Wiener, la cibernetica ha cercato di “sviluppare un linguaggio e delle tecniche che ci permetteranno di attaccare davvero il problema del controllo e della comunicazione nelle tecnologie informatiche avanzate”. La cibernetica sosteneva in modo persuasivo che si doveva pensare alla relazione tra esseri umani, computer e il più ampio mondo ecologico. Bisognava pensare a loro come un sistema olistico. I partecipanti alle Macy Conferences erano interessati al funzionamento della mente, alle idee sull’intelligenza e l’apprendimento, e al ruolo della tecnologia nel nostro futuro.

Purtroppo, le conversazioni iniziate con la Macy Conference sono spesso dimenticate quando si parla di AI. Ma per me, c’è qualcosa di veramente importante da rivendicare qui sull’idea di un sistema che deve accogliere la cultura, la tecnologia e l’ambiente. All’Istituto, questa sorta di pensiero sistemico è al centro del nostro lavoro.

Negli ultimi tre anni, tutta una serie di persone straordinarie si sono unite a me in questo pazzo viaggio per fare questo lavoro. Il nostro staff include antropologi, ingegneri ambientali e dei sistemi, e scienziati informatici, così come un fisico nucleare, un premiato giornalista fotografico, e almeno un esperto di politiche e standard. È un mix inebriante. E la gamma di esperienze e competenze è potente, così come i conflitti e le sfide. Essere diversi richiede una costante volontà di trovare modi per tenere le persone in conversazione. E di soffermarsi solo un po’ sul conflitto.

Abbiamo anche capito presto che il modo di costruire un nuovo modo di fare le cose avrebbe richiesto un impegno a portare gli altri lungo lo stesso viaggio con noi. Così abbiamo aperto le nostre porte a un programma di formazione molto rapidamente, e abbiamo lanciato il nostro primo programma di master nel 2018. Da allora, abbiamo avuto due coorti di studenti di master e una coorte di studenti di dottorato. I nostri studenti vengono da tutto il mondo e da tutta la vita. Australia, Nuova Zelanda, Nigeria, Nepal, Messico, India, Stati Uniti. E la loro età varia dai 23 ai 60 anni. Hanno diversi background in matematica e musica, politica e performance, sistemi e standard, architettura e arte. Prima di unirsi a noi all’Istituto, hanno diretto aziende, hanno lavorato per il governo, hanno servito nell’esercito, insegnato al liceo e gestito organizzazioni artistiche. Erano avventurieri e impegnati l’uno con l’altro, e a costruire qualcosa di nuovo. E davvero, cosa si può chiedere di più?

Perché anche se ho passato 20 anni nella Silicon Valley e conosco le storie dell’inventore solitario e del viaggio dell’eroe, conosco anche la realtà. Che non è mai solo un viaggio dell’eroe. È sempre un insieme di persone che hanno un senso condiviso di scopo che può cambiare il mondo. Quindi da dove si comincia?

Beh, penso che si cominci dal punto in cui ci si trova. E per me, questo significa che voglio riconoscere i proprietari tradizionali della terra su cui mi trovo. Il popolo Ngunnawal e Ngambri, questa è la loro terra, mai ceduta, sempre sacra. E porgo i miei rispetti agli anziani, passati e presenti, di questo luogo. Riconosco anche che ci stiamo riunendo oggi in molti altri luoghi, e porgo i miei rispetti ai proprietari tradizionali e agli anziani di tutti questi luoghi.

Significa molto per me poter dire queste parole e soffermarmi su ciò che significano e segnalano. E ricordare che viviamo in un paese che è stato continuamente occupato per almeno 60.000 anni. Gli aborigeni hanno costruito mondi qui, hanno costruito sistemi sociali, hanno costruito tecnologie. Hanno costruito modi per gestire questo posto e per gestirlo in modo notevole per un lungo periodo di tempo. E ogni volta che qualcuno di noi sale su un palco come australiani, qui o all’estero, portiamo con noi un privilegio e una responsabilità a causa di quella storia. E non è solo una storia. È anche un insieme incredibilmente ricco di risorse, visioni del mondo e conoscenze. E dovrebbe attraversare tutte le nostre ossa e dovrebbe essere la storia che raccontiamo sempre.

In definitiva, si tratta di pensare in modo diverso, fare diversi tipi di domande, guardare olisticamente il mondo e i sistemi, e trovare altre persone che vogliono essere in quel viaggio con te. Perché per me, l’unico modo per pensare effettivamente al futuro e alla scala è di farlo sempre collettivamente. E perché per me, la nozione di esseri umani che ci sono dentro insieme è uno dei modi per pensare a cose che sono responsabili, sicure e, in definitiva, sostenibili.