Il difficile problema della coscienza, come si chiede il filosofo David Chalmers: perché dobbiamo essere coscienti? Dato che il cervello è un motore di elaborazione delle informazioni, perché ha bisogno di sentirsi come se fossimo noi? Il problema della coscienza dell’IA è altrettanto complicato. Sappiamo che gli esseri umani sono coscienti, ma quando si tratta di IA, la domanda è: le IA che noi umani sviluppiamo possono essere esseri coscienti? Potrebbe essere qualcosa come assomigliarci? E come potremmo saperlo con certezza, a meno che non ce lo dicano loro? Come potrebbe la superintelligenza rendere estinta la coscienza? In 6 capitoli di questo video, la filosofa e scienziata cognitiva Susan Schneider esplora i problemi filosofici che sono alla base dello sviluppo dell’IA e della natura delle menti coscienti.
Susan Schneider ha la cattedra NASA/Baruch Blumberg della Library of Congress e della NASA, nonché è direttrice del gruppo AI, Mind and Society dell’Università del Connecticut. Il suo lavoro è stato pubblicato dal New York Times, Scientific American, Smithsonian, Fox TV, History Channel, e altro ancora. Il suo progetto biennale della NASA ha esplorato l’IA superintelligente. In precedenza, era all’Institute for Advanced Study di Princeton per la creazione di test per la coscienza dell’IA. I suoi libri includono The Language of Thought, The Blackwell Companion to Consciousness e Science Fiction and Philosophy.
Capitolo 1: Il difficile problema della coscienza
La coscienza è la qualità dell’esperienza. Così, quando si vedono le ricche tonalità di un tramonto, o si sente l’aroma del caffè del mattino, si ha un’esperienza consapevole. Ogni volta che sei sveglio e anche quando stai sognando, sei cosciente. Così la coscienza è l’aspetto più immediato della vostra vita mentale. E’ ciò che rende la vita meravigliosa a volte, ed è anche ciò che rende la vita così difficile e dolorosa in altri momenti. Nessuno capisce appieno perché siamo coscienti. Nelle neuroscienze, c’è molto disaccordo sull’effettiva base neurale della coscienza nel cervello. In filosofia, c’è qualcosa chiamato il difficile problema della coscienza, che è dovuto al filosofo David Chalmers. Il difficile problema della coscienza si chiede: perché dobbiamo essere coscienti? Dato che il cervello è un motore di elaborazione delle informazioni, perché ha bisogno di sentirsi come se fossimo noi dall’interno?
Capitolo 2: Siamo pronti per macchine con emozioni?
Il difficile problema della coscienza è in realtà qualcosa che non è direttamente il problema a cui vogliamo arrivare quando ci chiediamo se le macchine sono coscienti. Il problema della coscienza dell’intelligenza artificiale si pone semplicemente; potrebbero essere esseri coscienti le IA che un giorno noi umani sviluppiamo o addirittura le IA che possiamo immaginare nell’occhio della nostra mente attraverso esperimenti di pensiero, potrebbero essere esseri coscienti? Potrebbe essere qualcosa come assomigliarci? Il problema della coscienza dell’IA è diverso dal difficile problema della coscienza. Nel caso del difficile problema, è un dato di fatto che siamo esseri coscienti. Partiamo dal presupposto che siamo coscienti, e ci chiediamo, perché deve essere questo il caso? Il problema della coscienza dell’IA, al contrario, si chiede se le macchine potrebbero essere coscienti. Allora perché dovremmo preoccuparci se l’intelligenza artificiale è cosciente? Beh, visti i rapidi sviluppi dell’intelligenza artificiale, non sarebbe sorprendente se entro i prossimi 30-80 anni iniziassimo a sviluppare intelligenze generali molto sofisticate. Potrebbero non essere esattamente come gli esseri umani. Potrebbero non essere così intelligenti come noi. Ma possono essere esseri senzienti. Se sono esseri coscienti, abbiamo bisogno di modi per determinare se è questo il caso. Sarebbe terribile se, per esempio, li mandassimo a combattere le nostre guerre, li costringessimo a pulire le nostre case, li rendessimo essenzialmente una classe di schiavi. Noi non vogliamo fare questo errore. Vogliamo essere sensibili a questi problemi. Quindi dobbiamo sviluppare modi per determinare se l’intelligenza artificiale è cosciente o meno. E ‘anche estremamente importante perché, mentre cerchiamo di sviluppare intelligenze generali, vogliamo capire l’impatto complessivo che la coscienza ha su un sistema intelligente. La scintilla della coscienza, ad esempio, renderebbe una macchina più sicura e più empatica? O sarebbe aggiungere qualcosa come la volatilità? Saremmo, in effetti, creando adolescenti emotivi che non sono in grado di gestire i compiti che diamo loro? Quindi, per poter capire se le macchine sono coscienti, dobbiamo essere pronti e concepire test per macchine coscienti.
Capitolo 3: Giocare con Dio: le macchine create sono tutte uguali?
Nel mio libro, parlo della possibilità di ingegneria della coscienza. Quindi supponiamo di trovare il modo di concepire la coscienza nelle macchine. Può essere il caso che vogliamo deliberatamente assicurarci che certe macchine non siano coscienti. Quindi, per esempio, prendiamo in considerazione una macchina che inviamo per smantellare un reattore nucleare. Quindi, in sostanza, è molto probabile che lo stiamo mandando alla sua morte. O una macchina che manderemmo in una zona di guerra. Vorremmo davvero inviare macchine coscienti in quelle circostanze? Sarebbe etico? Si potrebbe dire, beh, forse possiamo modificare le loro menti in modo che si divertano o che non si lascino prendere dal sacrificio. Ma questo approfondisce alcune questioni ingegneristiche di natura etica che risalgono al Nuovo Mondo, per esempio, situazioni in cui gli esseri umani sono stati geneticamente modificati e hanno preso un farmaco chiamato soma, in modo che vogliano vivere le vite che gli sono state date. Dobbiamo quindi pensare davvero all’approccio giusto. Quindi potrebbe essere il caso di progettare deliberatamente macchine per certi compiti che non siano coscienti. D’altra parte, se fossimo effettivamente in grado di rendere alcune macchine coscienti, potrebbe essere che gli esseri umani vogliano compagni di IA coscienti. Quindi, per esempio, supponiamo che gli umani vogliano androidi per la cura degli anziani, come è attualmente in fase di sviluppo in Giappone. E mentre si sta guardando il negozio di androidi, si sta pensando al tipo di androide che si desidera che si prenda cura di tua nonna anziana, si decide che si desidera un essere senziente che vorrebbe bene a tua nonna. Ti senti come se fosse il modo migliore per farle giustizia. E, in altri casi, forse gli esseri umani vogliono davvero avere rapporti con le IA. Quindi potrebbe esserci una richiesta di compagni di IA coscienti.
Capitolo 4: Superintelligenza rispetto alla sensibilità
In Artificial You, in realtà offro un approccio “aspetta e vedi” alla coscienza delle macchine. Vi esorto a non sapere abbastanza al momento sui substrati che potrebbero essere utilizzati per costruire microchip. Non sappiamo nemmeno cosa sarebbero i microchip che vengono utilizzati in 30-50 anni o addirittura 10 anni. Quindi non sappiamo abbastanza sul substrato. Non sappiamo abbastanza sull’architettura di queste intelligenze generali artificiali che potrebbero essere costruite. Dobbiamo indagare tutte queste strade prima di concludere che la coscienza è un sottoprodotto inevitabile di qualsiasi sofisticata intelligenza artificiale che progettiamo. Inoltre, una preoccupazione che ho è che la coscienza potrebbe essere superata da un’intelligenza artificiale sofisticata. Quindi, considerate un’IA superintelligente, un’IA che, per definizione, potrebbe superare gli umani sotto ogni aspetto: intelligenza sociale, ragionamento scientifico e altro ancora. Una superintelligenza avrebbe vaste risorse a sua disposizione. Potrebbe essere un computronio costruito a partire dalle risorse di un intero pianeta con un database che si estende anche oltre la portata del World Wide Web umano. Potrebbe essere più esteso del web, quindi. Perciò, cosa sarebbe nuovo per una superintelligenza che richiederebbe un’elaborazione lenta e consapevole? La cosa dell’elaborazione cosciente negli esseri umani è che è particolarmente utile quando si tratta di pensiero deliberativo lento. Così, la coscienza negli esseri umani è associata ad una lenta elaborazione mentale, associata alla memoria di lavoro e all’attenzione. Quindi ci sono importanti limitazioni al numero di variabili che possiamo anche tenere in mente in un dato momento. Voglio dire, siamo poco bravi nella memoria di lavoro. Potremmo a malapena ricordare un numero di telefono per cinque minuti prima di scriverlo. Questo è quanto sono cattivi i nostri sistemi di memoria di lavoro. Quindi, se stiamo usando la coscienza per questi elementi lenti e deliberativi della nostra elaborazione mentale, e una superintelligenza, al contrario, è un sistema esperto che ha un vasto dominio intellettuale che comprende l’intero World Wide Web ed è fulmineo nella sua elaborazione, perché dovrebbe avere bisogno di un fuoco lento e deliberativo? In breve, un sistema superintelligente potrebbe superare la coscienza perché lenta e inefficiente. Quindi i sistemi più intelligenti potrebbero non essere coscienti.
Capitolo 5: Esistenza post-biologica
Dato che una superintelligenza può superare la coscienza, dobbiamo pensare al ruolo che la coscienza gioca nell’evoluzione della vita intelligente. In questo momento, la NASA e molti astrobiologi prevedono che ci potrebbe essere vita in tutto l’universo, e hanno identificato gli esopianeti, pianeti che sono ospitali, in linea di principio, alla vita intelligente. Questo è estremamente eccitante. Ma l’origine della vita in questo momento è oggetto di un intenso dibattito in astrofisica. E può darsi che tutti questi pianeti abitabili che abbiamo identificato siano effettivamente disabitati. Ma partendo dal presupposto che ci sono molte forme di vita intelligente là fuori, bisogna considerare che, se queste forme di vita sopravvivono alla loro maturità tecnologica, possono effettivamente attivare essi stessi i loro dispositivi di intelligenza artificiale. E alla fine possono aggiornare il proprio cervello in modo da diventare cyborg. Sono esseri post-biologici. Alla fine, possono avere anche le loro singolarità. Se questo è il caso, l’intelligenza può passare dall’essere biologica a quella post-biologica. E come sottolineo nel mio progetto con la NASA, questi esseri biologici altamente sofisticati possono essi stessi superare la coscienza. La coscienza può essere un blip, una fioritura momentanea di esperienza nell’universo in un punto della storia della vita dove c’è una civiltà tecnologica precoce. Ma poi, come le civiltà hanno la loro singolarità, purtroppo, la coscienza può lasciare quei sistemi biologici.
Capitolo 6: La sfida: Massimizzare l’esperienza cosciente
Può sembrare terribile, ma io ne parlo davvero come una sfida per gli umani. Credo che capire come coscienza e intelligenza si relazionano tra loro potrebbe portarci a prendere decisioni migliori su come migliorare il nostro cervello. Quindi, secondo me, dovremmo migliorare il nostro cervello in un modo che massimizza la sensibilità, che permette all’esperienza cosciente di fiorire. E certamente non vogliamo diventare sistemi esperti che non hanno sentito la qualità da sperimentare. Quindi la sfida per una civiltà tecnologica è in realtà pensare non solo tecnologicamente, ma anche filosoficamente, pensare a come questi miglioramenti influenzano la nostra esperienza cosciente.
