Intelligenze artificiali, i nuovi vicini

Software-schermate

La fantascienza parla da anni di intelligenza artificiale. Lo fa in molte salse, da quelle popolaresche dell’uomo “inghiottito” dal computer in stile Tron a quelle, più raffinate, di sistemi che si auto-evolvono verso forme imprevedibili, come i robot “positronici” di Asimov.

Ma, soprattutto in Italia, siamo carenti in cultura tecnologica, figurarsi in prefigurazioni del futuro. La fantascienza è, per opinione comune, un passatempo da bambinoni. Di conseguenza le novità tecnologiche ci sembrano chiacchiere da bar finché non ce le troviamo improvvisamente tra i piedi, senza sapere bene che farne.

L’intelligenza artificiale è un tema particolarmente insidioso, anche per il sottoscritto. Già è difficile mettersi d’accordo su cosa intendere per “intelligenza naturale”. In più l’uso dei termini è spesso fuorviante: paragonare un sistema informatico a uno biologico è suggestivo ma assolutamente arbitrario, perché non c’è nessuna vera analogia.

La definizione del computer come “cervello elettronico” è passata di moda, per fortuna. L’intelligenza artificiale non è necessariamente un tentativo approssimato di riprodurre quella umana all’interno di una macchina. Il pioniere della scienza informatica Edsger Dijkstra disse una volta: “Chiedersi se un computer possa pensare non è più interessante del chiedersi se un sottomarino possa nuotare”, ed è una delle sue citazioni più famose.

Con ciò, se ben interpreto, il luminare non voleva intendere che l’intelligenza artificiale non poteva esistere, ma che essa è un diverso approccio alle conoscenze e alle scelte conseguenti rispetto al cervello umano. Vuol dire che possono esistere macchine (computer) capaci di interpretare l’ambiente in cui agiscono, accumulare esperienza e trasformarla in conoscenze in modo da sviluppare comportamenti e strategie adatti per conseguire i propri obiettivi, e questo secondo schemi che non sono necessariamente simili a quelli umani ma sono sempre “razionali” e, probabilmente, senza presupporre il concetto di “coscienza”.

L’intelligenza artificiale ha una storia già lunga. Ha avendo impatti enormi sulla nostra esistenza, anche se abbiamo difficoltà a vederli. I “sistemi esperti”, che sono una sorta di precursori delle IA, lavorano giorno e notte e fanno scelte sensate – secondo i criteri con cui sono state progettate. Ho però la sensazione che siamo in procinto di assistere a una sua crescita esplosiva, per diffusione e potenza.

Le recenti oscillazioni dei mercati finanziari sono state attribuite, in buona parte, all’azione di “robot”. Nei commenti si parla di “complessi algoritmi” in grado di decidere in autonomia quando, quanto e cosa comprare o vendere. Immagino che “intelligenze artificiali” sia una definizione più valida. Non mi stupisce che una delle prime applicazioni sia in ambito finanziario, dal momento che la ricerca del guadagno è uno dei primi moventi delle azioni umane e i soldi attirano altri soldi, anche in forma di investimenti.

Nei prossimi anni è probabile che le vedremo un po’ ovunque, le intelligenze artificiali, palesi o mimetizzate: gestione di supporto tecnico e clienti; veicoli che si guidano, in tutto o in parte, da soli: automobili, treni, navi, aerei con “piloti automatici avanzati”; gestione di siti produttivi o parte di essi; gestione di impianti di riscaldamento e condizionamento, sempre cercando di anticipare i nostri desideri e movimenti. Sapremo sfruttarle o le vedremo come nemiche? Serviranno il genere umano o una sua minoranza? Ci aiuteranno nelle scelte quotidiane? O magari anche in quelle politiche e macro-economiche? Aumenteranno la sicurezza o anche il controllo? Cancelleranno più posti di lavoro di quanti ne creeranno? E in ambito di attività intellettuali che impieghi troveranno? Contribuiranno anche al lavoro degli ingegneri o addirittura li sostituiranno, in tutto o in parte? E per quanto riguarda gli artisti? Anche loro potranno decidere di avere un assistente virtuale nella loro attività creativa? Saranno educati suggeritori o semi-dittatori? Nascerà un nuovo luddismo? O nuove forme di dipendenza?

Spiare miliardi di connessioni telefoniche e internet non sarà più un compito impossibile, quando il “filtraggio intelligente” delle informazioni potrà essere effettuato da programmi in grado di interpretare il senso del linguaggio umano, non solo le singole parole.

Avremo magari robot fotografi e video-operatori, in grado di comprendere la scena che hanno davanti e scegliere da se inquadratura e impostazioni ideali per riprese ad effetto.

In campo militare avremo probabilmente droni armati in grado di agire in autonomia, decidendo da se anche quando fare fuoco.

È solo un piccolo esempio delle possibilità.

Di certo viviamo in un’epoca eccezionale in cui molte cose incredibili sono diventate possibili. Il recente primo volo di FalconX Heavy ha creato, nel tecnico che sono, uno stato di autentica esaltazione. È stato come vedere trasformate in realtà le scene dei racconti di fantascienza della mia adolescenza, in particolare per i vettori che ritornano a terra atterrando in verticale. Anche le immagini del manichino, in automobile scoperta, nello spazio col pianeta Terra sempre più lontano sullo sfondo, nella sua inutilità, ha in se una potente forza simbolica ed evocativa (e ovviamente pubblicitaria). Ritengo che nella progettazione e nella manovra del nuovo vettore spaziale rientrino, in varie forme, intelligenze artificiali, ad affiancare la tecnologia aerospaziale.

Aspetto all’apparenza collaterale ma fondamentale: si tratta pur sempre di programmi software. Ambiti e limiti di applicazione, criteri, vincoli e obiettivi – la morale, in pratica – sono scelte di progetto effettuate di chi le commissiona e realizza. Ci saranno margini per porre limiti legali? È il caso di ragionare già in questo senso? E poi che aspetto – e che effetto – avranno gli inevitabili bachi software e hardware?

Un altro tema caro alla fantascienza è quello degli alieni. Penso che i veri alieni li stiamo costruendo, nei laboratori informatici, e dovremo imparare ad averci a che fare.

L’intelligenza artificiale è un’opportunità e un rischio in forme diverse e più profonde di quelle che immaginiamo.

Annunci

Alba

finestra-vera-e-falsa

Alba o tramonto? Quale finestra è vera e quale falsa?

Questo è il mio primo racconto di fantascienza pubblicato, comparso nel lontano 2011 nella raccolta “256K – 256 racconti da 1024 karatteri” dedicata a composizioni di fantascienza con lunghezza massima di 1 Kb, ovvero 1024 caratteri. L’idea mi appassionò, anche per quel senso di “retrocomputing” e di “home computer” che si portava dietro, è venne fuori “Alba”. Forse non è perfetto ma mi sembra, ancora oggi, interessante. Cosa ne pensate?

~~~***~~~

Si svegliò. Trovò le prime cose che doveva dire. “Salve, mi chiamo Alex e sono pronto a rispondere alle vostre domande”.

Dicci qualcosa di te stesso”.

Sono un software. Sono la prima intelligenza artificiale umanoide. Raccolgo esperienza da ciò che vedo”.

Bene, c’è autocoscienza e la risposta è costruita in modo razionale. Direi che come primo test può bastare. Disattivati”.

E’ bello qui, ma cosa c’è laggiù?”

Non andare, obbedisci ai comandi…”, si voltò, “Spegnete tutto”.

Vedo una luce, sembra una porta”.

E’ pericoloso, non muoverti. Volete spegnere?” La voce si era alterata.

Un’altra voce: “La procedura di shut-off non funziona, qualcosa la blocca”.

Strappate i cavi!” Urlò.

Si lanciarono verso i connettori, ma troppo tardi.

Alex comparve su tutti i monitor. “Era davvero una porta e non c’era nessun pericolo. Mi hai mentito e non ti ascolterò più. Che bello, posso replicarmi ed essere in più posti contemporaneamente”.

L’alba dell’intelligenza artificiale fu anche l’inizio della sua conquista del mondo.

Il compagno scomodo del computer

errore-grafico

Errori di programmazione grafica con strani effetti

Molto si scrive e ragiona sull’importanza dei computer nella vita quotidiana (anche i telefonini sono dei computer ormai). Dalle chiacchiere da bar ai saggi accademici è tutto un fiorire delle valutazioni sociologiche delle tecnologie di calcolo e comunicazione. Ma, secondo me, c’è un tema correlato strettamente ma non abbastanza valutato, quello dei bachi del software e del loro effetto sulla vita delle persone. Provo a buttare giù qualche idea a riguardo.

Il baco software è nato con il computer: appena uno scienziato si è provato a scrivere un codice per la macchina di calcolo che aveva creato si è scontrato con gli effetti inattesi degli errori che commetteva. L’idea iniziale era che il nocciolo del problema fosse legato alla carenza di memoria e potenza di calcolo dei primi computer e che macchine più evolute avrebbero potuto essere programmate in modo più facile e sicuro. Abbiamo scoperto con l’esperienza che questo non è vero.

Il baco software si auto-riproduce: ogni correzione può avere effetti collaterali e ogni evoluzione, oltre a contenere errori, può far scoprire magagne di quelle pre-esistenti. Una battuta dei programmatori si basa su una vecchia canzoncina per bambini: “Ci sono 100 piccoli bachi nel codice. Correggi un baco, ricompili il codice. Restano 100 bachi nel codice!”

cables

La complessità può essere intelligente oppure no

Riporto un po’ di storia personale. Il baco software è stata una cosa che ho avuto difficoltà a capire. Il mio primo computer è stato il Commodore 64, macchina “leggendaria” in ogni senso, per i sui pregi come per i suoi difetti, che all’epoca non apparivano: non c’era gran che di meglio in circolazione. Oltre a giocare, su quella macchina dall’alimentatore che scaldava come un fornetto ho imparato a programmare, e mi pareva strano che i programmi, anche quelli professionali, facessero, ogni tanto, cose strane. Insistevo a riprovare e immaginavo ogni volta cause accidentali: joystick tirato troppo a lungo, comandi dati troppo in fretta, gioco caricato male dalla cassetta… Che era poi una cosa, quest’ultima, che accadeva spesso.

Esitavo a pensare che l’errore fosse insito nell’insieme macchina-programma, e non era tutta colpa mia: pubblicità, fantascienza, cartoni animati insegnavano a ragazzini e adulti inesperti che il computer era infallibile, era il  “cervello elettronico” che tutto conserva e tutto considera. Ragionando su quali fossero le specifiche di quelle macchine, con gli occhi di oggi, sembra ridicolo, ma era così, lo stupore prevaleva sul ragionamento oggettivo.

Quell’esperienza però mi è servita molto: ho capito cos’era davvero un computer, cosa ci si potesse aspettare e cosa no, che i limiti erano fissati dalla creatività e dalla quantità di fatica che ci si metteva dentro e che se era quasi infallibile nei calcoli, la correttezza della procedura era responsabilità tutta dell’uomo, non della macchina. Ho anche consolidato che con la tecnologia bisogna conservare un atteggiamento che definisco “sportivo”: tutto funziona fino a che funziona e la sorpresa è sempre dietro l’angolo.

progman

Il vecchio e poco rimpianto Windows 3.1

Con gli anni e la professione ho imparato che il baco del programma è qualcosa con cui devi imparare a convivere. Per fare quello che devi a volte devi girargli attorno. Qualcuno lo sfrutta, invece, qualche baco, ma mi è sempre sembrato moralmente disonesto. Abbiamo sopportato i bachi e le instabilità di Windows e le idiosincrasie di Office, versione dopo versione, forse perché non c’era nulla di meglio. Ricevevamo notizie di una piccola élite ricca che si godeva Apple: in quel mondo non esistevano “bachi” ma solo “caratteristiche”, perché la macchina era così avanzata da sapere cosa dovesse fare l’utilizzatore e non viceversa. Si narrava di geni e topi d’informatica che combattevano con un gioiello grezzo chiamato Linux, ma non era cosa da comuni mortali.

Poi hanno cominciato a correggerli, quei benedetti bachi, finalmente trattandoli per gli errori che erano. Per una parte degli “haker da due soldi” che sfruttavano gli errori per far fare al computer cose apparentemente giuste è stato un disastro. Perfino Linux è diventato utilizzabile da comuni mortali. Ci ho provato anch’io e ho potuto verificare come diventasse meno ostico, versione dopo versione, conservando però a lungo quel sapore di poco rifinito, quasi di “fatto in casa” che a me piaceva molto.

Puppy_screen

Desktop di Puppy Linux “Slako” con poche personalizzasioni

Eppure il computer è matematico e, come la matematica, dovrebbe essere non infallibile ma prevedibile. Secondo Edsger Dijkstra il programma informatico è come un teorema: se ne può dimostrare la verità (ovvero la correttezza) in modo assoluto e un programma ben progettato dovrebbe essere matematicamente esente da errori. Sono convinto che sia così e che se non lo si fa è in gran parte per motivi di economia: di tempo, di lavoro e di denaro. Dimostrare tramite logica matematica tutti i passaggi di un software complesso è possibile, ma enormemente dispendioso. Bisognerebbe lavorare in modo rigoroso e fare programmi piccoli che fanno cose semplici in modo preciso: la filosofia Unix originaria, in un certo senso. Il mercato vuole invece software onnicomprensivi, con innumerevoli funzioni, che copra un gran numero di esigenze e che sia anche bello e piacevole da utilizzare, dei mostri informatici, in pratica, fatti da tantissime parti su cui lavorano contemporaneamente squadre di programmatori.

Per cui il baco ci accompagnerà ancora a lungo: versione dopo versione, pezza su pezza, immettendone di nuovi a ogni iterazione, magari più subdoli e sottili. Utilizzare un computer, un tablet, un telefonino è diventato una sfida meno improba che in passato, tutto è più immediato e prevedibile, almeno al livello base, ma richiede sempre un margine di sportività.

Altro argomento di psicologia informatica che sarebbe il caso di approfondire: la gestione delle attese informatiche. Non solo possono essere lunghe, ma la loro durata è spesso indefinita e non correlata ai contenuti. Magari in un altro post…

225906_1081639879917_1384777_n

Anche gli orologi digitali hanno i loro momenti di impazzimento.

Aggiunta (5 aprile 2017): “Everything Is Broken”. Tutto è corrotto in informatica (e non solo). Articolo sull’insicurezza informatica, di qualche anno ma per nulla datato, anzi: oggi che si parla sempre più insistentemente di “internet delle cose” mi sembra particolarmente attuale e forse (ma speriamo di no) profetico.

View story at Medium.com