| << |  <  |  >  | >> |

Indice

Prefazione                                                  vii

Capitolo 1 - Automobili timorose e cucine bisbetiche          1

Due monologhi non fanno un dialogo                            5
Dove stiamo andando? Chi sta al comando?                      9
L'avvento della macchina intelligente                        16
Per le macchine il pensiero è facile, le azioni fisiche
difficili; la logica è semplice, l'emozione difficile        23
Comunicare con le nostre macchine: siamo due specie diverse  30

Capitolo 2 - Le psicologie di uomini e macchine              33

Breve introduzione alle psicologie di uomini e macchine      36
L'avvento di un nuovo organismo: l'ibrido macchina+persona   39
I golfi degli obiettivi, dell'azione e della percezione      44
Un terreno cognitivo comune: la limitazione fondamentale
dell'interazione uomo-macchina                               46

Capitolo 3 - Interazione naturale                            53

Interazione naturale: lezioni da imparare                    54
Il suono dell'acqua che bolle: naturale, potente e utile     56
Comunicazione e segnali impliciti                            58
Le Affordance come forma di comunicazione                    63
Comunicare con dispositivi intelligenti e autonomi           66
Le biciclette di Delft                                       71
Sicurezza naturale                                           74
Automazione collaborativa                                    82

Capitolo 4 - Schiavi delle macchine                          89

Autista intrappolato 14 ore in una rotatoria                 89
Siamo diventati strumento dei nostri strumenti               91
Andare per conferenze                                        96
Auto che si guidano da sole, case che si puliscono da sole,
e sistemi di intrattenimento che decidono come dobbiamo
essere intrattenuti                                         102
Sciami e plotoni                                            105
Quando l'automazione è inappropriata                        110

Capitolo 5 - Il ruolo dell'automazione                      115

Oggetti intelligenti                                        117
Oggetti intelligenti: autonomi o capacitanti?               128
Il futuro del design: cose intelligenti
che ci rendono più capaci                                   131

Capitolo 6 - Comunicare con le macchine                     133

Feedback                                                    136
Di chi è la colpa? Nostra o della tecnologia?               140
Segnali naturali e deliberati                               144
Corrispondenze naturali                                     146

Capitolo 7 - Il futuro degli oggetti quotidiani             151

E i robot?                                                  156
La tecnologia cambia, ma le persone restano uguali... o no? 161
Adeguarsi alla tecnologia                                   163
Il design come scienza                                      166

Postfazione - Il punto di vista delle macchine              171

Una conversazione con Archivista                            171
Le reazioni delle macchine alle cinque regole               180
Archivista: il colloquio finale                             181

Appendice - Sommario delle regole di progettazione          185

Regole per progettisti umani di macchine "intelligenti"     185
Regole sviluppate dalle macchine per migliorare
le loro interazioni con le persone                          185

Letture consigliate                                         187
Ringraziamenti                                              195
Bibliografia                                                201

 

| << |  <  |  >  | >> |

Pagina 33

Le psicologie di uomini e macchine

Ecco tre scene che potrebbero accadere oggi:

• "Cabrare! Cabrare!" grida l'aereo quando si accorge che il pilota lo ha portato sotto la quota di sicurezza.

• "Bip, bip" fa l'automobile per richiamare l'attenzione; contemporaneamente porta in tensione le cinture di sicurezza, raddrizza i sedili e si prepara a frenare. Sta osservando il conducente e, dato che non sembra attento alla strada, decide che è il caso di frenare.

• "Ding, ding" fa la lavastoviglie, vuol dire che i piatti sono puliti; ma sono le 3 del mattino e l'avviso non ha altro effetto che quello di svegliarti.

Nel futuro, invece, saranno probabili scene come queste:

• "No", dice il frigorifero, "basta uova finché non perdi un po' di peso e il tuo colesterolo ti scende un po'. La bilancia dice che devi ancora perdere tre chili, e la clinica continua a chiedermi del tuo colesterolo. È per il tuo bene, sai?"

• "Ho controllato i tuoi appuntamenti di oggi nello smartphone", dice l'automobile quando la riprendi dopo una giornata di lavoro, "hai un po' di tempo libero, perciò invece dell'autostrada ho programmato la statale panoramica, con quelle curve che ti piacciono tanto; so che ti farà piacere una bella guidata tranquilla – ah, e ora eccoti anche la tua musica preferita."

• "Ehi", dice la casa una mattina mentre stiamo uscendo, "te ne esci così? Ho messo fuori la spazzatura e non mi ringrazi nemmeno? E a proposito, cosa mi dici di quel bel controller nuovo che continuo a farti vedere? Mi farebbe diventare molto più efficiente, sai? Pensa che la casa dei vicini ce l'ha già."

Alcune macchine sono ostinate, altre temperamentose; alcune hanno modi delicati, altre duri. Troviamo normale attribuire caratteristiche umane alle macchine che usiamo e spesso i termini che scegliamo sono del tutto appropriati, anche se li usiamo in senso metaforico o come similitudini. Le nuove macchine intelligenti, però, sono parzialmente o del tutto autonome: sanno fare le proprie valutazioni e prendere le proprie decisioni, non hanno più bisogno di una persona che le autorizzi. Il risultato è che queste descrizioni non saranno più metafore, ma caratterizzazioni del tutto legittime.

Le prime tre scene che ho descritto sono già reali. I sistemi di allarme degli aerei gridano veramente "Cabrare!" (di solito con un timbro femminile); almeno una casa automobilistica ha annunciato un sistema che controlla il guidatore per mezzo di una telecamera; se il guidatore non sembra attento alla strada e il radar anteriore valuta una possibilità di collisione, la macchina suona un allarme: non vocale (almeno non ancora) ma per mezzo di vibrazioni e cicalini. Se il guidatore continua a non reagire, il sistema frena automaticamente e si prepara a un urto. E, naturalmente, mi è già capitato di venire svegliato nel cuore della notte dal cicalino della lavastoviglie, ansiosa di farmi sapere che i piatti erano puliti.

Sulla progettazione di sistemi automatizzati sappiamo molto. Sull'interazione fra gli esseri umani e questi sistemi sappiamo un po' di meno, anche se l'argomento è stato oggetto di molta ricerca negli ultimi decenni. Il punto è che le ricerche hanno riguardato scenari industriali e militari, nei quali le persone usano le macchine regolarmente nel proprio lavoro. Ma cosa succede a persone comuni che possono non avere alcun addestramento specifico e che usano le macchine in modo occasionale? Di questo scenario non sappiamo quasi nulla, ed è questo che mi preoccupa: persone comuni, senza allenamento (come voi e me) che usano dispositivi casalinghi, televisioni, videoregistratori, e automobili.

Come fanno le persone comuni a imparare a usare la nuova generazione di dispositivi intelligenti? Ma è ovvio! Un po' alla volta, a forza di sbagliare; "sbagliando s'impara", salvo dover patire una frustrazione continua. I progettisti sembrano credere che questi congegni siano così intelligenti, così perfetti nel loro funzionamento, che non ci sia niente da imparare: digli soltanto cosa vuoi che facciano per te e poi togliti dai piedi. È vero, ci sono sempre i manuali, spesso assurdamente enormi, ma sono manuali che non spiegano nulla e spesso non sono nemmeno comprensibili; spesso non cercano nemmeno di spiegare come opera il tal congegno, si limitano a dare nomi magici, mistici alle varie funzioni, spesso con dei termini privi di senso tipici del marketing o attaccando assieme le parole come in "SmartHomeSensor" [in italiano potrebbe essere IntelliDomoSensore], come se dare un nome a qualcosa bastasse a spiegarla.

La comunità scientifica chiama questo tipo "automagico": automatico più magico. Il fabbricante vuole che crediamo alla magia, e che le concediamo fiducia. Anche quando tutto funziona è sconfortante non avere idea del come o del perché funziona, ma i veri problemi cominciano quando qualcosa non funziona, perché è lì che ci accorgiamo di non avere idea di cosa fare. Siamo nella terra di nessuno, abbandonati a noi stessi. Da una parte, lontano, c'è un mondo fantascientifico, cinematografico, popolato da robot intelligenti che funzionano sempre alla perfezione. Dall'altra, e si allontana sempre di più, c'è il mondo del controllo manuale, di quando non esisteva l'automazione, di quando prendevi in mano gli attrezzi e facevi quello che ti serviva.

"Stiamo solo rendendo la vita più semplice", mi dicono le aziende, "più sana, sicura e godibile. Sono tutti obiettivi onorevoli." Sì, se i dispositivi automatici, intelligenti, funzionassero alla perfezione saremmo contenti; se fossero del tutto affidabili, se automagicamente andasse sempre tutto bene, non avremmo bisogno di capire come funzionano. Ma saremmo contenti anche con uno strumento manuale che sappiamo usare. Quando invece ci troviamo intrappolati nella terra di nessuno con macchine automatiche che non capiamo e che non funzionano come dovrebbero, senza poter fare ciò che abbiamo bisogno di fare ecco, in quel caso la nostra vita non diventa più semplice, e tantomeno più godibile.

Breve introduzione alle psicologie di uomini e macchine

La storia delle macchine intelligenti comincia con i primi tentativi di produrre automi meccanici, inclusi i meccanismi a orologeria e le macchine giocatrici di scacchi. Il più famoso fra i primi automi capaci di giocare a scacchi fu il "Turco" di von Kempelen, preceduto dalla propria fama e presentato con gran pompa alle corti europee nel 1769. Si trattava di una bufala: il meccanismo serviva solo a nascondere al proprio interno un abile scacchista, ma il fatto che la bufala abbia funzionato così bene ci dimostra quanto le persone siano disposte a credere che un congegno automatico possa dimostrare vera intelligenza. La vera impennata nello sviluppo di macchine intelligenti non si ebbe fino a metà del Novecento con lo sviluppo della teoria dei controlli, dei servomeccani- smi e del feedback, della cibernetica e delle teorie dell'informazione e degli automi, che procedettero di pari passo con il rapido sviluppo di circuiti elettronici e computer. La potenza dei circuiti e dei computer da allora è praticamente raddoppiata ogni due anni, e siccome il processo sta continuando da oltre quaranta, i circuiti odierni sono un milione di volte più potenti di quei primi, e primitivi, "cervelli elettronici". Pensate a cosa potrà succedere fra vent'anni, quando le macchine saranno mille volte più potenti di oggi, o fra quaranta, quando lo saranno un milione di volte di più.

Anche i primi tentativi di sviluppare una scienza dell'Intelligenza Artificiale (IA) datano verso la metà del Novecento. I ricercatori di questo settore hanno via via sottratto lo sviluppo dei dispositivi intelligenti al territorio freddo e rigoroso della logica matematica e della teoria delle decisioni per portarlo nel territorio approssimativo e mal definito del ragionamento simil-umano dove, al posto di precisi algoritmi, troviamo logica fuzzy, probabilità, ragionamenti qualitativi, euristici e di "buon senso". Il risultato è che oggi i sistemi intelligenti possono vedere e riconoscere oggetti, capire fino a un certo livello il linguaggio scritto o parlato, parlare, muoversi in un ambiente e ragionare in modo molto articolato.

| << |  <  |  >  | >> |

Pagina 133

Comunicare con le macchine

Il fischio del bollitore e lo sfrigolare del cibo sui fornelli sono i ricordi di un tempo passato in cui ogni cosa era visibile, aveva un suo rumore, ci permetteva di crearci un modello mentale, uno concettuale, del suo funzionamento. Da questo modello mentale, poi, traevamo indicazioni per sapere cosa aspettarci, per risolvere i problemi quando le cose non andavano come ci aspettavamo, e anche per sperimentare.

Gli oggetti meccanici, per loro natura, tendono a essere autoesplicativi. Hanno parti in movimento che possono essere osservate e manipolate; emettono naturalmente dei suoni che ci aiutano a capire cosa sta succedendo anche quando non stiamo guardando. Ma oggi molti di questi utilissimi indicatori sono indisponibili alla vista e all'udito, superati da un'elettronica silenziosa e invisibile. Il risultato è che molti apparecchi sono in grado di funzionare in un efficiente silenzio e, a parte i segnali occasionali come il cliccare di un disco rigido o il rumore di un ventilatore, non rivelano granché sul loro funzionamento interno. Ogni nostra speranza di sapere qualcosa sul funzionamento interno dell'apparecchio, o su quello che gli sta succedendo, è nelle mani dei progettisti.

Comunicazione, spiegazione e comprensione: questi sono i punti chiave quando si ha a che fare con agenti intelligenti, che siano persone, animali o macchine. Il lavoro di gruppo esige coordinamento e comunicazione, e non ultima una ragionevole consapevolezza di che cosa ci si può aspettare, e del perché succede quel che succede (o del perché non succede quel che non succede). Questo è vero sia che il gruppo sia composto di sole persone, da un cavaliere e da un cavallo, da un pilota e da un'automobile, o da una persona e un'apparecchiatura automatica. Con gli esseri animati la comunicazione è parte della nostra eredità biologica. Noi segnaliamo continuamente il nostro stato emotivo attraverso il linguaggio del corpo, la postura, le espressioni facciali. Usiamo il linguaggio. Anche gli animali usano il linguaggio corporeo e la postura, e perfino le espressioni facciali. Possiamo "leggere" lo stato dei nostri animali domestici dalla loro postura, dal modo in cui tengono la coda o le orecchie e, come abbiamo già detto, un cavallerizzo provetto può percepire lo stato di tensione o di rilassatezza del cavallo.

Le macchine, per contro, sono create da persone che spesso ne danno per scontato un funzionamento impeccabile e che, inoltre, non percepiscono la necessità di un dialogo continuo fra entità cooperanti. Se la macchina funziona perfettamente, sembra essere la loro idea, perché a qualcuno dovrebbe importare di sapere cosa sta succedendo? Già, perché? Lasciate che vi racconti una storia.

Mi trovo nell'elegante auditorium dei laboratori di ricerca IBM di Almaden, adagiati fra le deliziose colline appena a sud di San Jose, in California. L'oratore di oggi, professore di informatica al MIT, sta tessendo le lodi del suo nuovo programma. Chiamiamolo "professor M.". Dopo aver descritto ìl progetto il Professor M. dà il via alla dimostrazione. Per prima cosa ci mostra una pagina web; poi con qualche clic e un po' di cose scritte qua e là, ecco che sulla pagina compare un nuovo bottone. "I comuni utenti", spiega il professore, "possono aggiungere nuovi elementi di controllo alle loro pagine web." (Il professore omette di spiegare perché dovrebbero essere interessati a farlo.) "Ora guardate, vi faccio vedere come funziona" annuncia con malcelato orgoglio. Lui fa clic, e noi guardiamo. E aspettiamo. E guardiamo. Non succede nulla.

Il professor M. è perplesso: bisognerà riavviare il programma? Riavviare il computer? Il pubblico, composto dai migliori tecnocrati della Silicon Valley, comincia a lanciare suggerimenti a gran voce. Lo staff di ricercatori della IBM si dà un gran daffare, fa la spola tra il computer e dietro le quinte, e qualcuno si mette perfino a quattro zampe per seguire i vari cavi. I secondi diventano lentamente minuti. Il pubblico comincia a ridacchiare.

Il professor M. era talmente invaghito della propria tecnologia da non aver mai nemmeno preso in considerazione che cosa sarebbe potuto succedere se quella tecnologia non avesse funzionato a dovere. Non aveva pensato di fornire un qualche feedback o un qualche segnale che tutto stava andando bene (o, come in questo caso, un qualche segnale che le cose non stavano andando del tutto bene). Più tardi abbiamo scoperto che il programma, in effetti, stava funzionando a dovere; il problema derivava dal fatto che i controlli della rete interna di IBM non lo lasciavano accedere a Internet. Ma senza alcun tipo di feedback, senza un'indicazione riguardo allo stato del programma, nessuno poteva dire dove fosse il problema. Il programma trascurava di dare feedback riguardo al fatto che il clic sul bottone era stato recepito correttamente, che il programma stava eseguendo le diverse istruzioni richieste, che aveva avviato una ricerca su Internet e che stava aspettando l'arrivo dei risultati.

Senza feedback non era possibile crearsi un adeguato modello concettuale. Il problema poteva riguardare almeno una dozzina di cose diverse, ma senza alcun tipo di indizio non c'era modo di capire quale. Il professor M. aveva violato una regola fondamentale del design: fornire ininterrottamente indicazioni sullo stato di funzionamento, senza assillare.

| << |  <  |