| << |  <  |  >  | >> |

Indice

    Prefazione                               IX
    Ringraziamenti                           XI

1.  Una macchina nuova e strana               3

    Computer fatti col meccano, p. 5 - Tasse e
    modelli, p. 7 - La piccola macchina che
    potevamo avere, p. 9 - La macchina dei
    sogni, p. 11 - Mangiarsi la coda, p. 12 -
    Ferro e ottone, p. 15 - Il Titano gabbato,
    p. 17 - Le meraviglie del Potere, p. 18 -
    L'universo in una scatola di scarpe, p. 20
    - L'automa informatico, p. 22 -
    Conseguenze, p. 26

2.  La smania della velocità                 29

    Vita coi variatori di forma, p. 30 - Senso
    e sensibilità, p. 32 - Alla ricerca del
    tempo perduto, p. 34 - L'arte
    dell'ignoranza volontaria, p. 35 - Sempre
    più veloci, p. 38 - Tutti insieme e subito,
    p. 39 - Lassù, attraverso il vetro rotto,
    p. 41 - L'occhio lungimirante, p. 43 -
    Macchine biodegradabili, p. 45 - La
    situazione reale, p. 47 - Sulla scala
    infinita del futuro, p. 49 - In attesa
    della convivenza, p. 51

3.  Parlar chiaro                            55

    In cinese si diceva così, p. 57 - Visitando
    Parigi, p. 59 - Parole in fatti, p. 61 -
    Imparare dal passato, p. 64 - La scala
    della vita, p. 66 - Vivere sulla frontiera,
    p. 68 - Sorvegliare il linguaggio, p. 70 -
    La futilità della precisione, p. 72 -
    Scienza e psicologia, p. 73 - Tutto va
    messo in un contesto, p. 75 - La storia del
    mondo, p. 78 - Il futuro, p. 81

4.  Il modo congiuntivo                      83

    Stare a ciò che si dice, p. 85 - Nella
    morsa delle macchine immateriali, p. 87 -
    Ricamare portaerei p. 90 - Agognando il
    futuro, p. 93 - Guadagnare potere
    rinunciando al controllo, p. 96 - Se te lo
    dico tre volte è vero, p. 97 - Scimmie alla
    tastiera, p. 100 - Quando la logica non
    basta, p. 103 - Sparate ai programmatori,
    p. 106

5.  I limiti dello sviluppo                 111

    Prima salta, poi guarda, p. 114 -
    Marmellata oggi, p. 116 - Un esercizio di
    autocontrollo, p. 118 - Una Critica della
    Ragion Pura?, p. 121 - La luce è accesa, ma
    in casa non c'è nessuno, p. 122 - Lezioni
    dalla realtà, p. 125 - La fine
    dell'innocenza,p. 127 - Scrivere
    sull'acqua, p. 129 - Lo straccivendolo del
    cuore, p. 135

6.  Pensieri sul pensiero                   139

    Primo quadro, p. 140 - Sempre più su sempre
    meno, p. 143 - La simulazione del reale, p.
    145 - Con forchette e speranza, p. 147 -
    Basic Instincts, p. 151 - Parlare a se
    stessi, p. 152 - La scissione atomica del
    cervello, p. 155 - Benvenuti nella Stanza
    101, p. 159 - Alla deriva su un fiume
    limaccioso, p. 160 - Le cose che ormai ci
    cavalcano, p. 163 - Un'agonia in otto
    quadri, p. 165

 

| << |  <  |  >  | >> |

Pagina IX

        L'intero problema si riduce a questo:
        la mente umana è in grado di
        dominare ciò che ha creato?
        Paul Valéry

Ne avevo anche visti alcuni in televisione: macchine che riempivano una stanza intera, circondate da fedeli in adorazione e da dozzine di ingegneri severi e inquadrati. Naturalmente, l'uso di questi mitici apparecchi era riservato a pochi privilegiati, ricchi e potenti - per non parlare di capirne il funzionamento. Inoltre, ad aumentare la mia confusione, avevo sentito dire che i componenti principali del computer erano fatti di silicio (o col silicio?). E a scuola avevo imparato che il silicio era l'elemento principale delle pietre e della sabbia.

Ma allora una pietra come poteva pensare?

Un giorno, sulla spiaggia, seduto sulla sabbia infuocata, mi resi conto di essere circondato da tonnellate di silicio. Come era potuto accadere che la sabbia, a prima vista utile solo a giocarci e a prendervi il sole, si fosse trasformata in queste macchine meravigliose? Fu allora che capii che volevo leggere un libro come questo.

Questo libro cerca di spiegare al me stesso di allora cosa sono i computer e dove vanno. Anche se il titolo suona diverso, in realtà ogni capitolo è dedicato a una semplice domanda: «Cosa sono i computer?», «Come li costruiamo?», «Come parliamo con loro?», «Perché programmarli è difficile?», «Cosa non sanno fare?», «Potrebbero pensare?». E ogni argomento è visto in prospettiva, dalle sue origini storiche fino allo stato dell'arte attuale e oltre, verso il futuro.

Questo libro tocca anche alcuni dei problemi fondamentali della vita umana: Chi siamo?, A cosa diamo valore?, Dove andiamo? Le prime utilizzazioni dei computer hanno determinato dall'inizio la loro struttura e ciò che potremmo - o dovremmo - aspettarci da loro. Le nostre scelte attuali, così, risultano sia limitate che ampliate dalle scelte miopi effettuate alcuni decenni or sono, e le nostre scelte di oggi sono analogamente destinate a influenzare quelle di domani. In definitiva, lo sviluppo futuro della tecnologia dei computer deciderà se noi continueremo a esistere come esseri biologici o evolveremo verso qualche altra cosa.

Questo libro è per voi se non sapete granché sui computer e volete sapere cosa possono fare per voi - o a voi. Racconta la storia di come noi siamo diventati schiavi dei nostri inservienti silicei, e di come un giorno potrebbero essere loro a diventare i nostri schiavi.

Leggetelo in spiaggia.

| << |  <  |  >  | >> |

Pagina 12

Il suo problema era che nel mondo delle macchine fisiche (e lui, come chiunque altro nel XIX secolo, conosceva solo quello) più cose chiediamo di fare a una macchina, più complicata essa diventa. Una scavatrice a vapore è una cosa, ma una scavatrice a vapore che batta i tappeti e suoni l'ottavino è tutta un'altra cosa. È abbastanza facile costruire un dispositivo che sommi due numeri, ma già moltiplicarli sembra richiedere un congegno più complesso; dividerli, ancora di più; e fare calcoli più difficili sembra richiedere congegni sempre più sofisticati. Babbage, però, era bravo. Sapeva che la moltiplicazione è solo un'addizione ripetuta, e che la divisione è solo una sottrazione ripetuta. Ne risulta che possiamo convertire ogni altra operazione numerica in una sequenza di addizioni e sottrazioni. Possiamo persino ridurre la sottrazione all'addizione.

Babbage fu inoltre il primo a capire che, oltre a saper sommare, una macchina universale di computazione deve unicamente essere in grado di controllare se un numero sia più grande di un altro, e ripetere le istruzioni ricevute. È molto semplice. Noi possiamo sostituire qualsiasi computer, per quanto complesso sia, con un altro che sappia solo eseguire lunghe sequenze di tre semplici istruzioni: sommare, controllare e ripetere. Viceversa, qualunque cosa sappia eseguire queste semplici istruzioni è un computer potente quanto qualsiasi altro, anche se forse non altrettanto veloce.

La genialità di Babbage andò oltre. Mentre cercava di semplificare il suo processore, si imbatté in un'altra idea fondamentale. Oltre a farle perforare piccole schede per mettere in memoria i numeri, diede alla sua macchina anche la capacità di perforare sulle schede le sue stesse istruzioni, e poi di poterle leggere e agire di conseguenza quando fosse necessario. Così la sua macchina poteva modificare il proprio comportamento dopo essere stata avviata. Babbage la chiamò «la macchina che si mangia la coda», evocando l'antico mito dell'Uroboro, un serpente cosmico con la coda in bocca che mangia se stesso per riprodursi.

[...]

Ignorato dal suo paese, Babbage morì mercoledì 18 ottobre 1871 al termine di una vecchiaia triste e solitaria. E da allora, la sua macchina nata morta giacque a pezzi e dimenticata per un secolo in polverose biblioteche. E poi, invece, venerdì 29 novembre 1991, a due secoli dalla nascita, la sua prima macchina (costruita coi mezzi disponibili nell'Inghilterra vittoriana) compì il primo calcolo completo nel Museo della Scienza di Londra. Babbage avrebbe potuto costruire davvero la sua macchina nel XIX secolo: se lo avesse fatto, il mondo sarebbe cambiato per sempre.

| << |  <  |  >  | >> |

Pagina 15

Nel 1935 fu attratto da un difficile problema matematico, e riversò su questo la sua attitudine da naufrago, con un successo strepitoso. Non conoscendo il lavoro di Babbage, Turing parti da zero, come sempre, e definì una macchina astratta che possedeva le poche caratteristiche essenziali che abbiamo appena identificato nel progetto di Babbage. La sua macchina immaginaria era un computer in tutto e per tutto, tranne che per il nome; poteva cioè manipolare qualsiasi informazione definibile con precisione. In altre parole, poteva leggere, scrivere, ricordare ed elaborare qualunque informazione, proprio come il computer che Babbage non riuscì a costruire.

Turing dimostrò che nessun manipolatore di informazioni, comunque fosse fatto e qualunque cosa sapesse fare, avrebbe potuto essere più potente della sua macchina astratta, dotata solo di queste semplici capacità. Altre macchine possono funzionare in modo più veloce o più economico, ma nessuna è in grado di fare di più, qualunque sia la serie di operazioni fondamentali che è capace di compiere.

| << |  <  |  >  | >> |

Pagina 18

Ma, purtroppo, i burocrati del dopoguerra non capirono gli usi potenziali della macchina più di quanto non avessero fatto i loro predecessori con Babbage, un secolo prima. Anche se finanziarono il progetto di Turing, sperando di coinvolgere gli americani, al momento la nazione era stremata, e l'ignoranza e la burocrazia sono dure a morire. E noi non possiamo davvero criticarli per la loro enorme carenza di lungimiranza. Noi stessi stiamo sicuramente facendo oggi degli errori analoghi, e i nostri discendenti rideranno di noi quanto noi ridiamo dei nostri antenati. Non è inutile ricordare, ad esempio, che sino alla fine della prima guerra mondiale in Inghilterra e negli Stati Uniti le donne non avevano diritto di voto, e che in Svizzera hanno dovuto attendere fino al 1971. Il mondo che conosciamo è un'invenzione molto recente.

Neppure quei pochi scrittori di fantascienza che anticiparono qualcosa del nostro futuro riuscirono mai a prevedere il computer o a intuirne le implicazioni. L'anno prima della morte di Babbage, Jules Verne pubblicò Ventimila leghe sotto i mari, e nei trentacinque anni seguenti scrisse su ogni sorta di assurdità: sottomarini, aereoplani, televisione, telefono, apparecchi per fax, metropolitane, missili teleguidati, sbarchi sulla luna, sedie elettriche. Ma una macchina in grado di eseguire un lavoro mentale? Era davvero troppo assurdo, anche per Verne.

Persino nei recenti anni Cinquanta, dopo lo sviluppo dei primi computer moderni, noi eravamo certamente in grado di immaginare navi più potenti, carri armati più grandi, aeroplani più veloci - e così anche per sottomarini, radar, missili, ed energia nucleare. Ma questo nuovo oggetto, questo intruglio impalpabile di informazione e intelligenza, non aveva precedenti. Non avendo nulla cui paragonarlo, non sapevamo né come trattarlo né cosa aspettarci da lui. E ancora non lo sappiamo.

Come Babbage prima di lui, Turing puntava lo sguardo così lontano che non capì mai perché doveva spiegare al governo tutto ciò che intravedeva. Non arrivò mai a capire che la burocrazia si paralizza senza il pungolo della guerra totale, e che nel nostro mondo la politica gioca un ruolo più importante della ragione. Non aveva capito che, a dispetto di ciò che diciamo, noi aborriamo i cambiamenti nel modo più assoluto. A poco a poco fu estromesso dal suo stesso progetto.

Le persone sono ciò per cui lottano. Privato della sua creatura, Turing non aveva più nulla per cui o contro cui lottare. Poi, nel 1952, la giustizia inglese lo condannò per omosessualità, un crimine che allora era grave quanto l'incesto e la necrofilia. Fu obbligato a sottoporsi alla castrazione chimica con una terapia ormonale, per evitare la detenzione o la castrazione chirurgica: tra l'altro, gli estrogeni gli fecero spuntare il seno. Disse agli amici più cari che aveva perso ogni interesse per le sue ricerche.

Quando aveva vent'anni, Turing era rimasto molto colpito dai versi della Strega Cattiva in Biancaneve e i sette nani di Walt Disney:

    Tuffa la mela nell'intruglio,
    impregnala col sonno della morte.

Due settimane dopo il suo quarantaduesimo compleanno, lunedì 7 giugno 1954, Turing mangiò una mela e andò a dormire. Sempre fedele alla sua mentalità da Robinson Crusoe, se l'era riempita di cianuro.

| << |  <  |  >  | >> |

Pagina 23

Eppure, come può essere una semplice macchina qualcosa di cui non possiamo prevedere esattamente il comportamento futuro? Può essere solo una macchina se il suo comportamento è cosi complesso da richiedere cento enciclopedie per essere descritto? Può essere una macchina se il suo comportamento cambia di ora in ora? La vasta gamma di programmi di computer che gestiscono la rete telefonica mondiale già consiste di centinaia di milioni di righe di istruzioni e possiede tutte e tre queste caratteristiche. Perciò il nostro sistema telefonico può già essere troppo complesso per essere descritto convenientemente come una «macchina». Però non è nemmeno umano.

I computer oggi raddoppiano la loro complessità ogni diciotto mesi: tra vent'anni probabilmente non avrà molto senso parlare di loro come «macchine». Anche se non è intenzionale o autocosciente, è difficile definire qualcosa una macchina se il suo comportamento è così complesso, reattivo e apparentemente intenzionale da assomigliare più a quello di un gatto che a quello di un tostapane. I futuri computer ci costringeranno a profondi cambiamenti nel modo di pensare a noi stessi e al mondo: ci costringeranno a vedere l'universo non diviso fra umano e non umano, vivente e non vivente, organico e inorganico, ma fra adattivo e non adattivo, organizzato e non organizzato, complesso e semplice. La loro stessa esistenza ci farà capire che è l'adattabilità, l'organizzazione e la complessità degli esseri viventi a renderli ciò che sono, e non il semplice fatto di essere costituiti da molecole organiche.

Man mano che i computer cresceranno in potenza e complessità nei prossimi cinquant'anni, la differenza fra loro e, almeno, gli animali più semplici, comincerà ad assottigliarsi, per poi svanire del tutto. Perché i computer sono davvero simili agli animali - in un senso rudimentale, ancora, ma simili sotto molti aspetti. Alla fin fine, è il comportamento che conta, non la forma.

| << |  <  |  >  | >> |

Pagina 38

Grazie a queste quattro caratteristiche, il ritmo di innovazione tecnologica nella produzione dei chip è semplicemente folle. Ora che l'industria dei computer sa come instillare il soffio della vita computazionale in una manciata di sabbia, le sue parole d'ordine sono diventate: più piccolo, più leggero, più economico e più veloce - soprattutto più veloce. Di conseguenza fra dieci anni i computer di potenza pari ai più avanzati computer attuali saranno semplici come i tostapane, fra vent'anni comuni quanto le penne, e fra trent'anni a buon mercato quanto i fermacarte. Perciò accaparrarsi il più caro computer di oggi per usarlo tra dieci anni sarebbe come conservare in frigo una palla di neve per lanciarla l'anno prossimo.

[...]

In questo regno della velocità e dell'infinitesimale un minuto dura quanto una vita e un'unghia è un territorio più grande di Londra e Manhattan messe insieme. Qui un atomo è qualcosa che si può vedere, e cento atomi fuori posto rappresentano un errore fatale. Osservando un chip al lavoro, sembra di sentire la musica soffusa dalle ali di un sogno. Il chip è il mandala del ventesimo secolo, un'icona della nostra lotta per conquistare l'ordine sul caos, un'immagine del nostro mondo, scritta con sabbia e dotata di grazia cristallina, intricata e profondamente suggestiva: informazione resa tangibile.

| << |  <  |  >  | >> |

Pagina 78

    Il passato è solo l'inizio di un inizio,
    e tutto ciò che è ed è stato
    è solo il crepuscolo dell'alba.
    H. G. Wells
    La scoperta del futuro

La preistoria (priva del 1945) Nessuno aveva dei computer con cui giocare. Non succedeva nulla.

Il paleolitico (1946-1964) I computer esistevano, ma erano fin troppo inaffidabili, costosi, e difficili da usare. In quest'epoca semipreistorica quasi nessuno vi aveva accesso. Anche a metà del paleolitico non esistevano computer commerciali, ma erano tutti strumenti di laboratorio, costruiti uno per volta, prototipi delicati, usati quasi esclusivamente a scopi militari e di ricerca scientifica: erano cosi grandi e costosi che attorno a loro si sviluppò una casta di sacerdoti, per proteggerli, servirli e brillare di riflesso alla luce della loro gloria.

Proprio alla fine del paleolitico, comunque, videro la luce i primi rozzi linguaggi per computer e i primi minicomputer di successo commerciale.

Il neolitico (1965-1971) I computer diventarono un po' più facili da usare, grazie ad alcuni linguaggi abbordabili, ma ancora primitivi. Le macchine iniziavano a calare di prezzo, ma erano ancora fin troppo costose e inaffidabili per gran parte delle utilizzazioni: per lo più erano dei goffi bestioni bisognosi di grandi cure e attenzioni. I sacerdoti continuavano a tenere lontano chiunque altro: rendere il computer più semplice da usare avrebbe solo minacciato la loro posizione.

Verso la fine del neolitico alcuni computer furono finalmente dotati di schermo e tastiera. Anche i programmi che facilitavano il funzionamento della macchina iniziavano ormai a diventare comuni.

L'età oscura (1972-1981) Nacque il microprocessore, e i linguaggi cominciarono a migliorare un po', anche se molti dovevano continuare a servirsi di schede perforate e di altre tecnologie neolitiche. A quei tempi i computer erano ancora in gran parte appannaggio di grandi aziende, università, istituzioni governative. I sacerdoti cominciavano a estinguersi, anche se la loro manomorta continuava a controllare la semplicità d'uso dei computer.

Verso la fine di questo periodo, i prezzi crollarono e la potenza andò alle stelle: apparvero i personal computer commerciali e le schede perforate scomparvero quasi del tutto.

Il medioevo (1982-1992) C'erano i personal computer, ma non avevano ancora abbastanza memoria e velocità per fare qualcosa di davvero utile, ed erano troppo grossi e rozzi per essere portati agevolmente in giro. L'attrezzatura software era ancora di basso livello, ma almeno era ormai di uso comune.

Proprio alla fine del medioevo i computer portatili diventarono finalmente maneggevoli. Anche se erano ancora costosi e avevano batterie deboli e schermi scadenti, milioni di persone cominciarono a servirsene.

L'età moderna (dal 1993 a oggi) I computer continuarono a diventare più economici, più veloci, più piccoli e più potenti; inoltre iniziavano a parlare tra loro grazie alle reti telematiche internazionali e avevano ormai abbastanza memoria e velocità da cominciare a fare davvero qualcosa di utile. Erano ancora poco affidabili, anche se un po' più di prima: continuavano puntualmente a rompersi, e per le ragioni più stupide.

| << |  <  |  >  | >> |

Pagina 89

Perciò i programmatori sono una razza speciale di ingegneri. Come gli altri ingegneri, devono anzitutto decidere quali sono i requisiti delle macchine che hanno in mente e poi devono cercare il modo di realizzare questi requisiti come applicazioni di macchine già disponibili, sia materiali che immateriali. Ma diversamente dalla maggior parte degli altri ingegneri (che costruiscono per lo più oggetti materiali come dighe, raffinerie, dinamo) i programmatori hanno solo l'esigenza di trasformare una macchina di utilizzo generale in una macchina di utilizzo particolare. Oltre a ciò, per lavorare hanno il privilegio di poter usare le parole al posto di ferro e cemento. Perciò programmare è molto più affine allo scrivere, allo scolpire e al dipingere che non al costruire una casa. Gli altri ingegneri non lavorano con macchine che possono trasformare a loro capriccio in elicotteri o in tostapane.

[...]

Le parti materiali dei computer odierni di solito svolgono solo dei compiti semplici (come sommare, sottrarre, e così via), perché costerebbe troppo costruire delle macchine più complesse in termini di hardware. Se potessimo permettercelo, potremmo quindi costruire così, in hardware, le estensioni della macchina più semplice, il che renderebbe allora evidente che si tratta di macchine tanto reali quanto delle falciatrici. Ma far questo, allora, ci porterebbe agli orologi da un milione di pezzi, grandi come case, che ci costerebbero quanto l'acquisto di una piccola nazione europea. È molto più facile e più economico costruire queste estensioni in termini di software. Così, il software sostituisce l'hardware: ci permette di usare il cervello al posto dei muscoli.

Il vero motivo per cui i computer ci sembrano così magici dipende dalla loro capacità di trasformare le parole in fatti. In sostanza, il software è conoscenza condensata e questo confonde le nostre normali distinzioni tra pensiero e realtà: programmare è come trasformare la musica in palazzi.

Questo ci conduce ancora una volta al cuore del mistero: come il golem, un computer non è solo qualcosa contro cui si può andare a sbattere; è l'intero complesso di capacità che gli abbiamo fornito, tramite sia l'hardware che il software. Può fare qualunque cosa noi siamo in grado di costruire o di esprimere. Questo rende la programmazione un incrocio tra l'ingegneria e la narrativa.

| << |  <  |  >  | >> |

Pagina 104

Ciò non deve sorprenderci. La scienza dei computer, a soli cinquant'anni, è ancora estremamente giovane. Le nuove leve di programmatori possono ancora vedersi attorno i brizzolati veterani del campo, che hanno trenta, o anche quaranta o cinquant'anni di esperienza, e ascoltare le vecchie leggende di quando il loro mondo era giovane. Le storie che i veterani tramandano alle nuove generazioni raccontano di inizi in cui tutti potevano fare tutto, non esisteva nulla di simile a una programmazione rigorosa. Ma poi ci furono alcuni clamorosi errori dei computer: missili che esplosero, impianti chimici che provocarono dei disastri, incidenti aerei. I programmatori allora cercarono di trovare degli strumenti che li aiutassero a domare la bestia nera della complessità, e si aggrapparono alla logica.

La loro mossa era del tutto naturale: la logica era già familiare ai matematici, agli ingegneri e agli scienziati che costruivano e utilizzavano i computer più vecchi. Inoltre molti di coloro che avevano a che fare con i primi computer erano loro stessi dei matematici o dei fisici, o possedevano comunque forti tendenze matematiche. Ben presto, la logica risultò fondamentale per il funzionamento del computer, ma soprattutto conferì una certa rispettabilità a un campo ancora giovane e poco sicuro di sé.

Purtroppo, però, la logica tradizionale non offre un grande aiuto per problemi che implicano l'incoerenza, la ridondanza, e la variabilità degli obiettivi, tutte cose con cui ci si scontra quando si ha a che fare con la gente. La logica è uno strumento efficace per uno stile di pensiero coerente, preciso e mirato, proprio perché è deduttiva e sfrutta ciò che ha già a disposizione, mentre non è induttiva né aiuta a esplorare nuovi territori; richiede un lungo tirocinio e una mente di tipo formale, per cui pochi di noi sono in grado di padroneggiarla. L'universo è disordinato, proprio come noi, perciò lo sviluppo di grandi sistemi informatici si configura molto più come una branca della psicologia, della sociologia o dell'antropologia, che non della logica.

| << |  <  |  >  | >> |

Pagina 128

Anzitutto, fu costretto a restringere drasticamente il tipo di problemi che si poteva far risolvere alla sua macchina: prima di poterla usare, bisogna essere in grado di esplicitare il problema in termini precisi ed esaustivi. Se un problema non è esplicitabile in un limitato numero di termini, definiti precisamente e ben comprensibili, non può essere risolto, nemmeno in parte. Turing non progettò le sue macchine (almeno, non al principio) per risolvere dei problemi aperti che potevano richiedere un tempo infinito per essere specificati completamente. Ad esempio, non erano progettate per risolvere l'enigma della vita o quello del controllo di un essere vivente attraverso l'esperienza di una vita intera: i problemi di significato e di sopravvivenza si modificano troppo col passare dei giorni.

In secondo luogo, Turing dovette fingere che quando noi tentiamo per la prima volta di risolvere un problema, sappiamo già come risolverlo: ma naturalmente spesso non lo sappiamo, e spesso non siamo neanche sicuri di quale sia il problema di preciso. Sicuramente non deduciamo prima l'intera soluzione in tutti i suoi complessi dettagli, per poi seguire una rotta prescritta: se gli studiosi avessero dovuto fare così per scrivere i loro libri, non ci sarebbe neanche un libro.

| << |  <  |  >  | >> |

Pagina 136

Guardando indietro alla strada che abbiamo percorso finora, possiamo vedere che i limiti dei computer consistono per lo più nei limiti della nostra immaginazione: la computazione è come è, oggi, grazie alla storia che occupa nella matematica e nella filosofia, alla storia dei limiti tecnici del suo hardware, e all'economia e alla sociologia della produzione, del mercato e della salvaguardia dell'hardware e del software. I successi iniziali nel risolvere cruciali problemi pratici (come centrare gli aerei nemici prima che vi riducano in cenere o come produrre in serie e vendere delle macchine fatte con un hardware lento e rumoroso) hanno irrigidito il nostro approccio in quello che abbiamo oggigiorno. Ma questo non lo rende l'unico possibile.

Hilbert cercò di ridurre tutta la matematica a una deduzione priva di senso; più tardi Turing cercò di ridurre tutta la soluzione dei problemi a una manipolazione di simboli senza senso: ambedue questi atti creativi sono stati enormemente importanti per condurci dove siamo, ma nessuno dei due riesce a catturare del tutto la complessità e la ricchezza della problematica originaria. Gli odierni ingegneri di computer sono gli eredi diretti della visione del mondo di Hilbert: la sua visione della matematica, comunque, è interessata alle deduzioni da una teoria, mentre la scienza, come la vita, è di solito più interessata alle induzioni verso una teoria. Gli scienziati costruiscono teorie per cercare di spiegare e di prevedere le cose che vedono accadere intorno a loro; nella vita, però, non c'è mai nessuna garanzia che tali teorie siano corrette.

Risolvere un problema o creare un programma non è un'operazione istantanea come fare i ravioli con uno stampino; è più simile a fare un ferro di cavallo: prima battiamo sul metallo fuso, poi lo lasciamo raffreddare in una forma precisa; se non va bene lo scaldiamo di nuovo e lo battiamo un altro po': è un atto di creatività. Analogamente, gli aspetti più importanti della programmazione sono molto più confusi, e molto più interessanti, del puro e semplice controllo meccanico di tutte le possibilità. La programmazione, più che procedere ineluttabilmente dalla bruta ignoranza al nirvana della conoscenza assoluta, va avanti e indietro, come tutte le altre imprese umane: tutta la conoscenza umana cresce solo grazie a congetture e confutazioni, critiche e correzioni, ipotesi ed errori.

| << |  <  |  >  | >> |

Pagina 152

Pare che non esista un unico luogo del cervello in cui voi siete voi stessi; dopo più di un secolo di studi, in nessuna vittima di lesioni cerebrali è mai stata riscontrata una lesione localizzata che causasse la perdita della capacità di prendere decisioni: una perdita del genere si verifica, ma solo in seguito a lesioni in molte parti diverse del cervello. Ciò non è molto sorprendente, perché è probabile che il nostro cervello sia stato costruito da un processo inconscio e casuale che non aveva alcun mezzo per tornare sui propri passi e mettere alla prova dei progetti totalmente nuovi. Il cervello è così complesso e ridondante perché ogni sua parte si è evoluta, nel corso di milioni di anni, per sfruttare qualche particolare incidente storico o qualche limitazione fisica. Le tante parti diverse che funzionano insieme per produrre ciò che chiamiamo intelligenza, probabilmente, si sono evolute separatamente e per motivi diversi, e poi lentamente, nei millenni, si sono unite insieme.

L'intelligenza, perciò, è più simile a un complesso insieme di diverse capacità altamente specializzate che non a una caratteristica singola e unica per ogni individuo. Possiamo quindi immaginare il cervello più come una melagrana che come una mela: una serie di centri privi di un nucleo centrale di controllo che dica alle varie parti cosa fare. Come in uno sciame di api, nel cervello non c'è un punto che voi possiate indicare e dire «Ecco, io sono qui», proprio come non si può indicare un'ape qualsiasi nello sciame e dire che lo sciame è lì.

Tutto questo ci conduce al problema di cosa sia la mente: [...]

| << |  <  |  >  | >> |

Pagina 159

Nei secoli, con l'avanzare della scienza, innumerevoli volte abbiamo dovuto rinunciare al nostro posto al sole: oggi la possibilità di una intelligenza meccanica minaccia il nostro ultimo avamposto. Alcuni possono rifiutarsi di accettare l'idea che noi siamo solo delle macchine complesse (o l'idea che delle macchine complesse possano un giorno diventare intelligenti quanto noi) per lo stesso motivo per cui rifiutavamo l'idea che la Terra gira intorno al Sole o che gli scimpanzé sono i nostri cugini genetici: queste idee sembravano sminuire la nostra importanza, ma comunque col tempo il nostro attuale disagio scomparirà. In passato ci siamo sentiti intimiditi da macchine che correvano più veloci di noi, trainavano con più potenza di noi, trivellavano più profondamente di noi, tessevano più stoffa di noi, stampavano libri meglio di noi, o volavano mentre noi non potevamo, ma ormai non ce la prendiamo più con le automobili, o le presse da stampa, o i motori a vapore, se sotto certi aspetti sono più bravi di noi. Oggi le macchine funzionano in modo più duraturo, più potente, migliore, più economico e più veloce di quanto noi non abbiamo mai saputo fare, e un giorno accetteremo, allo stesso modo, dei pensatori artificiali. Forse.

Il guaio è che noi abbiamo alla fine accettato tutte queste altre macchine, tutti questi schiaffi all'ego corporeo dell'umanità, perché potevamo sempre consolarci con la nostra superiorità di pensiero: ma con cosa potremo consolarci se costruiremo delle macchine pensanti che alla fine ci sorpasseranno? Se non avremo più un ruolo, non avremo nessuna partecipazione nel processo decisionale: e nessuna partecipazione vuol dire nessun significato per la nostra vita; nessun significato vuol dire nessuna dignità; nessuna dignità vuol dire nessun futuro; nessun futuro vuol dire nessuna speranza.

| << |  <  |  >  | >> |

Pagina 163

Primo, oggi noi siamo di gran lunga più complessi di qualsiasi computer: da un punto di vista intellettuale non abbiamo niente da temere da parte loro per molte decine di anni.

Secondo, i computer attuali non funzionano come noi, anche se siamo entrambi manipolatori di informazioni, parlando in generale.

Terzo, non abbiamo alcun motivo di credere che il nostro modo di pensare sia l'unico possibile.

Quarto, è molto probabile che i computer di domani saranno radicalmente diversi da quelli di oggi.

Quinto, i nostri problemi sono ormai diventati così grandi e complessi che non possiamo più sperare di risolverli servendoci dei nostri metodi tradizionali di controllo totale: abbiamo un disperato bisogno di programmi di computer che siano in grado di adattarsi alle situazioni nuove per svolgere meglio i loro compiti, e un'enorme quantità di risorse e di intelligenza sta perseguendo questo obiettivo.

Sesto, se riusciremo a rendere adattivi i computer, essi diventeranno incontrollabili, è vero, ma lo diventeranno soltanto più in fretta.

Settimo, probabilmente non siamo in grado di costruire qualcosa di così complesso come una macchina intelligente partendo dall'alto e scendendo verso il basso, cioè comprendendo e controllando tutti i minimi dettagli: ma forse possiamo costruirne una (o meglio «crescerne» una) dal basso verso l'alto, cioè permettendole di adattarsi alle nuove situazioni che si verificano, e rinunciando a parte della nostra capacità di comprenderla e di controllarla.

Ottavo, le prestazioni dei computer raddoppiano ogni anno e mezzo, mentre noi non cambiamo affatto: una differenza tanto enorme nel ritmo di cambiamento vuol dire che pochi costosi computer potrebbero diventare complessi quanto noi nel giro di trent'anni, o anche meno, a seconda del progresso tecnologico.

Nono, e ultimo, i sistemi adattivi complessi, come per esempio i bambini, alla fine diventano indecifrabili, e poi incontrollabili: crescono.

| << |  <  |  >  | >> |

Pagina 165

        A metà della parola che stava per dire,
        A metà della sua risata gioiosa,
        D'un tratto era svanito dolcemente:
        Perché lo Snark era un Boojum, sapete?
        Lewis Carroll
        La caccia allo Snark

Oggi, grazie a ciò che stiamo imparando sulla nostra mente, cominciamo a vedere i computer come macchine immateriali, spettri dentro dispositivi fisici, e noi stessi come spettri dentro la macchina del nostro cervello. Assodato questo, alcuni di noi ne dedurranno inevitabilmente che se l'intelgenza è qualcosa che le macchine possono avere, allora forse siamo anche noi delle macchine, anche se estremamente complesse. Accettare questa conclusione potrebbe avere conseguenze serie sul modo in cui noi ci comportiamo l'uno con l'altro: se siamo macchine, allora forse dovremmo cercare di riprogrammare direttamente i criminali in vista di un comportamento corretto, invece di cercare di riabilitarli. E già che ci siamo, perché non riprogrammare anche i nostri bambini in vista di un comportamento migliore? Tali questioni etiche forse non appartengono alla tecnologia che un giorno produrrà delle intelligenze meccaniche, ma rappresentano le sue estreme conseguenze.

| << |  <  |