Kurzweil tänker smått

12 februari 2011 av H. | 10 kommentarer · Essäer

Framtidsvisionären Ray Kurzweil sticker upp huvudet igen, denna gång i Time. Det ger mig lust att åter lägga upp den artikel jag skrev för Ord & Bild för några år sedan. Varsågoda: Kurzweil tänker smått.

______

På sidan 291 i framtidsvisionären Ray Kurzweils senaste bok, The Singularity is near, finns en teckning av en svettig man som sitter vid ett bord och skriver ner vilka egenskaper som ännu skiljer människor från datorer. Han tejpar upp sina påståenden på väggen, men ett efter ett faller de ner allt eftersom datorerna erövrar nya områden. ”Bara människor kan förstå tal” och ”Bara människor kan komponera som Bach” har redan fallit. ”Bara människor kan spela baseball” och ”Bara människor håller presskonferenser” hänger dock med ett tag till. Man förstår vartåt det lutar, och avsikten är att läsaren, liksom Kurzweil själv, ska småle åt det hopplösa i mannens situation.

Ray Kurzweil är kanske ännu inte känd utanför en begränsad krets, men att de där lapparna på teckningen har börjat sitta löst är till viss del hans förtjänst. Han är en framgångsrik IT-pionjär med en rad tekniska genombrott på meritlistan, bland annat har han utvecklat det första programmet som kan scanna text och läsa upp den med syntetiskt tal. 1990 påstod han att en dator skulle besegra världsmästaren i schack innan årtiondet var slut, och fick rätt (IBM:s Deep Blue slog Kasparov 1997). Sedan dess har han lagt fram sina tekniska visioner i ett antal böcker: Kurzweil befinner sig längst fram bland dem som formulerar vår tids föreställningar om artificiell intelligens och framtida teknologi.

Idag ger en vanlig laptop åtta miljoner gånger mer datorkraft per krona än en IBM 7094 från 1967. Ritar man ett diagram över hur processorhastighet och minneskapacitet har ökat, säger Kurzweil, ser man att punkterna bildar en exponentiell kurva. En sådan kurva börjar mjukt och ser ut att vilja krypa längs marken, innan den accelererar och skjuter iväg uppåt som en raket, en vändning som kan komma överraskande (tänk på historien om riskornen på schackbrädet). Det intressanta är förstås att följa den här kurvan in i framtiden, när den börjar stiga på allvar, och det är vad Kurzweil har gjort i The Singularity is near. Bokens grundtanke är att den teknologiska utvecklingen följer en exponentiell kurva som vi ännu bara sett början av.

Kurzweil presenterar följande scenario. För att simulera samtliga nervimpulser i en mänsklig hjärna antas en dator behöva utföra 1019 beräkningar i sekunden. Med nuvarande utvecklingstakt kommer sådana datorer att vara vanliga omkring år 2020. 2030 kommer en dators beräkningskapacitet att motsvara samtliga levande människors hjärnor. 2040 motsvarar världens samlade datorer en miljard mänskligheter. Och 2045 inträffar något som han (och andra hypervisionärer, som Vernor Vinge och Hans Moravec) kallar ”the Singularity” – en big bang av artificiell intelligens, som kommer att överträffa allt vi någonsin kan föreställa oss.

Inom biotekniken pågår en liknande exponentiell utveckling. Att knäcka HIV-virusets genetiska kod tog 15 år, SARS-viruset lästes på en månad. Vid forskningens frontlinjer håller bioteknik och datateknik på att smälta ihop. Kurzweil beskriver hur forskare runt om i världen är sysselsatta med att bryta ner hjärnans komplexitet i lagom små, lösbara delproblem som tacklas ett efter ett, inte för att kopiera naturens lösningar, utan för att inspireras av dem. Förhoppningen är att kunna återskapa grundprinciperna för människans intelligens i en dators miljontals gånger snabbare kretsar. På ett labb har man lyckats få en apa att styra en robot med tanken, på ett annat har en mikrorobot, byggd av DNA-fragment, tagit sina första steg. Med The Singularity is near vill Kurzweil visa att forskningen inom datateknik, genetik och nanoteknologi närmar sig den punkt där den exponentiella kurvan böjer av uppåt och skjuter fart: de kommande fyrtio årens utveckling inom dessa områden kommer att förändra mänsklighetens villkor mer än de senaste fyrtio tusen åren, påstår han.

För Kurzweil är allt det här intressant av ett enda skäl: de möjligheter det ger oss att bygga om människokroppen, och resten av världen, som vi vill ha den. Hjärnans elektrokemiska signalsystem är ”very inefficient”, och kroppen är ”dramatically suboptimal”, skriver han. Snart kommer vi emellertid att kunna ändra på det: ”biology will never be able to match what we will be capable of engineering.” Kurzweil hoppas att gentekniken ska ge oss möjligheten att bromsa åldrandet och så småningom avskaffa döden (varvid den som vill försvara det mänskliga hamnar i den absurda positionen att han tvingas försvara döden). Överlägset snabba digitala kretsar ska byggas in i hjärnan, och så småningom ersätta den helt: ”then our minds won’t have to stay so small.” Miljontals små nanorobotar kommer att cirkulera i blodkärlen och städa bort cancerceller. Och i förlängningen ser nanotekniken ut att kunna ge oss möjligheten att manipulera all materia atom för atom och molekyl för molekyl med samma lätthet som pixlarna i ett dataprogram, så att vi kan sätta samman vad som helst ur en handfull lösa atomer: en guldtacka, en biff, en dildo eller vad vi nu förmår önska oss.

Genom alla små kurvor och mönster tycker sig Kurzweil se att livets utveckling de senaste tre miljarder åren passar in i en enda stor exponentiell kurva: från bakterier, över människor, till framtidens överlägsna artificiella intelligenser. Meningen är inte att de ska ersätta oss, utan att vi gradvis ska bli dem.

Man kan förstås tvivla på Kurzweils tidtabell och på hans försäkringar om att utvecklingen inte kan plana ut (når tekniken ett hinder inträffar bara ett paradigmskifte som gör det omöjliga möjligt, skriver han, därefter kan utvecklingen accelerera vidare). Vilka fantastiska bilar skulle vi inte ha idag om bilen hade fortsatt att utvecklas i samma takt som under de första trettio åren. Å andra sidan: en dator är inte en bil. Bilens utvecklingsmöjligheter är begränsade: det är varken möjligt eller önskvärt att förlänga dess egenskaper in i det oändliga (200 miljoner hästkrafter? 4 miljoner passagerare?); en miljard gånger snabbare datorer är en annan sak. Men hur vet vi att mänsklig intelligens inte är en ”bil”? Kurzweil tar för givet att intelligens är något som kan expandera i det oändliga: han ifrågasätter aldrig tanken att en dator som utför en miljard gånger fler operationer än en hjärna kommer att bli en miljard gånger intelligentare.

John Searle, filosofiprofessor vid Berkeley och en av Kurzweils kritiker, har invänt att även om en dator kan simulera medvetna reaktioner innebär det inte att den har medvetande. Deep Blue var inte medveten om att den spelade schack, lika lite som en symaskin är medveten om att den fållar en gardin. Searle tror att en dator som kan simulera medvetet tänkande inte kommer att förändra människans position på något väsentligt sätt, eftersom den egentligen inte tänker. Jag misstänker dock att frågan om en dator verkligen har medvetande eller inte är irrelevant. En dator som någorlunda väl kan ge illusionen av att den talar med oss kommer att tvinga oss att förhålla oss till den som om den levde, inte på grund av vad den är, utan på grund av vår natur. Vi är inställda på att bekräfta och söka bekräftelse från levande, kännande varelser av vårt eget slag, och allt som uppför sig som om det kommunicerade med oss kommer vi att behandla som om det var vid medvetande. Vi kommer inte att kunna undvika att börja prata med en sådan maskin och försöka leva oss in i vad den tänker, lika lite som en nykläckt ankunge kan undvika att präglas på det första den ser, även om det är en tennisboll. Och om maskinen tänker ”bättre” än vi, kommer vi att vara alltför beredda att anpassa oss till den. Den sortens anpassning är vi bra på.

Istället skulle jag vilja angripa Kurzweil från ett annat håll. Det som stör mig i hans bok är inte den sofistikerade teknik han skisserar utan de osofistikerade värderingar som ligger bakom alltihop, och som får honom att önska sig den där tekniken. Vi ska bli mer intelligenta, skriver han flera gånger, men vad menar han egentligen med intelligens? Han citerar AI-forskaren Eliezer Yudkowsky: ”There are no hard problems, only problems that are hard to a certain level of intelligence. Move the smallest bit upwards [in level of intelligence] and some problems will suddenly move from ‘impossible’ to ‘obvious’. Move a substantial degree upwards, and all of them will become obvious.” Det är en definition av intelligens som inte skiljer sig särskilt mycket från en definition av rå styrka: går det inte med våld, så går det med lite mer våld. Det finns ju heller inga tunga stenar, bara stenar som är svåra att lyfta om man är för svag. För Kurzweil är intelligens lika okomplicerat som hästkrafter: mer är bättre. När någon talar så mycket om intelligens som Kurzweil gör kunde man önska sig att det inte vore fullt så enkelt att ersätta ordet ”intelligens” i hans bok med ”muskler”.

Kurzweil beskriver sig själv som en ansvarsfull etiker, men säger kort därefter att kloning av människor är oetiskt av det enda skälet att tekniken ännu inte fungerar pålitligt. Med andra ord: allt som fungerar tekniskt, eller som vid en första anblick ser ut att göra det, är okej. Att kalla den uppfattningen ”etik” är bara ett finare sätt att säga ”gasen i botten”. Den komplexa teknik han beskriver kan i början förleda läsaren att tro att hans resonemang om tekniken är lika komplexa, men bakom de spännande beskrivningarna av framtida teknik arbetar Kurzweil med förvånansvärt enkla begrepp. Hans föreställningar om ”intelligens”, ”teknik”, ”framsteg” och ”bättre” är lika entydiga och lika positiva som färgerna i en pekbok, där solen alltid är gul och marken grön. När man läser The Singularity is near är det som om 1900-talet, med dess två världskrig och växande miljöproblem, aldrig hade hänt. Hade vi inte ganska nyligen dragit slutsatsen att strävan efter ett släkte av perfekta människokroppar är något ganska obehagligt? Nu är vi tydligen på väg att hamna där igen, inte via rasistisk pseudovetenskap utan via den forskningsfront där bioteknik och datorer möts. Man verkar tro att det ska gå bättre den här gången – som om felet förra gången låg i bristen på vetenskaplighet och inte i de bakomliggande värderingarna.

”Then our minds won’t have to stay so small”, skriver han. Men Kurzweil tänker inte stort, han tänker bara ”mer”. Vad har han tänkt att vi ska använda våra eviga liv till? Tja, till exempel kommer vi att kunna äta hur mycket vi vill utan att bli tjocka, föreslår han. Matsmältningsapparaten ska konstrueras om, så att ätandet frikopplas från kroppens näringsupptag och blir till ren njutning. Just för att Kurzweils föreställningar om människan och om intelligensen är så begränsade frestas han att inte tänka i några andra dimensioner än ”mer” och ”fortare” – det är den enda riktning i vilken hans idéer låter sig utvecklas. I början av boken beskriver han hur mycket datorkapacitet som kan utvinnas ur en kubikcentimeter materia om vi pressar fysikens lagar till max. Resonemanget är fascinerande att följa, men Kurzweil är inte nöjd länge. Snart börjar han fundera på om det inte går att höja ljushastigheten på något sätt, för att nå ännu fler beräkningar per sekund. Saknar vi mening eller närvaro vill vi gärna ersätta det med mer av något som i grunden slutat betyda något för oss. Även faraonerna önskade sig mer mat och ett evigt liv: Kurzweils idéer är inte mer cutting edge än så.

I grunden är Kurzweils vision inte någonting annat än en vision om makt. Den tekniska utvecklingen ska ge oss en framtid där människan äntligen kan kontrollera varje aspekt av tillvaron. Vilken kropp vill du ha ikväll? Vilka stjärnbilder vill du se i natt? Det är den framtid Kurzweil lockar med, så stor och så liten är hans vision, för ingenting kan ju vara bättre än att alltid få bestämma själv. Att få bestämma över universum på exakt samma sätt som ett ungt, förmöget par bestämmer hur de ska inreda sin nya lägenhet. Han beskriver hur vi skulle kunna förvandla en hel planet, eller all materia i ett solsystem, till en superdator, men hans föreställning om vad vi ska använda denna makt till förblir oklar, och konsekvenserna av den verkar han inte ha tänkt på.

Total makt kan verka lockande utifrån vår nuvarande position (som inte är fullt så maktlös som Kurzweil behöver framställa den), men jag misstänker att om vi uppnår den totala makt han hoppas på kommer vi att upptäcka att den är identisk med den totala meningslösheten. Eller med det perfekta helvetet. Om jag vill ha den där flickan och hon inte vill ha mig skulle jag, i den framtid Kurzweil beskriver, kunna skapa en virtuell kopia, intelligent nog att efterlikna alla hennes reaktioner. Kanske frestar det någon. Men resonemanget innehåller ett grundläggande fel. Det förutsätter att jag kan behålla samma viljor, känslor och förhoppningar som idag, trots att jag fått makten att uppfylla dem alla på ett ögonblick. Det kommer jag inte att kunna göra. Om jag får den makten kommer den först av allt att fräta bort grunden för en stor del av det som är jag.

Att kritisera Kurzweils visioner innebär inte att vara emot ”utvecklingen”. Det innebär istället att visa hur smal hans framtidsvision är. ”Framåt” är inte en riktning, framåt är 360 grader. Från den punkt där vi står nu strålar en mängd möjliga framtider ut i alla kompassens riktningar. Vi borde kunna föreställa oss en anspråksfullare framtid än Kurzweils.

Och det innebär att visa att det inte handlar om ”an inexorable [obönhörlig, oundviklig] progression towards vastly superior nonbiological thinking”. Den framtid vi får är ingen obönhörlig, självgående process, den är följden av en lång rad mänskliga viljor och beslut. Om vi i framtiden blir tvungna att förhålla oss till överlägsna artificiellt intelligenta medvetanden är det för att vi har ansträngt oss för att hamna just i den situationen, inte av något annat skäl. Att kritisera Kurzweil handlar om att synliggöra allt det hårda, envisa arbete som krävs av teknikerna innan en dator med en elegant gest kan bevisa att den är överlägsen oss, i schack eller på något annat område. Vad driver alla dessa forskare? Varför är det så viktigt att skapa en maskin som kommer att göra människan meningslös? Vad är det för desperat triumf de vill uppnå?

Just på grund av dessa invändningar vill jag rekommendera Kurzweils bok. Den öppnar dörren till labben och ger en grundlig översikt över vad som är på gång vid forskningens frontlinjer, och presenterar de idéer som cirkulerar bland dem som tänker bortom frontlinjerna, långt mer än vad som ryms i den här artikeln. Ju fler som känner till och diskuterar dessa idéer desto bättre – då riskerar vi inte att överraskas av denna teknologi när den presenteras som ett fullbordat faktum. Som en motvikt vill jag rekommendera Jaron Laniers artikel ”One-half of a manifesto” och Bill Joys ”Why the future doesn’t need us”. Joy och Lanier är tunga namn inom IT-världen som blivit kritiska mot teknikoptimism av Kurzweils slag. Mer av Kurzweil finns att läsa på hans webbsida kurzweilai.net.

_____

Ray Kurzweil, The Singularity is near, Viking 2005

Tidigare publicerad i Ord & Bild 2 2008.

Tags:

10 kommentarer

  • 1 Helena | 13 februari 2011, 21:37

    huga … jag går med i försvara-döden-klubben, vilken dag som helst.

  • 2 H. | 14 februari 2011, 19:26

    Försvara döden-klubben behöver ett snyggt motto! Kanske ”Because you’re worth it”?

  • 3 Helena | 15 februari 2011, 08:53

    Haha, ja! Jättesnyggt. Kanske på en tröja? ”Death – because you’re worth it”

  • 4 Lars Larsen | 16 februari 2011, 10:12

    Hàkan, bra att du lyfter fram den jákeln Kurzweil. Har sjálv skrivit om honom pà min blogg. Man tror knappt att det ár sant, att det existerar sà tróga hjárnor som hans. Han ár nog toppen pà all den idioti jag nàgonsin har stótt pà. Sà dum blir man nár man ár omoralisk.

    Jepp! Fórsvara dóden!

  • 5 Magnus | 16 februari 2011, 12:51

    ”Death is not Enough” är titeln på en gammal bok (Michael Franklin heter förf) som lär ha inspirerat Erik Lindegren under det han skrev ”mannen utan väg”. Som ‘reclaimande’ av döden är det en bra början.

  • 6 Magnus | 17 februari 2011, 08:59

    Snygg artikel f ö, den borde ha stått på ett mera framskjutet ställe än Ord & Bild. Figurer som Kurzweil hittrar många läsare som är beredda att acceptera utifrån en tanke att sådana här modeller och ståndpunkter endast ska bedömas utifrån ifall deras premisser är vetenskapliga eller på annat sätt känns sanna, inte utifrån om ståndpunkten hänger ihop eler vart den leder. Och vad som är premissen och huruivida den är ”vetenskaplig”, det är naturligtvis ofta något man kan avgöra ad hoc, det viktiga är att man får till ett förment ”vetenskapligt” argument att ställa emot ”bara åsikter”. Suck.

  • 7 H. | 17 februari 2011, 22:29

    Lars: kul att höra från dig – och kul att vi åtminstone kan enas om något, även om det är döden!

  • 8 rbrt | 19 februari 2011, 09:48

    Något annat som jag tycker att han missar – det omedvetna som vi per definition inte vet mer om än att det är … omedvetet. Vad jag känner till bortser AI-forskare helt från detta samtidigt som CG Jung har blivit någon slags Einsteins motsvarighet inom neurovetenskapen, en forskare med ifrågasatta teorier som man i dagsläget empiriskt visar att han hade rätt. Antar att det har att göra med mysteriet, det okända, irrationella inte är något som kan tas med i det positivistiska, rationella tankesättet, (deras matematiska modeller) som dominerar AI. Vad har beräkningskapacitet förresten med hjärnans kapacitet att göra?

  • 9 H. | 19 februari 2011, 10:28

    rbrt: Var visar man empiriskt att Jung hade rätt? Jag skulle gärna läsa en länk eller två.

  • 10 M | 3 mars 2015, 03:41

    En av de mest insiktsfulla och sympatiska texter jag läst på 3 år! Jag har noggrant läst Aristoteles, Platon, Heidegger och översiktligt bekantat mig med Nietzsche, Hobbes, Rousseau, Locke och särskilt David Hume. Jag undrar när det maximala datorminnet kan ta min plats? Som människa, dvs dela min erfarenhet av 3000 lukter och erfarenheter. Av varje situation..

Kommentera