I tidskriften Axess temanummer om teknikens faror skriver jag om de två klokaste ord som den västerländska civilisationen hittills har frambringat: Γνῶθι σεαυτόν. ”Känn dig själv.”

Om vi inte förstår våra känslor, behov och reaktioner kommer vi aldrig att kunna utveckla teknik som är nyttig för oss.

Om man har förstått detta förstår man också att alla frågor av typen ”kan vi kontrollera AI?”, ”är AI farligt?” eller ”hur ska vi lära oss utnyttja AI på bästa sätt?” inte är något annat än villospår. Börja aldrig med tekniken. Börja med människan. Fråga dig vilket framtida samhälle som skulle vara önskvärt och människovärdigt. I nästa steg kan du sedan fråga dig vilken teknik vi behöver utveckla för att nå dit. Då hamnar tekniken på rätt plats, och den får en uppgift där den kan utveckla hela sin imponerande kapacitet: som medel för att nå ett mål.

Ska inte tekniken utmana gränser? Jodå, men det är märkligt att de som omfamnar disruptiv teknologi är så noga med att aldrig överskrida en viktig gräns inom sig själva – den som leder till ökad självkännedom. Barnsliga och oanalyserade känslomässiga behov gör att vi önskar att vi kunde ha samma sociala relationer till våra verktyg som vi bara kan ha till våra medmänniskor. Vi önskar oss ett verktyg som ska vara något annat än ett verktyg – det ska vara en kompis, en förälder eller en gud. Det ska vara så fulländat att vi själva blir överflödiga. Vi ska inte behöva utveckla något omdöme: maskiner som analyserar oöverskådliga datamängder kommer att fatta bättre beslut. Vi kan fortsätta bete oss som omogna egoister eftersom blockchain garanterar att bedrägerier blir omöjliga att genomföra. Vi ska inte behöva lära oss teckna eller fotografera: bildgenererande program kan förverkliga varje hugskott på ett ögonblick.

Vad betyder den sortens önskningar? De har en sak gemensam: vi ska äntligen slippa oss själva. Vi vill slippa ifrån vårt ansvar och vårt medvetande. Det är vad jag misstänker att de stora satsningarna på AI handlar om. I så fall kunde vi uppnå samma resultat snabbare och billigare med en pistol.

Läs artikeln här: Du känner inte dig själv.