Vi har varit här förr.

Boken Computer Power and Human Reason är oerhört värdefull för att förstå människa-dator interaktion och den digitala maskinens påverkan på individ och samhälle.

Bokens författare, Joseph Weizenbaum, utvecklade den första chatbotten som människor blev övertygade om hade mänskliga förmågor.

Han förklarade senare sin förvåning: "Vad jag inte hade insett var att extremt korta exponeringar för ett relativt enkelt datorprogram skulle kunna framkalla kraftfulla vanföreställningar hos helt normala människor."

Chatbotten byggde Weizenbaum 1966. Boken kom ut 10 år senare, 1976. Hans chattbot ELIZA gav oss alltså “ELIZA-effekten" – fenomenet som innebär att någon projicerar mänskliga egenskaper — såsom erfarenhet, semantisk förståelse eller empati — på datorprogram som är textbaserade.

Något som torde vara bekant för den som lever på 2020-talet.

Det finns inget neutralt över datorer, argumenterade Weizenbaum och gjorde skillnad på att ta beslut och att välja. Att välja kräver mänskligt omdöme — förnuft. Det går inte överlämna till datorer. Han pekade på hur datoriseringen ofta stärker förtryckande maktstrukturer snarare än stjälper dem.

När datorer får ta beslut som tidigare togs av människor har man fört vidare en aktörs värderingar som kommer få tydliga, icke-neutrala konsekvenser för de människor som sedan utsätts för detta institutionaliserade, maskinella beslutsfattande. Det påminner om Kerstin Anérs farhågor när hon myntade uttrycket ‘dataskugga’ i en essä från 1972:

“Man har slutsatser framför sig — men tror att det är råa fakta. Och så tillsätter, avsätter, dömer och utvärderar [man] en dataskugga, men den som får ta konsekvenserna är en människa av kött och blod.”

Världen som kommer ur detta arbetssätt är mer ojämlik och mindre rationell, menade Weizenbaum. Det får också människor att tänka på sig själva som inte mycket mer än maskiner.

För ett par månader sedan hittade jag den svenska översättningen på ett antikvariat. Översättaren heter Mats Dannewitz Linder. Inuti, hopvikt, fanns en urklippt artikel av folkbildaren Harry Bökstedt: Genombrott för "tänkande" datorn. Jag gissar att den är skriven tidigt 90-tal. Jag hittade den dock inte i Svenska Dagbladets arkiv, som var tidningen han oftast skrev för.

När han gick bort 2008 var Weizenbaum fortfarande en framträdande kritiker av artificiell intelligens, porträtterad i boken Islands in the Cyberstream – Seeking Havens of Reason in a Programmed Society – en intervju av Gunna Wendt som ger sammanhang till Weizenbaums långa strid för människans självbestämmande.

Hans tidlöshet poängteras också på framsidan av Datorkraft och sunt förnuft i ett citat av Lewis Mumford:

“Den kommer att vara lika aktuell om femtio år — en milstolpe när det gäller att förena naturvetenskapligt och humanistiskt tänkande.”

Nästa år, 2026, kommer det vara precis 50 år sedan den släpptes. Och ja, den är faktiskt lika aktuell.

🔗 Originally posted on LinkedIn