Per Axbom

Innehållet i din dataskugga är viktigt för hur du behandlas av myndigheter och företag. Kanske mer viktigt än hur du på riktigt mår.

I gårdagens nyhetsbrev kåserade jag om hur lite vi alla vet om vilken information och vilka beräkningar som avgör hur vi poängsätts och vilket bemötande vi får som en följd av dessa poäng. Men frågar vi tekniksynta visionärer är det enda vägen framåt. Och frågar vi makthavare behöver vi inte förstå beräkningarna. Det är ju siffror – nästan som vetenskap(!) – eller?

”Du har idag många dataskuggor. Diffusa bilder av dig som person som myndigheter, banker och försäkringsbolag tar hjälp av för att bedöma din lämplighet för till exempel arbete, bidrag, sjukpenning, rabatter, och kredit. Du är i många sammanhang blott en risk, frågan är hur stor, och en 'datadriven' organisation lägger stor vikt vid din skugga för att avgöra det.

Orättvis behandling av myndigheter är inte alls nytt, eller ett resultat av moderna algoritmer och AI. Det är ett resultat av synen på människor. Och av hur idéer om effektivitet, och tilliten till data, påverkar den synen.

Nyligen avslöjade SvD, tillsammans med Lighthouse Reports, att Försäkringskassans automatiserade system för att bedöma oärlighet inom vab visar tydliga tecken på diskriminering. Men vi bör inte överraskas av ett fenomen som myndigheter drivit mot i decennier. Det har blivit norm inom såväl offentlig sektor som näringsliv att behandla dataskuggor, förenklade bilder av var och en av oss, som vore de en rimlig och verklig representation av vårt människovärde och kapacitet i någon form av outtalad hierarki.”

Så här skrev Kerstin Anér redan 1972, för mer än ett halvt sekel sedan:

”Man märker knappast, att det bara är några enstaka punkter, uttag ur sitt sammanhang, som utgör bilden. Man glömmer, att många av uppgifterna i databilden redan är tolkade, insatta i ett sammanhang som kanske inte alls är det ursprungliga. Man har slutsatser framför sig — men tror att det är råa fakta. Och så tillsätter, avsätter, dömer och utvärderar man en dataskugga, men den som får ta konsekvenserna är en människa av kött och blod."

Läs hela texten här:

https://per.ax/dsmy

🔗 Originally posted on LinkedIn