Tagged: Akkoma

@iakonkret @terejs @fiaewald @samuel Varning för rant (jag ber om ursäkt i förväg) men jag var på det humöret ikväll tydligen.

Jag tror en av de saker som bekymrar mig mest är att så många både debatterar, styr och vill att ”AI” ska bli en viss sak utan att det alls finns en gemensam uppfattning om vad ”AI” är. Eller ens en egen, tydlig uppfattning hos den enskilda avsändaren om vad ”AI” är. Ingen vågar sig på en förklaring men nästan alla ’förståsigpåare’ säger självsäkert att alla medborgare måste förstå detta, som de själva inte förstår.

Man behandlar ”AI” som en magisk sörja som löser problem utan mänsklig inblandning och samtidigt som man dristar sig till att kritisera ’tekniken’ friskriver man sig alltid med, ”vi vet att det kan göra fantastiska saker” men utan att tala om (för att man inte vet?) vilka dessa fantastiska saker är eller hur den tekniken som ”gör fantastiska saker” och kallas för ”AI” ofta är väsensskild från tekniken som medelsvensson, eller en genomsnittlig politiker, har sett och kallar för ”AI”.

”Detta understryker betydelsen av god digital kompetens och breda allmänna kunskaper om integritet, källkritik, demokrati och AI hos befolkningen.”

Vad om ”AI” måste befolkningen veta som inte täcks av integritet och källkritik? Jag reagerade nog extra starkt på den meningen för att jag kände att ”AI” inte har i närheten av samma dignitet som de andra begreppen. Det blev en konstig uppradning av begrepp för mig. Vi klarar av att reglera finansmarknaden för att skydda människor utan att de flesta ens behöver veta vad debet och kredit är. Så varför måste vi lägga över så mycket ansvar på befolkningen när det gäller ”AI” och digital kompetens?

Det pratas om att ta över rutinmässiga uppgifter inom vården, eller korta handläggningstider. Men inte om hur många fler it-tekniker som måste anställas för att få det att hända eller hur farligt det är när ett strömavbrott eller handhavandefel eller exponerade nätverk gör att de kritiska rutinmässiga uppgifterna inte längre kan utföras och inga människor längre vet hur man gör dem. Att digitalisera sönder processer gör dem också oerhört mer sårbara… det vet vi efter 50 år av digitalisering.

”Därför måste all användning av AI inom offentlig verksamhet föregås av noggranna konsekvensanalyser.” Går det att göra en rättvis konsekvensanalys av probabilistisk AI vars utdata inte är förutsägbart och vars innanmäte (svarta låda) vi inte tillåts titta in i för att förstå?

”Regeringen behöver därför säkerställa att offentliga aktörer får det stöd och de förutsättningar som krävs för att kunna hantera risker kring rättssäkerhet, transparens, personlig integritet, diskriminering, felaktiga data etc. i samband med AI-användning. ”

Hela den här meningen belyser vilka enorma problem ”AI” kan bidra till. Snarare än att regeringen ska ge stödet att hantera dessa risker känns det nästan som att man bör avråda från användningen till dess att det finns en trygghet i att ”AI” inte innebär en så’n enorm risk inom alla dessa områden. För nu låter det som att vi måste införa ”AI” och eftersom vi ”måste” det så måste alla också bli riskhanteringsspecialister. Det är smått skrämmande. I stället för att de stora riskerna i sig tolkas som skäl att avstå. Och alltid är det vården som ”AI” ska hjälpa först. Vad kan gå fel?

Säkert skulle jag kunna vara mer nyanserad i detta vid en annan tidpunkt på dagen så jag lovar att läsa imorgon igen och kritisera mina egna tankar. 😁

Spontant känns det som att man antar alla ställningar på en gång och är rädd att avfärdas som teknikfientlig. Personligen tycker jag den politiska diskursen måste tillbaka till mycket mer starkt värderingsdrivna ställningstaganden. Teknik har vi i drivor vare sig vi vill eller inte. Människosynen måste vara så oerhört mycket viktigare att föra fram än maskinsynen.

Jag lämnar er med Kerstin Anérs text från 1972 och rör mig mot sängen. 😅
https://pm.axbom.se/dataskuggan/

@iakonkret @terejs @fiaewald @samuel Ja jäklar vad Akademikerförbundet sa det bra, kan jag också bara konstatera nu när jag läst.

🔗 Originally posted on Akkoma