Jurister. Advokater. Och jag.
I området där jag rör mig – mänskliga rättigheter och etik kopplat till teknik – så är juridiken förstås en viktig komponent. Nu har jag en än mer uppdaterad och aktuell syn på hur kritiskt det är att bolagsjurister, men också advokater och domare, får spela en mer framträdande roll i vägledningen av ny teknik.
Särskilt inom automatiserat beslutsfattande, eller för all del även automatiserat beslutsstöd.
Igår gick jag kurs i AI och Juridiken – en utbildning i praktisk tillämpning och ny lagstiftning. Det blev för mig en uppdatering kring de många lagar och riktlinjer som påverkar teknikutvecklingen redan idag, och som kommer att påverka den i framtiden. Men också något av en aha-upplevelse gällande hur kolossalt utmanande den här regleringen av AI-baserade tjänster kommer te sig.
Att vi har lagar och regelverk är förstås bara en liten, liten del i ekvationen. Hur de tillämpas, efterlevs och hanteras av rättsväsendet är avgörande. Jag blev nog både skärrad och engagerad av de exempel som togs upp.
Många vill förstås hinna göra så mycket som möjligt innan lagarna får fäste – göra AI-verktyg till kritiska nav som organisationer inte klarar sig utan. Men när lagarna får fäste kan det också få dominoeffekter givet att många nya system är beroende av andra, större system i botten. Om de större systemen inte lever upp till framtida lagstiftning (som mycket redan pekar på) så kan mindre system som är byggda ovanpå dessa också hamna i kläm.
Men alla dessa processer tar förstås tid. För att vara beredd, göra rätt från början och undvika överraskningar ser jag bara fördelar med att jurister är involverade från dag 1 i alla nyutvecklingsprojekt.
Och för att det här ska fungera hela vägen, och kanske särskilt inom offentlig sektor, måste rättsväsendet förstå utmaningarna i beslut som tas automatiserat och påverkar många människor på en gång, där överklagan av dessa beslut ska ske av drabbade personer som inte har någon som helst insyn i hur besluten fattas.
Fallet med skolplaceringar i Göteborg från 2020 är ett starkt och viktigt exempel på hur fel det kan gå och hur häpnadsväckande svårt det är att få någon som helst upprättelse när kommuners felaktiga beslut är grundade i automatiserade system.
Stort tack till Charlotta Kronblad och Christina Wikström för en tidsenlig och träffsäker kurs. Jag känner mig än mer stärkt i mina övertygelser om hur viktigt det är att belysa problemen och hjälpa till att styra tekniken mot arbetssätt som sätter omtanke och välbefinnande i första rummet.
Och att jag kan hjälpa till inom utbildning, förklaringar och visualiseringar för att åstadkomma just detta.
Tack också till alla övriga deltagare! Jag lärde mig hur mycket som helst om oro och erfarenheter av alla frågor som ställdes, samt de ivriga lunchdiskussionerna om vem det är som bestämmer över våra val… egentligen.