En regering som sätter 13-åringar i fängelse, som utvisar tonåringar, som vill utvisa baserat på 'bristande vandel', dra tillbaka permanenta uppehållstillstånd, vars poliväsende använder Palantir, vars försäkringskassa använder diskriminerande algoritmer utan insyn, som ställer sig bakom massövervakning av medborgare, och som står för en klimatpolitik som ledande klimatorganisationer i bästa fall beskriver som ”otillräcklig”.

Det är den regering som nu har tagit beslut om en ’AI’-strategi för att ta fram en språkmodell som ska värna ”svenska värderingar”.

Jag gjorde misstaget att börja dagen med att titta på pressträffen från i fredags. Skrev ner lite ostrukturerade tankar.

Underförstått betyder det här att man kan få ännu lättare att föra en repressiv politik, då man kan hävda att it-systemen man gör det med bara förstärker ”det svenska”. Och en dator kan ju inte ha fel. Många människor kommer tro på det. Och jag tror de tror på det själva. Men jag tror också att de självklart ser enorma fördelar med att alla myndigheter använder språkmodeller med en slagsida åt deras inbäddade politik. Precis som Musk gör med Grok.

Den här utvecklingen har potential att bli riktigt otäck.

Sara Mazur sa på pressträffen att det här är en ”nationell angelägenhet”. Det tror jag också att det är, men inte på det sätt hon menar.

Att en svensk språkmodell ska byggas på ”redaktionellt granskade träningsdata som speglar svenska värderingar och svenska normer.” är ett villospår. För att bygga en stor språkmodell behövs så mycket data att det skulle ta många, många år att granska träningsdatat. Den tiden finns inte.

Det de menar, förmodar jag, är att de till stor del kommer använda material som sedan tidigare granskats av någon form av redaktion. Huruvida det är innehåll från 50-talet, och om det idag skulle betraktas som jämlik, inkluderande information, är sekundärt. Att det finns gott om artiklar i etablerade media som historiskt uttrycker sig nedlåtande mot barn, kvinnor och homosexuella bör inte förvåna någon. Och jag har svårt att se att man inte behöver använda sig av artiklar långt bak i tiden för att få tillräckligt med innehåll från en stor språkmodell.

Om man vill tillbaka till den eran så finns förstås anledning att fira.

Generell reflektion: Var uppmärksam på uttryck som att modellen ska ”förstå” den svenska kontexten. En språkmodell förstår inte. Den jobbar med beräkningar och genomsnitt.

Jag hoppas såklart att jag har fel, men jag är allergisk mot det ständiga, naiva utlovandet av en revolution inom hälso- och sjukvård tack vare AI. Och det finns fortfarande för många frågor som aldrig ställdes som jag behöver svar på innan jag kan slappna av:

- Vem avgör vad som är svenska värderingar och normer? Kommer det ske något arbete för att särskilt utvärdera detta eller räknar man med att det räcker med att all träningsdata är svensk-producerat?
- Min käpphäst: om normerna blir inbäddade i ett it-system, hur får vi systemet att anpassa sig till ett samhälle med normer som förändras snabbare än systemet? Risken är alltid att ”AI”, ironiskt nog, hindrar samhällsförändringar och värderingar som bygger på ny kunskap.
- På vilket sätt granskas träningsdatat redaktionellt och hur lång tid beräknar man att det tar (eller menar man att det redan är gjort bara för att mycket av innehållet kommer från etablerad media)? Det är ju sannolikt det senare, men det är värt att få mer tydligt uttryckt.
- Betyder det här att träningsdata innefattar artiklar från hela 1900-talet?
- På vilket sätt bedöms att språkmodellen är just säker, etisk och hållbar - med tanke på att man särskilt valt dessa parametrar för att beskriva den långsiktiga ambitionen med språkmodellen? Varje parameter förtjänar förstås sin egen fördjupning.
- Tillbaka till roten: Vill vi verkligen göra hela samhället beroende av it-system som är så tydligt beroende av att de ska kodas med ”rätt” värderingar?

Olof Klugman från ETC ställde en relevant fråga om bedömning av relationen mellan klimatpåverkan och klimatnytta. Av någon anledning fick Lotta Edholm(!) svara på den - trots att både Erik Slottner och Sara Mazur stod där - och det blev någon konstig vinkning till att den här regeringen minsann vill bygga kärnkraft, vilket statsministern såklart passade på att understryka som bra om man vill bedriva energikrävande teknikutveckling. Men såklart svarade ingen på hur man bedömer om det energikravet är berättigat.

Anders Eriksson från Tidningsutgivarna verkade märkbart nervös när han svarade på frågan om upphovsrätt och det faktum att de tidigare inte velat släppa på sitt innehåll på det här sättet. Känns värt att gräva mer i.

Hela pressträffen från i den 20 februari:
https://yt.axbom.com/?id=F7IC90vGeac

Nu vill jag ägna mig en stund i stället åt läsning av Åsa Wikforss ’Därför Demokrati’. Det är väl mitt sätt att utöva motvärn 😅

🔗 Originally posted on Akkoma