Vår vice statsministers inbillade föreställningar om ”AI”:s förmågor bidrar till allmänhetens felaktiga idéer om lämplig användning. I Dagens Arena belyser jag bland annat varför det är vanskligt att allt kallas ”AI” nästan utan urskiljning idag.
”I dag upplevs dessa stora språkmodeller vara oerhört förförande och många människor använder dem för mångordiga syntetiska samtal, och drar radikala men bristfälliga slutsatser om produkternas förmåga. Tillverkarna vill såklart att illusionen av verklig intelligens ska genomsyra gängse uppfattningar, och förstärker gärna användarnas egna felaktiga uppfattningar om vad produkterna egentligen gör. Missuppfattningar som Ebba Busch nu ledigt häver ur sig i en duperad ministers försvarstal.”
”I sitt försvarstal menar hon att källorna ’fabricerats’. Busch skriver att hon frågar språkmodellen var citatet kommer från och produkten, som inte kan avgöra om den har ett giltigt svar eller ens säga ’jag vet inte’, genererar ett plausibelt svar. Men den texten är ju syntetisk. Ibland är den sann, ibland inte. Precis allt som kommer ur produkten är fabricerat. Det är själva funktionen hos en språkmodell. Den framställer text. Ingenstans utlovas av produkten att texten kommer vara sann. Visst kan den kan träffa rätt men det betyder inte att modellen fungerar annorlunda när svaret den skapar är fel.”
”Det är en helt ny situation för Sverige, att vi har en vice statsminister som frågar en produkt för syntetisk text om källor till fabricerade citat.”
”Tänk nu också att Busch aldrig någonsin läst Pahnkes citat och blivit upprörd över det. Det fanns ju aldrig. Hon har medvetet genererat ett citat att bli upprörd över.”
Hela texten hos Dagens Arena: https://www.dagensarena.se/opinion/busch-ser-syntetisk-skrift-som-sanning/
Klippet från SVT:s sändning visar hur det omtalade "citatet" tog sig uttryck i verkligheten, i Almedalen-talet som pekar ut den enskilda journalisten.