Skip to content
Notes by Axbom
Per Axbom Akkoma

Here's what happens when machine learning needs vast amounts of data to build statistical models for responses. Historical, debunked data makes it into the models and is preferred by the model output. There is much more outdated, harmful information published than there is updated, correct information. Hence statistically more viable.

"In some cases, they appeared to reinforce long-held false beliefs about biological differences between Black and white people that experts have spent years trying to eradicate from medical institutions."

In this regard the tools don't take us to the future, but to the past.

No, you should never use language models for health advice. But there are many people arguing for exactly this to happen. I also believe these types of harmful biases make it into more machine learning applications than language models specifically.

In libraries across the world using the Dewey Decimal System (138 countries), LGBTI (lesbian, gay, bisexual, transgender and intersex) topics have throughout the 20th century variously been assigned to categories such as Abnormal Psychology, Perversion, Derangement, as a Social Problem and even as Medical Disorders.

Of course many of these historical biases are part of the source material used to make today's "intelligent" machines - bringing with them the risk of eradicating decades of progress.

It's important to understand how large language models work if you are going to use them. The way they have been released into the world means there are many people (including powerful decision-makers) with faulty expectations and a poor understanding of what they are using.

https://www.nature.com/articles/s41746-023-00939-z

#DigitalEthics #AIEthics

🔗 Originally posted on Akkoma

22 Oct 2023, 10:19
Share
LinkedIn Bluesky Email
Per Axbom LinkedIn

Here's what happens when machine learning needs vast amounts of data to build statistical models for responses. Historical, debunked data makes it into the models and is preferred by the model output. There is much more outdated, harmful information published than there is updated, correct information. Hence statistically more viable.

"In some cases, they appeared to reinforce long-held false beliefs about biological differences between Black and white people that experts have spent years trying to eradicate from medical institutions."

In this regard the tools don't take us to the future, but to the past.

No, you should never use language models for health advice. But there are many people arguing for exactly this to happen. I also believe these types of harmful biases make it into more machine learning applications than language models specifically.

In libraries across the world using the Dewey Decimal System (138 countries), LGBTI (lesbian, gay, bisexual, transgender and intersex) topics have throughout the 20th century variously been assigned to categories such as Abnormal Psychology, Perversion, Derangement, as a Social Problem and even as Medical Disorders.

Of course many of these historical biases are part of the source material used to make today's "intelligent" machines - bringing with them the risk of eradicating decades of progress.

It's important to understand how large language models work if you are going to use them. The way they have been released into the world means there are many people (including powerful decision-makers) with faulty expectations and a poor understanding of what they are using.

https://www.nature.com/articles/s41746-023-00939-z

🔗 Originally posted on LinkedIn

21 Oct 2023, 18:26
Share
LinkedIn Bluesky Email
Per Axbom Akkoma reply

@tsvenson @beantin I’m not sure politicians and lawyers I meet for the first time will want to put my web address on their computer
 (or body 😁). But it’s great as a bookmark!

🔗 Originally posted on Akkoma

21 Oct 2023, 07:48
Share
LinkedIn Bluesky Email
Per Axbom Akkoma reply

@maddad Thank you.

🔗 Originally posted on Akkoma

20 Oct 2023, 19:42
Share
LinkedIn Bluesky Email
Per Axbom Akkoma reply

@CassandraZeroCovid Thank you.

🔗 Originally posted on Akkoma

20 Oct 2023, 19:42
Share
LinkedIn Bluesky Email
Per Axbom Akkoma

New business cards. Haven't had any in a fair few years, but been at events lately where it makes sense to have something to hand over.

Hand holding a business card with a simple line drawing of a person holding a sign. The sign reads

🔗 Originally posted on Akkoma

20 Oct 2023, 17:42
Share
LinkedIn Bluesky Email
Per Axbom Akkoma

I don’t believe I’ve ever had time to “jump on a quick call”.

🔗 Originally posted on Akkoma

20 Oct 2023, 10:34
Share
LinkedIn Bluesky Email
Per Axbom Akkoma

Benefits and risks of synthetic video and audio.

In this one-minute video I am speaking seven languages. In truth, I can speak two of those. None of the audio is actually me speaking, even if it sounds very much like my voice. And the video? Despite what it looks like, that’s not me moving my mouth. In some ways impressive and in other ways quite unsettling.

To make this happen I made a two-minute recording of myself talking in English about random stuff, and uploaded this as input to the generative tool provided by a service known as HeyGen. That video provided a voiceprint that can be used for more than 25 languages and counting. And honestly, the generated English voice really does sound like me.

With regards to the video, the scene where I appear to be standing is where I was actually standing when I recorded the original video. But the head, hand, eye and lip movements are all generated based on what I want my digital twin, or puppet, to say. I type text into a box and then the video with me, speaking in the selected language, comes out.

For purposes of firing up the mind to imagine what’s possible, this will likely suffice.
https://vimeo.com/875449365

In my latest blog post/newsletter I unpack the benefits and risks of this technology:
https://axbom.com/synthetic-video-benefits-risks/

#AIEthics #DigitalEthics #SyntheticVideo #DeepFake

🔗 Originally posted on Akkoma

20 Oct 2023, 08:32
Share
LinkedIn Bluesky Email
Per Axbom LinkedIn

I videon nedan, en minut lÄng, pratar jag sju sprÄk. Egentligen kan jag bara tala tvÄ av dem. Inget av ljudet du hör Àr faktiskt jag som talar, Àven om det lÄter vÀldigt mycket som min röst. Och videon? Trots hur det ser ut Àr det inte jag som rör pÄ munnen. PÄ vissa sÀtt imponerande och pÄ andra sÀtt tÀmligen obehagligt.

🔗 Compilation: Synthetic video and audio

För att uppnĂ„ det hĂ€r resultatet gjorde jag en tvĂ„ minuters-inspelning av mig sjĂ€lv nĂ€r jag pratade pĂ„ engelska om vardagliga saker. Jag laddade upp denna som input till det generativa verktyget som tillhandahĂ„lls av en tjĂ€nst som kallas HeyGen. Den videon gav ett röstavtryck som kan anvĂ€ndas för ett vĂ€xande antal sprĂ„k, idag mer Ă€n 25. Och Ă€rligt talat, den genererade engelska rösten lĂ„ter verkligen som jag.

NÀr det gÀller videon, sÄ Àr scenen dÀr jag ser ut att stÄ faktiskt dÀr jag stod nÀr jag spelade in originalvideon. Men huvud-, hand-, ögon- och lÀpprörelser genereras alla baserat pÄ vad jag vill att min digitala tvilling, eller docka, ska sÀga. Jag skriver text i en ruta och tillbaka fÄr jag en video med mig, talandes sprÄket som texten skrevs pÄ.

Observera ocksÄ att tjÀnsten inte har nÄgra problem med rörelse i bakgrunden, vilket Àr nÄgot jag ville testa.

Din personliga docka kommer att sÀga vad som helst

För att vara tydlig: jag anvÀnder budgetversionen av den hÀr tjÀnsten. LÄt oss sÀga att jag vill ha en helkroppsversion av mig sjÀlv med anpassningsbara bakgrunder. Jag skulle Ästadkomma det genom att spela in nÄgra minuter av mig sjÀlv nÀr jag pratar i en green screen-studio. Lite dyrare, men inte alls krÄngligt

I syfte att vÀcka dina fantasi till att förestÀlla sig vad som Àr möjligt Àr detta förmodligen tillrÀckligt.

Jag kan se fördelar hĂ€r för mĂ„nga typer av roller. Utbildare, chefer och presentatörer som behöver göra tillkĂ€nnagivanden eller korta handledningar. En digital docka kan ocksĂ„ helt enkelt lĂ€sa upp mötesprotokoll eller rapporter för personer som helst inte vill – eller inte kan – lĂ€sa.

Fördelar

Vissa fördelar Àr lÀtta att ta till sig:

  • Det finns inget behov av omtagningar eftersom det inte förekommer stamning, stakande eller snubblande över ord. Tekniskt strul lyser ocksĂ„ med sin frĂ„nvaro och tidsbesparingarna blir dĂ€rför kolossala.
  • Om jag vill Ă€ndra ett ord i det jag sĂ€ger i videon betyder det att jag bokstavligen bara Ă€ndrar ordet i manuset. Ljudet av min virtuella röst förĂ€ndras inte över dagen som det gör i verkligheten, dĂ€r jag ofta mĂ„ste spela in lĂ„nga segment igen för att inte dra uppmĂ€rksamhet till skillnader i röstlĂ€ge.
  • Jag behöver inte sĂ€tta upp en kamera, fixa belysningen eller ens klĂ€ pĂ„ mig. Den visuella scenen Ă€r redan etablerad. Kom ihĂ„g att du kan skapa ett konto för att ha ett urval av scener för olika tillfĂ€llen. Du behöver bara en tvĂ„ minuters kĂ€llvideo för varje scen.
  • Jag kan skapa versioner av samma video pĂ„ flera sprĂ„k, inklusive de jag inte kan. Ja, denna nytta kan förstĂ„s leda till en rad problem.

Risker

Vilka Àr dÄ riskerna?

  • Om du automatiskt översĂ€tter till sprĂ„k du inte behĂ€rskar kan ditt budskap bli grammatiskt felaktigt, förvirrande eller till och med krĂ€nkande pĂ„ sĂ€tt som du inte hade tĂ€nkt dig. Att ha nĂ„gon sprĂ„kkunnig som ansvarar för kvalitetssĂ€kring Ă€r fortfarande ett mĂ„ste.
  • Okonventionella uttal kommer sannolikt att hĂ€nda dĂ„ och dĂ„ ocksĂ„, och hĂ€nde mig nĂ€r jag skapade en svensk röst. Jag behĂ€rskar förstĂ„s sprĂ„ket och blev inte jĂ€tteimponerad av hur vissa ord uttalades. Eller vilka ord som valdes vid automatisk översĂ€ttning. Du mĂ„ste anta att detta sker för alla sprĂ„k.
  • MĂ€nniskor kan kĂ€nna sig lurade och tappa förtroendet om du inte Ă€r transparent med vad som verkligen pĂ„gĂ„r. Tydlighet kring teknikanvĂ€ndning kommer att ha betydelse. Och Ă€ven nĂ€r folk Ă€r medvetna kan de kĂ€nna att du tar ohederliga genvĂ€gar och inte lĂ€gger ner förvĂ€ntat arbete. Ditt specifika sammanhang kommer att ha betydelse.
  • ÖveranvĂ€ndning. Ja, nĂ€r nĂ„got Ă€r enkelt nog Ă€r det troligt att det kommer att sĂ€ttas i bruk i mĂ„nga situationer dĂ€r det faktiskt inte Ă€r sĂ„ anvĂ€ndbart eller relevant. Detta pĂ„verkar ocksĂ„ den lĂ„ngsiktiga kvaliteten, och tilliten hos mottagarna.
  • NĂ€r du anvĂ€nder en tredjepartstjĂ€nst se till att du förstĂ„r hur – och under vilka omstĂ€ndigheter – materialet du anvĂ€nder som input (dina videor och ditt textinnehĂ„ll/manus) kan anvĂ€ndas av leverantören för att finjustera tjĂ€nsten. Du vill försĂ€kra dig om att inget kĂ€nsligt innehĂ„ll hamnar pĂ„ oönskade platser och att du inte avsĂ€ger dig rĂ€ttigheter för andra att anvĂ€nda din avbild.
  • Vem fĂ„r styra din digitala tvilling? Den smidiga och friktionsfria upplevelsen av att ha en virtuell docka som du enkelt kan delegera kontroll över till andra kan naturligtvis slĂ„ tillbaka. Du kanske plötsligt tycker att din avbild sĂ€ger saker som du inte riktigt har gĂ„tt med pĂ„. Och om tillit blir ett problem, hur kommer förtroendet för den hĂ€r typen av virtuella presentationer pĂ„verkas över tid?

Utöver dessa risker sĂ„ kommer syntetisk video naturligtvis ocksĂ„ att fungera som verktyg för missbruk och övergrepp. Jag nĂ€mnde kort att kontrollen över nĂ„gons digitala tvilling innebĂ€r att du kan ge sken av att de sĂ€ger vad som helst – och lura ett stort antal mĂ€nniskor. Detta kan innefatta allt frĂ„n smaklösa skĂ€mt till att fĂ„ nĂ„gon att hetsa till vĂ„ld eller hĂ€va ur sig rasistiska kommentarer.

NĂ€r det gĂ€ller övergrepp vill jag Ă¶ka medvetenheten om det faktum att mĂ„nga unga kvinnor utsĂ€tts för att bli virtuella skĂ„despelare i pornografiska filmer mot sin vilja, med mycket liten makt att invĂ€nda eller stĂ€lla förövare inför rĂ€tta. Och Ă€ven om lagar och tillsynsĂ„tgĂ€rder förbĂ€ttras, Ă€r mĂ„nga liv redan förstörda sĂ„ snart det krĂ€nkande innehĂ„llet publiceras. Om du nĂ„gon gĂ„ng stöter pĂ„ dylikt innehĂ„ll, rapportera det alltid till polisen omedelbart.

TÀnk pÄ hur ... men ocksÄ varför och nÀr och vem ... och varför inte

Fler och fler individer och organisationer kommer sannolikt att anvÀnda generativ programvara för att producera syntetisk video. Om du tror att det finns fördelar för dig och din verksamhet bör du sÀtta igÄng att lÀra dig. Men du mÄste ocksÄ övervÀga och hantera anvÀndningsfall dÀr transparens, pÄlitlighet och risker spelar in. Ett felsteg kan radera alla upplevda fördelar pÄ nÄgra sekunder, om tilliten gÄr förlorad.

Kanske viktigast av allt Àr nog att du sjÀlv bara som varandes en mÀnniska pÄ den hÀr planeten förmodligen mÄste vara medveten om just detta: det Àr enkelt och billigt nu för vem som helst att anvÀnda nÄgon annans ansikte och fÄ dem att sÀga vad som helst. PÄ vilket sprÄk som helst.


Listan över fördelar och risker i den hĂ€r artikeln Ă€r inte uttömmande. 🧰

Det finns metoder och verktyg för att avslöja etiska dilemman och hantera dem. I Elementen inom AI-etik hittar du en kartlĂ€ggning av potentiella skador som kan hjĂ€lpa dig att styra ditt arbete. Element som inte nĂ€mns i detta inlĂ€gg Ă€r till exempel miljöpĂ„verkan och exploatering av arbetare. SĂ€g till om jag kan hjĂ€lpa till som rĂ„dgivare.

P.S. Jag lutar mer och mer Ät att kalla det dockvideo, eller marionettvideo, snarare Àn syntetisk video. Vad tycker du?


Alla filmer 🎬

HĂ€r finns fullĂ€ngdsversionerna av filmerna med mig som sĂ€ger samma meddelande pĂ„ sju olika sprĂ„k. Jag har ocksĂ„ inkluderat en version av mig som talar svenska med min egen röst, för att kunna jĂ€mföra. Videon för det klippet genereras alltsĂ„ baserat pĂ„ min riktiga röst, och det kan vara bra att veta att det ocksĂ„ Ă€r ett alternativ att anvĂ€nda ljud som ingĂ„ng för videoskapandet.


Hitta tillbaka? đŸ•”ïž

Originalet till dessa nyhetsbrev publiceras alltid pÄ min egen blogg för att inte vara beroende av LinkedIn som plattform för synlighet, arkivering och fortlevnad. DÀr hittar du ocksÄ tips pÄ vidare lÀsning, och en hel del av mina produktioner i andra format.

  • Original: Fördelar och risker med syntetisk video och röst
  • Original pĂ„ engelska: Benefits and risks of synthetic video and audio

🔗 Originally posted on LinkedIn

20 Oct 2023, 07:23
Share
LinkedIn Bluesky Email
Per Axbom LinkedIn

I veckans nyhetsbrev kan du se och höra mig tala sju sprÄk. Fem som jag inte kan. Och inget av ljudet Àr egentligen jag som pratar. Ja, inte Àr det mina huvud- och lÀpprörelser heller förresten.

SÄ vad kan du egentligen lita pÄ, och hur ska du förhÄlla dig till att video nu allt oftare gÄr att skapa pÄ syntetisk vÀg? Jag gÄr igenom fördelar och nackdelar med det som jag lutar Ät att kalla för dockvideo, eller marionettvideo.

#DigitalEtik #AIetik

🔗 Originally posted on LinkedIn

20 Oct 2023, 07:23
Share
LinkedIn Bluesky Email
Per Axbom LinkedIn

Benefits and risks of synthetic video and audio.

In this one-minute video I am speaking seven languages. In truth, I can speak two of those. None of the audio is actually me speaking, even if it sounds very much like my voice. And the video? Despite what it looks like, that’s not me moving my mouth. In some ways impressive and in other ways quite unsettling.

To make this happen I made a two-minute recording of myself talking in English about random stuff, and uploaded this as input to the generative tool provided by a service known as HeyGen. That video provided a voiceprint that can be used for more than 25 languages and counting. And honestly, the generated English voice really does sound like me.

With regards to the video, the scene where I appear to be standing is where I was actually standing when I recorded the original video. But the head, hand, eye and lip movements are all generated based on what I want my digital twin, or puppet, to say. I type text into a box and then the video with me, speaking in the selected language, comes out.

For purposes of firing up the mind to imagine what’s possible, this will likely suffice.

In my latest blog post/newsletter I unpack the benefits and risks of this technology:

https://axbom.com/synthetic-video-benefits-risks/

#AIEthics #DigitalEthics #SyntheticVideo #DeepFake

🔗 Originally posted on LinkedIn

20 Oct 2023, 06:44
Share
LinkedIn Bluesky Email
Per Axbom Akkoma

”You’re naive, Per.”
”No. Naive is a construct. I choose love, kindness and compassion over surrendering to the invisible forces of perpetual growth. I’m winning every day.”

🔗 Originally posted on Akkoma

18 Oct 2023, 22:57
Share
LinkedIn Bluesky Email
Per Axbom Akkoma reply

⚠ adding my own example

@skippingmoonrocks Thank you for sharing.

🔗 Originally posted on Akkoma

17 Oct 2023, 20:27
Share
LinkedIn Bluesky Email
Per Axbom Akkoma reply

@marcusosterberg Jag har en teori om hopplöshetens grepp. NĂ€stan alla förstĂ„r klimatkrisens hopplöshet, Ă€ven om det för mĂ„nga Ă€r undermedvetet, och mycket av det vi ser Ă€r försvarsmekanismer. Man “bygger sin bĂ„t” och förbereder sig för att skydda sina nĂ€rmaste. Man kĂ€nner spontant att alla inte fĂ„r plats i bĂ„ten sĂ„ man vill avgrĂ€nsa. För vissa innebĂ€r paniken att man tar till vĂ„ld, bĂ„de i ord och handling.

FĂ„r mig att tĂ€nka pĂ„ Den oĂ€ndliga historien av Michael Ende, en av mina favoritböcker. Ingentinget – ett mörker – bara vĂ€xer.

Hoppet fÄr inte överge oss. Jag tror att mÀnniskor komma stiga fram och hjÀlpa oss hitta det igen. Vi fÄr plats i varandras bÄtar, i samtalen, i vÀrmen av varandras nÀrvaro. Vi hÀnger alla ihop.

NÀr ledsamhet tynger oss mÄste vi kÀmpa, och kÀmpa för varandra. Och vÄga be om hjÀlp. Vi mÄr bra av att kÀmpa och hjÀlpa.

Det hĂ€r var vara mina spontana reflektioner
 som jag tydligen behövde skriva av mig. 😊

🔗 Originally posted on Akkoma

17 Oct 2023, 11:11
Share
LinkedIn Bluesky Email
Per Axbom Akkoma

Nope, I won't write an analysis of Andreessen's manifesto. Attention is what he craves. He'll live rent-free in my head for as briefly as possible.

I'll just leave this emoji here and let that be my final word on the matter


đŸ€ź

Shut the door on your way out, Marc.

🔗 Originally posted on Akkoma

17 Oct 2023, 07:39
Share
LinkedIn Bluesky Email
Per Axbom Akkoma

DN:s ledarredaktion trÀffade otÀckt rÀtt idag. Allt kÀnns surrealistiskt. Och ja det rÀcker nÀstan med att lÀsa ingressen


https://www.dn.se/ledare/akesson-vill-lasa-in-minderariga-pa-livstid-kristersson-tycker-inget-sarskilt/

DN 16/10 2023. Livstids fĂ€ngelse för minderĂ„riga, upprivna medborgarskap och frihetsberövande utan konkret brottsmisstanke. Det Ă€r Sverigedemokraternas vision för Sverige, klargjorde Jimmie Åkesson i veckan.

Ulf Kristersson hade som vanligt inget att sÀga.

🔗 Originally posted on Akkoma

16 Oct 2023, 19:12
Share
LinkedIn Bluesky Email
Per Axbom Akkoma

The idea appears to be to let computers exponentially proliferate some of the tasks they excel at: numbers, statistics, labelling people, copying, collecting data and mass surveillance. Rather than sit down and talk about how we boost the values we as humans wish to proliferate: compassion, love, care, connection and belonging.

Few are talking about how the former is antithetical to the latter.

I’m not saying ”stop using computers”, I’m saying ”stop letting computers assume the leadership position”. Computers can act as aids for compassion, love, care, connection and belonging. Think of games, text-to-speech and long-distance communication. But computers arrive there by instruction code from humans. Not the other way around.

The more alarming truth is this: computers can be used to destroy compassion, love, care, connection and belonging much faster than we can keep up with building it. Sometimes that destruction is with intent, but often it is oblivious.

🔗 Originally posted on Akkoma

15 Oct 2023, 08:41
Share
LinkedIn Bluesky Email
Per Axbom Akkoma

Building machines
to perform tasks
we should have eliminated


🔗 Originally posted on Akkoma

14 Oct 2023, 22:45
Share
LinkedIn Bluesky Email
Per Axbom Akkoma reply

@april Haha, fair point. Though there aren’t many cars, or even places, without cameras anymore.

🔗 Originally posted on Akkoma

14 Oct 2023, 18:25
Share
LinkedIn Bluesky Email
Per Axbom Akkoma

We've really made things efficient for highway robbers if they can just put a traffic cone on the hood, or place their own bespoke stop sign on the road, to stop the self-driving cars and rob whoever is inside.

At least it's efficiency for everyone.

🔗 Originally posted on Akkoma

14 Oct 2023, 16:28
Share
LinkedIn Bluesky Email
← Newer Older →
  • Notes by Axbom
  • RSS

© 2026 Notes by Axbom