Tagged: LinkedIn

Per Axbom LinkedIn

When you make one part of a system more efficient, or even friction-free, other parts of the system may wear out and break. What do I mean by this?

Making only one cog in your machine more efficient will put unexpected pressure on the rest of the organisation. And this can and will apply to phenomenons outside your organisation, albeit within the system you are interacting with. When external functions are taken by surprise and struggle to cope with added effort, the output of the system you were trying to improve may instead deteriorate.

I've been reading news about the effects of the crash detection feature implemented in Apple's phones and watches, and likely present in devices by other manufacturers as well. It's been shown how often these detection systems falsely trigger a call to emergency services, increasing the load on operators who are trained to take every call seriously. The number of "silent calls" to emergency services in Sweden (112) has increased by 40% in just one year. And last week the 112 service released data from an investigation saying that long wait times _may_ have contributed to 5 deaths last summer.

There is no way of determining the phone feature was a contributor to this finding. But it certainly wasn't of help to the stability of the system. And should raise alarms for continued operations with no maintenance efforts.

Driving innovation through compassion for me means:

* seeking counsel with the organisations/people you are targeting and affecting,

* applying strategic foresight to identify these types of issues before they happen,

* monitoring and taking responsibility for – and being prepared to walk back – ideas that didn't work out,

* working for systems where cogs are monitored and built for harmonious movement rather than disconnect.

Yes, we can find cases where these features have saved lives. But it's unclear at what cost this change is happening, or even how crucial this exact feature was in those cases. It's likely relevant to consider if the ownership of a specific phone should be what determines who receives attention.

Likely there are many ways to address this issue. Meanwhile, accountability is largely missing for the changing work environment of emergency call operators.

IMAGE DESCRIPTION:

Three aligned, interconnected cogs with labels.

Cog number 1 (in good condition).

Label: Phones and watches auto-calling emergency services

News clipping: Skiing triggers crash detection on latest Apple Watch and iPhone

Cog number 2 (showing wear and tear).

Label: Increase in "silent calls" due to false emergencies

News clipping: Huge increase in misdials to emergency services

Detail: Up 40% in Sweden in one year.

Cog number 3 (showing wear and tear).

Label: Longer wait times for people in real emergencies

News clipping: 5 people died waiting several minutes to reach emergency services

#DigitalCompassion #SystemsThinking #ResponsibleInnovation

🔗 Originally posted on LinkedIn

Per Axbom LinkedIn

A common argument I come across when talking about ethics in AI is that it's just a tool, and like any tool it can be used for good or for evil. One familiar declaration is this one: "It's really no different from a hammer". I was compelled to make a poster to address these claims. Steal it, share it, print it and use it where you see fit.

**UPDATE**: The poster has been updated for readability and clarity (with regards to a couple of topics). Can't update the image here on LinkedIn, but it's available on the blog post: https://axbom.com/hammer-ai

Image description:

Title: If a hammer was like AI

Illustration of a hammer (a line drawing) and the quote "It's just a tool".

Various topics surround the hammer and have lines drawn to the hammer, as if explaining what it is made of.

Obscured data theft.

It copies the design of most constructions in the western, industrialised world without consent and strives to mimic the most average one of those.

Bias & injustice.

The hammer will most often just hit the thumb of Black, Brown and underserved people.

Carbon cost.

The energy use is about 100 times greater than achieving a similar result with other tools.

Monoculture and power concentration.

The hammer is made by a small, western and wealthy subset of humanity – the only ones with the resources to build it.

Invisible decision-making.

It will mostly “guess” your aim, tend to miss the nail and push for a different design. Often unnoticeably.

Accountability projection.

If the hammer breaks and hurts someone, it’s only because the hammer has

“a mind of its own”.

Jerry-building (Misinformation)

Optimised for building elaborate structures that don’t hold up to scrutiny.

Data/privacy breaches.

May reveal blueprints from other people using a hammer from the same manufacturer, or other personal data that happened to be part of its development.

Moderator trauma

Low-wage moderators work around the clock watching filth and violence to ensure the hammer can’t be used to build brothels or torture chambers. Unless someone hacks it of course.

The footer reads: "You can’t own it, but you can subscribe. Perpetually."

CC BY-SA Per Axbom. version 1, June 2023.

Download on https://axbom.com/hammer-ai

#AiEthics #DigitalEthics

🔗 Originally posted on LinkedIn

Per Axbom LinkedIn

Vårdens bekymmer med personer som söker vård för minsta lilla åkomma ger oss en lektion i vikten av systemtänkande. Och hur förenklingar medelst digitalisering kan slå tillbaka.

– Om vi förenklar saker så kommer människor att röra sig i den riktningen – mot förenklingen.

– Om hela organisationen inte är beredd på en ökning av användning givet en planerad förenkling så skapar vi i stället en flaskhals.

– En förenkling eller effektivisering som leder till en flaskhals kan i stället försämra det vi försöker förbättra (eller försämra en annan del av organisationen).

”Är det inte bra att vården är lättillgänglig?”

”– Jo, men vi har inte blivit fler resursmässigt. Så det här innebär att färre kan jobba med den fysiska vården, dit de svårast sjuka oftast vänder sig, säger Tuutma.”

Det finns fler saker att beröra i det här ämnet, som skälen till att personer inte längre får med sig egenvård från hemmet. Eller att vi eventuellt tappat sociala band som tillåter oss att prata om vardagsbekymmer med nära och kära i stället för en vårdchatt.

Men det viktiga jag vill förmedla här är att när någon pratar om förenklingar och effektiviseringar så finns skäl att vara skeptisk och noggrann i undersökningen av följdeffekter. En förenkling/effektivisering handlar ofta bara om att styra om ett flöde, och det är inte säkert att vi har koll på alla platser som kan svämma över.

För vet du, de problem vi har idag kommer förstås från de lösningar som byggdes igår (Senge, 1990). Och lösningar idag blir ofta någon annans problem imorgon. Att något kallas för en lösning innebär inte att aktiviteten inte också kan vara skadlig.

https://www.svt.se/nyheter/inrikes/yngre-soker-vard-i-onodan

Tidigt i pandemin gjorde jag en systemkarta över åtgärder och deras effekter. Jag använder den ibland för att illustrera hur svårt det är att förutspå vilka kostnader en åtgärd egentligen leder till. Det är mycket man måste hålla ögonen på för att tidigt upptäcka när en förbättringsåtgärd egentligen leder till försämringar och besvär:

https://axbom.se/systemkarta-pandemi/

🔗 Originally posted on LinkedIn

Per Axbom LinkedIn

Skulle du ha klickat? Phishing-mejl blir allt bättre.

I det här fallet försöker man lura av mig kortuppgifter med ett mejl om en betalning som inte gått igenom hos Loopia. Jag är kund hos Loopia. Men jag har bra koll på mina kort, och jag vet att det inte löpt ut som det här mejlet påstår. Fakturanumret som används i mejlet har samma format som Loopias fakturanummer – det är inte ett nummer som motsvarar en faktura jag fått - men det är såklart inget jag håller i huvudet.

Trots min erfarenhet kände jag mig ändå inte direkt övertygad om att det var en bluff(!). För jag vill inte riskera att ett domännamn inte förnyas. Jag hade till och med lagt in en påminnelse till mig själv att kolla på det här. Att förlora domännamn är förstås en perfekt rädsla för bedragare att utnyttja.

Eftersom jag är osäker så högerklickar jag på knappen och kopierar länken. Jag klistrar sedan in länken i en text-editor (du kan använda Word om det är enklast för dig). Klistra inte in i en webbläsare för hela poängen är att du inte ska besöka sidan!

När jag klistrar in länken i min text-editor så ser jag direkt att det är en webbadress som inte alls har med Loopia att göra. Då kan jag känna mig trygg med att radera mejlet.

Personligen brukar jag också kolla på den så kallade "header"-informationen i mejlet för att bekräfta att det inte kommer från företagets adress, men det är överkurs. Gör du som jag gjorde med länken här kan du ju få bekräftat att det inte är rätt.

Tipset är att alltså att alltid först dubbelkolla länkar på det här sättet om du känner dig det minsta osäker.

Och rent krasst, undvik ALLTID att initiera inloggningar och betalningar från mejl. Gå direkt till ett företags webbsida via webbläsaren genom att skriva in deras adress. Och stava inte fel. Bedragare registrerar ju gärna adresser som ser nästan ut som de riktiga företagens webbadresser.

Dilemma: Om du vill göra den här kollen på en mobil så måste du hålla ner på länken för att kopiera, och då öppnas ofta sidan i bakgrunden(!) Det är onödigt, och kan ge bedragaren en signal om att du aktiverat deras länk. Vänta alltså med att göra kollen på en desktop-dator (högerklicka och "kopiera länk").

Känner du dig fortfarande osäker bör du självklart kontakta företaget som anges som avsändare. Men INTE genom att svara på mejlet. Använd kontaktuppgifterna på deras hemsida, där det också ofta finns möjlighet att chatta med kundsupport. Du kan ju så klart också logga in på tjänsten (om det är ett företag där du har konto) och se där om du får liknande meddelande.

Och om du råkar göra fel, eller blir lurad: kom ihåg att det aldrig är ditt eget fel. Bedragarna är skickliga och lyckas när du är som mest sårbar. Och tyvärr är det ju så att man måste vara misstänksam mot ALLA mejl – och det kan vara energikrävande.

P.S. Bli inte heller lurad av att övriga länkar i mejlet kanske faktiskt går till företagets hemsida. Så gör bedragaren för att inge förtroende.

#TeknikTrygg

🔗 Originally posted on LinkedIn

Per Axbom LinkedIn

In The Elements of AI Ethics I talk about content moderator trauma. But I don't think people tend to reflect on just how massive the trauma is. This recent ruling in Kenya gives some insights.

From reporting in The Guardian:

“I’ve seen stuff that you’ve never seen, and I’d never wish for you to see,” Frank Mugisha, 33, a moderator from Uganda told the Guardian.

"Many said that they didn’t have full knowledge of what they were signing up for when they took the job. Some alleged they were led to believe they were taking customer service roles, only to end up sifting through gruesome content under tight timelines."

“It alters the way you think and react to things,” said Mugisha. “We may be able to find other jobs, but would we be able to keep them? I don’t know. We don’t interact normally any more.”

“I remember my first experience witnessing manslaughter on a live video … I unconsciously stood up and screamed. For a minute, I almost forgot where I was and who I was. Everything went blank,” read one of the written testimonies.

When we talk about the benefits of social media and AI we also need to talk about harm. The question not being asked and discussed often enough is this one: To gain these benefits, how much suffering are we willing to ignore?

https://www.theguardian.com/global-development/2023/jun/07/a-watershed-meta-ordered-to-offer-mental-health-care-to-moderators-in-kenya

#AIEthics #DigitalEthics

🔗 Originally posted on LinkedIn

Per Axbom LinkedIn

Fia skriver så bra oerhört bra (och underhållande!) om vad ”effektivisering via digitalisering” egentligen kan innebära för vården ur olika perspektiv.

Styrkor och svagheter i dessa rapporter (och pamfletten) radas upp på ett tydligt sätt och bör vara obligatorisk läsning för alla som arbetar med digitalisering i offentlig sektor. McKinseys gamla rapport från 2016 får sig också en känga.

«Det är alltså svårt att avgöra vad digitaliseringen egentligen leder till och var vinster uppstår. Som alla som ägnat sig åt att studera sjukvården så är behovet oändligt: om en bot skapas uppstår hela tiden nya och alltmer förfinade behov. Och det är i princip omöjligt att avvisa lösningar som leder till bot eller lindring och eftersom nya medicinska rön hela tiden tas fram så måste beslut om prioriteringar ständigt förnyas. Vad som är "kostnadseffektivt" i denna våldsamt rörliga målbild går inte att avgöra och att minska kostnader för vården är ännu mer avlägset.»

Förutom innehållet njöt jag oerhört av den oavsiktliga(?) tvetydigheten i ”bot och lindring”. Och jag skrattade högt åt raden: ”Därefter grips författaren av något som kallas insikt”.

🔗 Originally posted on LinkedIn