Today’s insight is brought to you by Mat Velloso, on the difference between machine learning and AI:
”If it is written in Python, it's probably machine learning. If it is written in PowerPoint, it's probably AI.”
Tagged: LinkedIn
I'm researching the Dewey Decimal system for a metadata presentation.
The topic "Homosexuality" was classified
- in 1932 under 132 (mental derangements) and 159.9 (abnormal psych.)
- in 1952 also 301.424 (study of sexes in society).
- in 1989 also 363.49 (social problems).
This matters because classification systems are used in machine learning. Machines do not make value judgements but humans do. There is a very real risk that AI can slow the progress of changing values by learning from data where prejudice persists.
Once again, the people at risk in what is often called improvement are the people who are always at risk, always set a aside and rarely included in designing the future. They are the ever bypassed stakeholders of said improvement.
Digitization lowers barriers to communication to the extent that one person can be overwhelmed by personal messages in such a way that they must often resort to not responding, even when they themselves perceive this as rude and contrary to their own value system.
"Digital native" does not mean you are better at using digital or even understand its workings. It just means you have been haunted by it your entire life, which may even lessen your ability to question aspects of it.
We need to become more flexible, fast-paced, agile, innovative, automated, and [insert buzzword here] to cope with future business environments.
No. What we need is to become more intent on helping other people manage their perceived obstacles, while acknowledging that we rarely have enough information on hand to do this in a sustainable way.
I worry a lot about a business focus on speed. A focus on doing something faster than everyone else. Velocity has a huge potential to carry us a vast distance from our intended goal, even if the bearing is only slightly off. A fast pace encourages rapid performance indicators, excelling in displaying short-term triumphs.
Sit down with the people you wish to help. Sit down with the people you are affecting. Listen to them slowly. Not quickly. Discover what they are saying not just in words but in body, in movements, capabilities and emotions. Build with them, not for them. Your most important indicator is human.
Ironically, your biggest challenge is not going faster. It is deceleration.
”These tools generate many of the same biases as human law-enforcement officers, but with the false patina of technical neutrality.”
”Scholars have been pointing to the technical and social risks of facial recognition for years. Greater accuracy is not the point. We need strong legal safeguards that guarantee civil rights, fairness and accountability. Otherwise, this technology will make all of us less free.”
– Kate Crawford
Den 25 september pratar jag på Webbdagarna i Göteborg om vilket ansvar vi har inom digital design att bli bättre på att bygga lösningar som inte skadar människor. Jag talar till och med om hur.
Idag är sista dagen att köpa biljett till lägre pris.
Här beskriver Linda Paxling sin avhandling inom feministisk teknovetenskap, där även själva avhandlingen är en normkritisk innovationsprocess.
"Hon använder feministisk och postkolonial teori för att studera hur normer för innovation, teknologi och utveckling finns inbäddade i våra föreställningar om teknikvetenskap. Föreställningarna påverkar hur teknik designas, vilket i sin tur får konsekvenser för hur teknologi distribueras, förstås och används. Det för med sig etiska implikationer."
Det här är förbaskat bra och lärorikt innehåll, och Linda är en person ni ska hålla koll på inom området etisk innovation.
Det varnas nästan dagligen om hur de globala jättarna i sociala medier är obetänksamma med vår privata information. Att demokratin hotas i sina grundvalar. Tyvärr tar det gärna fokus från läckorna som händer nära oss – där vi hela tiden tänker att vi är säkra. När samhälleliga tjänster regelbundet brister i säkerhet måste den digitala tryggheten adresseras på nationell nivå.
Jag håller den här sidan uppdaterad. När man gräver i skandalerna kring skolplattformen blir man väldigt häpen över hur privat information får tillåtelse att behandlas. Och hur man gång på gång verkar förbise allvaret.
Klockan är 15:45. I morse kl. 10 upptäckte Måns Jonasson ett stort säkerhetshål i Stockholm stads skolplattform. Han informerade staden. Nyheterna om detta kom ut i de flesta medierna mellan 14 och 15. Fortfarande har ingen ansvarig kontaktat Jonasson för en dialog. Han skriver dessutom att det finns flera hål som de ännu inte täppt till, trots att de till nyheterna säger att de stängt delar av sajten. #skolplattformen
Jag häpnar. Och bevakar just nu med länkar på denna sida:
Här upptäcker Måns Jonasson att han kan få ut namn och personnummer på alla lärare och elever i Stockholms stad genom att "mecka lite" i skolplattformen.
Gissar att det snart är i en nyhetskanal nära dig. Det här är otäckt men kommer också bli vansinnigt intressant att följa konsekvenserna av.
Skolplattformarna är inte bara en katastrof ur ett användarperspektiv, de är läckande såll när det gäller personuppgifter.
(Inläggen i bilden är i omvänd kronologisk ordning)
Hela historien här: https://axbom.blog/skolplattform-stockholm-personuppgifter/
Länken till Twitter här: https://twitter.com/mansj/status/1164081855286665216?s=20
#skolplattformen
"Service Design is at the nexus of 3 sciences that have serious historic problems with oppression, exclusion and violence. It seems to have no real controls in position to prevent those problems flowing into the future design processes."
Woke up with a new idea for a talk, so I quickly drew this mindmap. Will be polishing this over the next months.
Again with the mental illness myth. It makes me sad and frustrated. People with diagnosed mental health disorders and conditions are much more likely to be victims rather than perpetrators.
50,000 pics uploaded to dickpiclocator.com today. Hardly cause for celebration but a good reminder that our messaging services are still not designed to mitigate this behavior.
The ever wise Pamela Pavliscak.
It's not mainly people who would have taken a car who use electric scooters...
But you knew that.
Jag har flera gånger försökt försvara svenskans språkdräkt när människor hävdar att engelskan är mycket rikare. Den här spaningen ger vatten på min kvarn. Jag unnar dig att läsa den :)
Idag är det 55 dagar till 23 september då nya offentliga webbplatser måste ha en tillgänglighetsredogörelse.
Har ni koll på läget?