Was talking to @beantin about the “amazing” feat where ChatGPT passed the bar exam. We agreed that if you feed all the relevant content for the bar exam into ChatGPT there really should be no big surprise about it being able to spew out statistically relevant content.
The fact that it still got such a relatively low score should be a cause for worry, not celebration(!) It’s evidence that the tool has no understanding of what it is doing. It has the answers, it’s just not able to use them in the right way. It’s like a student sitting with a textbook with all the answers to the test and not being able to understand which answer fits where.
As Paris Marx wrote in March:
"it’s so funny to me that the AI people think it’s impressive when their programs pass a test after being trained on all the answers”
@aronambrosiani Definitivt en kandidat, men jag känner personligen att vilseledande blir för lättsamt. Med dessa designmönster menas ju ofta sådant som får mig att omedvetet ta beslut helt mot mina egna önskemål eller preferenser. Vilseledande reklam ljuger väl mest tänker jag spontant. Men ska fundera några varv till innan jag låser mig vid en ståndpunkt. 😁
We need to differentiate between tech tools that I choose and control, and tools that someone else chooses and that control me.
I feel like there is matrix to be designed here…
@jepdee Haha, lovely, thank you!!
Lustigt nog används alltjämt begreppet “dark patterns” av personer som arbetar med digital design i Sverige. En metafor på engelska är kanske inte det mest tydliga uttrycket i ett svenskt sammanhang för design som vilseleder och manipulerar. Men ett ytterligare skäl att överge begreppet på svenska är att det faktiskt också övergetts av personen som kom på det från början. När Brignull nyligen släppte sin bok om bedräglig design så heter den Deceptive Patterns och ingenting annat.
https://axbom.se/dark-patterns-svenska/
Jurister. Advokater. Och jag.
I området där jag rör mig – mänskliga rättigheter och etik kopplat till teknik – så är juridiken förstås en viktig komponent. Nu har jag en än mer uppdaterad och aktuell syn på hur kritiskt det är att bolagsjurister, men också advokater och domare, får spela en mer framträdande roll i vägledningen av ny teknik.
Särskilt inom automatiserat beslutsfattande, eller för all del även automatiserat beslutsstöd.
Igår gick jag kurs i AI och Juridiken – en utbildning i praktisk tillämpning och ny lagstiftning. Det blev för mig en uppdatering kring de många lagar och riktlinjer som påverkar teknikutvecklingen redan idag, och som kommer att påverka den i framtiden. Men också något av en aha-upplevelse gällande hur kolossalt utmanande den här regleringen av AI-baserade tjänster kommer te sig.
Att vi har lagar och regelverk är förstås bara en liten, liten del i ekvationen. Hur de tillämpas, efterlevs och hanteras av rättsväsendet är avgörande. Jag blev nog både skärrad och engagerad av de exempel som togs upp.
Många vill förstås hinna göra så mycket som möjligt innan lagarna får fäste – göra AI-verktyg till kritiska nav som organisationer inte klarar sig utan. Men när lagarna får fäste kan det också få dominoeffekter givet att många nya system är beroende av andra, större system i botten. Om de större systemen inte lever upp till framtida lagstiftning (som mycket redan pekar på) så kan mindre system som är byggda ovanpå dessa också hamna i kläm.
Men alla dessa processer tar förstås tid. För att vara beredd, göra rätt från början och undvika överraskningar ser jag bara fördelar med att jurister är involverade från dag 1 i alla nyutvecklingsprojekt.
Och för att det här ska fungera hela vägen, och kanske särskilt inom offentlig sektor, måste rättsväsendet förstå utmaningarna i beslut som tas automatiserat och påverkar många människor på en gång, där överklagan av dessa beslut ska ske av drabbade personer som inte har någon som helst insyn i hur besluten fattas.
Fallet med skolplaceringar i Göteborg från 2020 är ett starkt och viktigt exempel på hur fel det kan gå och hur häpnadsväckande svårt det är att få någon som helst upprättelse när kommuners felaktiga beslut är grundade i automatiserade system.
Stort tack till Charlotta Kronblad och Christina Wikström för en tidsenlig och träffsäker kurs. Jag känner mig än mer stärkt i mina övertygelser om hur viktigt det är att belysa problemen och hjälpa till att styra tekniken mot arbetssätt som sätter omtanke och välbefinnande i första rummet.
Och att jag kan hjälpa till inom utbildning, förklaringar och visualiseringar för att åstadkomma just detta.
Tack också till alla övriga deltagare! Jag lärde mig hur mycket som helst om oro och erfarenheter av alla frågor som ställdes, samt de ivriga lunchdiskussionerna om vem det är som bestämmer över våra val… egentligen.
The "science of cute”. 🐿️
I tend to question most things I see online. Today was no exception. I was sent images of squirrels supposedly landing on the ground like superheroes after jumping from trees (one fist in the ground and the other arm stretched out behind them).
I really, really wanted to believe this. It’s too cool! But my mind immediately went… are these AI-generated?
As it turns out, this claim has been doing the rounds for years. The pictures are real. The context is not. That’s not a squirrel landing. It’s what a squirrel looks like during the activity of scratching their armpit with their hind leg.
And how do they in fact land? "When in a controlled fall, squirrels will spread their limbs out wide to increase air resistance and hit the ground like a bushy-tailed pancake. This helps spread the force of the impact over a greater area to prevent injury."
https://guloinnature.com/do-squirrels-land-like-superheroes/
@geraldew 👍 Agree wholeheartedly.
@Aakerbeere
Thanks. Firefish is mentioned on the web page :)
There are many services not in the graphic. What do you consider to be good criteria for deciding whether or not a service should be in the visual?
When I designed it, the most important goal was providing an understanding of the diversity of the Fediverse and encouraging further exploration. Mapping the whole Fediverse is a challenge, and I believe would make the graphic more overwhelming, rather than sparking curiosity.
@geraldew Yes, and organisations can be proactive in collecting data from vulnerable/oft-ignored populations for a better understanding of unexplored perspectives.
Context matters, but deciding beforehand that certain people don’t matter is a problem. In my experience this tends to happen (often obliviously) with data collection choices.
@HistoPol Good reflections. As it turns out, on Tuesday I’m attending a course on AI and regulation. It’s aimed at lawyers, but I was welcome. Hoping to make some valuable connections there, as I am also in fact hopeful that more legislative efforts can bring about change a bit quicker.
En enkät ger svar från människor
- som har fått kännedom om enkäten
- som har fått tillgång till enkäten
- som är villiga att svara
- som har förmågan att svara
Människor som lever i utsatthet, som har särskilda funktionsnedsättningar, som kämpar med tid, fattigdom, språk eller läsförmåga kommer i allmänhet inte att svara. Människor du inte når med ditt valda format, verktyg eller tilltal kommer inte att svara.
Enkäter är sällan representativa eftersom den tid och ansträngning som krävs för att göra enkäter inkluderande inte investeras.
Effekten av undersökningar blir då att människor som osynliggörs av samhället blir än mer osynliggjorda av organisationer som ofta kallar sig datadrivna.
Eftersom de förlitar sig på enkäter.
@HistoPol I believe this is a shift that can only happen with education and when becoming embedded in culture. Takes a lot of time.
Especially when equity gaps increase before they decrease.
My conviction has become to advocate for the idea of love, compassion and care as viable forces for innovation and business. But I have no illusion of making much of a dent within my own lifespan.
When you run a survey you are getting responses from people
- who are made aware of the survey
- who are given access to the survey
- who are willing to respond
- who are able to respond
People who are disenfranchised, living with disabilities, struggling with time, money and/or language/literacy generally will not respond.
Surveys are rarely representative because the time and effort required to make surveys inclusive is not invested.
The effect of surveys is then that people who are made invisible by society are made even more invisible by organisations that often call themselves data-driven.
Because they run surveys.
@flyboy It's a reference to Bostrom's "thought experiment".
https://duttonlaw.ca/the-ai-paperclip-problem-explained/
Another brilliant piece by @pluralistic
« The AI sector is utterly dependent on criti-hype. They are burning tens of billions of dollars on engineering salaries, custom chip fabs, human data annotation, data-center rents, racks and racks of GPUs and ASICs, whole gridsworth of electricity and entire aquifers’ worth of fresh water for cooling.
They are hemorrhaging a river of cash, but that river’s source is an ocean-sized reservoir of even more cash.
To keep that reservoir full, the AI industry needs to convince fresh rounds of “investors” to give them hundreds of billions of dollars on the promise of a multi-trillion-dollar payoff.
That’s where the “AI Safety” story comes in. You know, the tech bros who run around with flashlights under their chins, intoning “ayyyyyy eyeeeee,” and warning us that their plausible sentence generators are only days away from becoming conscious and converting us all into paperclips. »
https://doctorow.medium.com/how-the-writers-guild-sunk-ais-ship-236575979d5c
Nu finns mitt blogginlägg om QR-koder som podd. 11 minuter långt.
Det är kul att producera artiklar du kan lyssna på. Ett bra sätt att nå fler med sitt innehåll. Att förbättra tillgänglighet.
Det är samtidigt också något annat. Jag läser inte bara in texten utan lägger även in ljud för att förstärka budskapet och kanske bidra till ett och annat skratt.
I det här inlägget är jag ju ganska irriterad, och det är intressant att höra hur min röst bidrar till tolkningen av texten.
Lyssna gärna på avsnittet och om du gillar konceptet blir jag så klart glad om du vill prenumerera. Podden finns på alla platser där poddar finns, och där du kanske brukar lyssna. Sök bara på ”Omtanke med Per Axbom”, eller följ länkarna här nedan.
Berätta gärna om du tycker formatet funkar. 🥰
Direktlänk till avsnittets webbsida:
https://omtanke.axbom.se/episodes/bedragliga-qr-koder
Apple Podcasts
https://podcasts.apple.com/se/podcast/omtanke-med-per-axbom/id1670930846
Pocket Casts
Spotify
https://open.spotify.com/show/34ZAscAYCSxDgXlvZHjcSU
Overcast
https://overcast.fm/itunes1670930846
Listen Notes
RSS-flöde
@kolombiken Verkligen okej! Jättekul att du läser, lyssnar och ger feedback. Tack snälla! 🙏
Idag är det exakt 3 år sedan det här reportaget av Ross Andersen publicerades.
Finns mycket att reflektera över kring vilka förflyttningar i acceptans av övervakning som skett sedan dess.
https://www.svd.se/a/x3RynB/sa-kan-kinas-overvakningsstat-exporteras-over-jorden
@andypiper @kubikpixel
Yes, there are likely 50 projects not in this diagram – it was never intended to be a complete mapping and even when I made it there were many projects left out intentionally. Quite a few that are not in the diagram are listed on the web page, though. I’ve added Postmarks and Gath there as well:
https://axbom.com/fediverse/