En enkel Google-sökning som använder en del av länken som skapas när någon väljer "Dela" på ChatGPT kan röja konversationer där människor avslöjar djupt personliga detaljer, såsom missbruk, erfarenheter av misshandel eller allvarliga psykiska problem.
** UPPDATERING: OpenAI har nu gått ut med att de tagit bort möjligheten att dela länkar till chattar som kan indexeras. De kallar det för ett experiment och säger att de inte var beredda på att människor omedvetet delar sådant de inte vill att alla ska kunna se. Det kallar jag för dålig design och naiv vårdslöshet - vilket förvisso också är precis vad jag förväntar mig av OpenAI. **
Anställda kan förstås också ha använt funktionen för att dela konversationer där man använt sig av konfidentiell information om kunder, eller den egna organisationen.
Även om användarnas identiteter inte visas av ChatGPT kan såklart personen identifieras i fall där specifik personlig information delas under chattarna.
Fast Company var först ut med att häromdagen avslöja att om du någon gång delat en chat med ChatGPT:s ”Share”-funktion så kan hela den chatten vara sökbar via Google, så att vem som helst i världen kan läsa allt du skrivit.
I ett fall beskriver en person sitt sexliv i detalj och sin sorg över att bo i ett främmande land.
För en del personer kan det här visa sig vara direkt farligt och de potentiella skadorna borde vara uppenbara.
Designmiss eller naiv vårdslöshet från ChatGPT:s sida? Bara ännu ett i raden av exempel på att du aldrig kan utgå från att information du delar online är privat.
Sättet de här typerna av produkter används på gör avslöjandet särskilt prekärt.
Du kan vara helt säker på att den här personliga informationen också kommer återanvändas som underlag i vidareutvecklingen av probabilistisk automatisering (det många slarvigt kallar ”AI”). Vem vet var och när den privata datan kommer dyka upp härnäst.
OBS! Om du är en person som är drabbad är rekommendationen att du raderar det du inte vill ska vara publikt. En delad chat är tillgänglig för alla som får eller hittar länken.
https://www.fastcompany.com/91376687/google-indexing-chatgpt-conversations