💌 Pausplings trendspaning v50 2024 💌

Allt du någonsin behöver ha koll på inom tech, AI, hållbarhet och kultur

🕯️ Glad Lucia vänner! 🕯️

Här kommer ännu ett lite försenat nyhetsbrev då jag varit i Berlin på jobb och nöjen. Jag tog nattåget ner och firade min 44-årsdag den 9 december med att dricka lite bubbel och skriva på min bok i bistron. Mysigt!

Att fylla 44 år känns inte något särskilt tycker jag, men födelsedagen fick ändå lite guldkant tack vare ett event som KTH och Google anordnade i fantastiska reaktorhallen på KTH. På agendan stod AI och vetenskap/forskning, och hedersgäst var Google Deepminds fantastiska COO Lila Ibrahim, en av TIMEs topp 100 inom AI 2023.

Fotograf: Felix Frank

Att vara COO kan innebära många olika saker. Det som är spännande med Lila Ibrahim är att hon väldigt tidigt fick i uppdrag att forma ett etiskt råd för att styra Google Deepminds AI-projekt. Hon beskriver hur i denna långa, men läsvärda artikel om Google Deepmind i Fast Company.

Ibrahim, who had recently arrived as COO after a long career at companies such as Intel and Coursera, was charged with forming it. At first, “We actually called it ‘the Committee to be Named Later,’ because we didn’t want to signal the high stakes,” she remembers. “The goal was, how do you build a culture that is authentic to DeepMind, but that could navigate and address some of these things?”

In time, the CTBNL’s official name became the Safety and Responsibility Council. Consisting of leaders from throughout the company, it provides feedback on projects in progress, with an emphasis on identifying potential issues before they actually manifest themselves.

Google Deepmind jobbar även med externa experter och rådgivare i sitt etiska arbete, och skriver om hur det fungerar här (Google Deepmind).

Jag kan även rekommendera denna intervju med Lila Ibrahim.

Vi ska alldeles strax djupdyka ner i årets sista trender (jag tar en julpaus till v 2). Jag kommer dock att göra ett särskilt utskick till er som är betalande prenumeranter, med en summering av de viktigaste trenderna 2024 och lite spaningar inför 2025. Jag funderar även på att mata in alla årets nyhetsbrev i NotebookLM och testar hur deras poddspaning blir.

Men innan vi kör skulle jag vilja tipsa om två saker:

🎓 Jag vill pusha en sista gång (antagligen inte 😉) för att Joakim Jansson på DigJourney och jag håller en ny omgång av vår diplomeringskurs i att leda AI-transformation med start 21 januari. Den första omgången fick 69 i Net Promotor Score (skala -100 till 100), vilket jag är superglad för. Tveka inte att höra av dig om du är nyfiken och/eller har frågor så bokar vi in ett möte. Och grattis Helena Grimfors, konsultchef på CAG Arete, som vann en plats på kursen via Nicklas Hermanssons nyhetsbrev

NomoFomo

!

🗣️ Inspirerad av

Niklas Laninge

vill jag också påminna om att jag har en referenslänk som ni mer än gärna får använda för att tipsa vänner och kollegor om mitt nyhetsbrev. Här nedan ser du belöningen. Du får nyhetsbrevet gratis i en månad om du rekryterar tre nya prenumeranter (räcker med gratis) osv. Referera gärna nyhetsbrevet med denna länk.

Elin Häggberg

leder listan med 95 stycken. Tack! 💌

🔮 Nej men, om vi ska köra lite spaningar nu då? Ja, det ska vi!

---

Försäkringskassans AI-system flaggar kvinnor som fuskare

Japp, jag gästade Nyhetsmorgon med ‘AI-kollen’ igen häromveckan och denna gång pratade jag bland annat om AI:s klimatavtryck (obs, det låter som att jag säger 67% när jag pratar om AI:s vattenförbrukning; det ska vara 6 till 7%). Jag pratar även om SvD och grävorganisationen Lighthouse Reports granskning av Försäkringskassans algoritm/AI för fuskprofilering.

Granskningen visar att AI-systemet (åtminstone enligt data från 2017/2018, eftersom Försäkringskassan hänvisar till sekretess kring nyare data) flaggar kvinnor som potentiella fuskare oproportionerligt ofta.

Citat ur artiklen i SvD, med grafik av Thomas Molén:

Med hjälp av flera experter tar vi fram sex olika tester för att kontrollera om Försäkringskassan behandlade alla vabbare lika, eller om vissa grupper missgynnades.

Systemet pekade gång på gång ut oskyldiga mammor och föräldrar med utländsk bakgrund, låg utbildning eller inkomst.

Kvinnor drabbades särskilt. De fick mycket oftare den högsta risknivån, samtidigt som hälften av dem var helt oskyldiga.

⬇️ Jag fortsätter att skriva om Försäkringskassans AI-system och potentiella lösningar bakom betalväggen nedan. Hoppas vi ses där! ⬇️

🌻 Här nedan följer den betalda premiumdelen av mitt nyhetsbrev, med ännu fler lästips. Jag skriver bland annat om: 🔸 Mer om Försäkringskassans AI-system och andra liknande incidenter 🔸 Helsingfors AI-register som vi borde inspireras av 🔸 ‘Tis the season: Allt om Benedict Evans trendslides inför 2025 på temat ’AI eats the world” och futuristen Amy Webbs trendbrev inför 2025 🔸 Den enda guiderna du behöver: Vad kan jag ladda upp i vilket AI-verktyg? och Hur ska min organisation tänka kring AI och säkerhet?🔸 The Verge har summerat de viktigaste nyheterna inom AI 2024 🔸 Artikeln om att solenergisektorn växer starkt men att våra beteenden gör att den utvecklingen kvittar 🔸 Varför hamnar kvinnor efter i AI-användandet och vad får det för konsekvenser? 🔸 Allt om AI och dejting! Poddarna du borde lyssna på om du är nyfiken. 🔸 Sverige blir en av EU:s sju AI-fabriker med egen superdator 🔸 Google lanserar kvantdatorchippet Willow - varför är det ett stort genombrott? 🔸 Allt om de nya text/stillbild → 3D-verktygen 🔸 Och mycket mer! Hoppas vi ses på andra sidan! 🌻