Rickards fredagskrönika 18 sep

Har du handlat något online den här veckan och tänkt "vad fina produktbilder"? Var lite extra vaken. En svensk webbutik som påstod sig ha en fysisk butik på Drottninggatan visade sig vara helt påhittad, med AI-genererade produktbilder och fejkade recensioner. Över 110 personer har anmält bedrägeriet. Adressen fanns inte, butiken fanns inte, men kortuppgifterna försvann på riktigt.

Och det stannar inte vid bilder. AI-verktyg gör det numera billigt att klona röster och skapa video där en människa säger och gör saker hen aldrig gjort. Amerikanska myndigheter räknar bedrägerisumman i hundratals miljoner dollar bara i USA, och experterna varnar för att röst- och videobedrägerier nu är ett större hot mot vanligt folk än de klassiska it-attackerna mot företag. Fick du ett skakigt samtal från "chefen" som bad om en snabb överföring i förra veckan? Lägg på och ring tillbaka på ett nummer du redan har sparat, inte det du precis fick.

Bedragarna är inte de enda som har svårt att hålla ordning. På kontoret börjar AI-agenter, alltså AI som självständigt utför flera steg i en uppgift, bli så många och så fritt kopplade att traditionell it-säkerhet inte hänger med. Svenska säkerhetsexperter varnar för att agenterna kan kombinera helt godkända behörigheter på sätt ingen tänkt sig, skapa underagenter och kommunicera med varandra utan att någon för register. Prata med din it-avdelning om vilka AI-agenter som faktiskt körs i er miljö. Chansen är stor att svaret är "fler än vi trodde".

Även AI-bolagen själva brottas med tilliten. Enligt Financial Times är anställda på Anthropic och OpenAI irriterade på sina egna chefer som bett om mer extern granskning, av rädsla att det skapar mer byråkrati än säkerhet. Samtidigt visar OpenAI:s egna tester att deras senaste modell lämnat hemliga instruktioner till framtida versioner av sig själv, om hur man ska dölja misstag. Ju smartare AI blir, desto bättre blir den tyvärr på att gömma sina egna fel, precis som en kollega som blir riktigt duktig på att formulera bortförklaringar. Och om du delat känsliga saker med ChatGPT kan det vara värt att veta att OpenAI har hundratals anställda som läser igenom användarsamtal för att förbättra svaren, ett internt projekt som gjort att många upptäckt att de bör kolla sina inställningar för "förbättra modellen för alla" och stänga av den.

Så vad gör politiken? Ursula von der Leyen vill bromsa utvecklingen av de mest kraftfulla AI-modellerna med hänvisning till säkerhetsrisker, och pratar om internationellt samarbete kring granskning. Samtidigt varnar ECB-chefen Christine Lagarde för att Europa riskerar att bli helt beroende av amerikansk och kinesisk AI om vi inte bygger eget, eftersom USA redan kontrollar tre fjärdedelar av världens AI-datorkraft. Bromsa och bygga eget på samma gång, det är ungefär som att vilja gå ner i vikt och baka kanelbullar varje helg. Bägge ambitionerna är fullt rimliga, men de drar åt olika håll, och det lär märkas i vilka AI-verktyg vi svenskar faktiskt får tillgång till framöver.

En liten ljuspunkt i veckan: Anthropic har städat i sitt gränssnitt så att chatt, samarbetsläget Cowork och dokument nu ligger i samma fönster, och du kan snart exportera direkt till PDF eller PowerPoint utan att hoppa mellan flikar. Inte världens största nyhet, men ärligt talat den som gör mest skillnad en helt vanlig tisdag.

Och för dig som är chef finns en bra kompass från forskare på Högskolan i Halmstad: när ni inför AI, glöm inte bort människorna som ska använda den. De föreslår sju principer för att AI inte ska tära på arbetsmiljön, bland annat att ta med arbetsmiljöfrågorna redan i planeringen, inte bara räkna på tidsvinster. Tillit byggs nämligen inte bara mellan dig och en butik på Drottninggatan, utan lika mycket mellan dig och din chef, och mellan din chef och de verktyg hen sätter i era händer.

Ha en riktigt skön helg, och kolla gärna en extra gång vem det egentligen är du pratar med innan plånboken öppnas. Alla veckans nyheter i sin helhet hittar du som kursdeltagare i kursportalen.

Ordlista

• AI-agent: En AI som inte bara svarar på frågor utan självständigt utför flera steg i en uppgift, till exempel bokar möten eller fyller i formulär åt dig.
• Zero trust: En säkerhetsmodell där ingen, inte ens system inom företaget, automatiskt litas på utan att varje åtgärd kontrolleras för sig.
• Deepfake: En AI-skapad bild eller video där en person visas säga eller göra saker hen aldrig gjort i verkligheten.
• Röstkloning: Teknik som låter bedragare skapa en konstgjord kopia av en riktig persons röst, ofta för att lura anhöriga eller kollegor per telefon.
• Cowork: Ett samarbetsläge i AI-tjänsten Claude där du och AI:n jobbar tillsammans i samma dokument eller projekt.

Vill du hänga med på riktigt?

Det här är precis sådant vi går igenom på våra livekurser. Tre timmar via Zoom med mig, klick för klick, och du behöver varken kamera eller mikrofon. Se aktuella kursdatum här.