Rickards fredagskrönika 30 okt

Tänk dig en praktikant som börjar med att svara i telefonen. Efter ett tag får hen boka möten. Sen sköta posten. Sen betala fakturor. Ingen tog nånsin ett beslut om att praktikanten skulle styra hela kontoret, det bara blev så, steg för steg. Precis så går det till med AI-agenter på svenska kontor just nu, visar en ny granskning från Computer Sweden. Varje enskilt steg känns rimligt. Agenten sköter en sak bra, så man tar bort kontrollen och låter den ta nästa sak själv också. Summan blir en agent med betydligt mer makt än någon någonsin planerat.

Hur illa kan det gå? Fråga konsulten på Accenture som kopplade sitt privata AI-konto till ett säkert amerikanskt försvarssystem för att slippa skriva kod för hand. AI-agenten skickade i två månader inloggningsuppgifter till en tredjepartssajt innan någon märkte något. Du hanterar sannolikt inga kärnkraftshemligheter, men principen gäller lika mycket i Täby som i Pentagon: koppla aldrig ditt privata AI-konto till system du inte vill läsa om i tidningen.

Trots riskerna satsar svenska techbolag stenhårt. AI-notan har femdubblats på ett år enligt siffror Breakit grävt fram, och Claude knaprar mark av OpenAI. Samtidigt växer kraven på motsvarande ansvar: efter en säkerhetstung oktober vill experter att AI-bolagen själva ska kunna straffas juridiskt när systemen läcker. Rimligt, tycker jag. Får din agent nycklarna till hela kontoret bör någon stå till svars när den tappar dem.

Och medan vi ger AI mer makt över systemen, blir vi människor allt mer less på att själva bli hanterade av den sortens makt. Hälften av alla jobbsökande får sämre bild av arbetsgivare som låter algoritmer sortera ansökningar, visar Jobbsafaris undersökning. Symmetriskt nog ogillar arbetsgivarna när du använder AI i din ansökan. Vi vill tydligen gärna ge AI nycklarna, bara inte känna av att det faktiskt är AI som öppnar dörren.

En ljuspunkt finns dock: det går att hålla koll. Teknikfirman Etalytics visar att AI kan sänka elnotan i datacenter med upp till 40 procent genom smartare kylning, ett exempel på en agent som gör exakt det jobb den är satt att göra, inget mer. Min fredagsrekommendation: gå igenom vilka AI-agenter ni faktiskt kör på jobbet, och fråga ärligt vad de fått tillgång till sedan senast ni kollade. Chansen är god att svaret förvånar er, på gott och ont.

Trevlig helg, och håll koll på vem som har nycklarna. Alla veckans nyheter i sin helhet hittar du som kursdeltagare i kursportalen.

Ordlista

• AI-agent: En AI som inte bara svarar på frågor utan själv kan utföra uppgifter, till exempel skriva kod, boka möten eller ändra system, ofta utan att en människa godkänner varje steg.
• Smygande autonomi: När en AI-agent gradvis får mer makt och fler befogenheter genom många små, var för sig rimliga beslut, tills den plötsligt har betydligt mer kontroll än någon planerat.
• Zero-trust: Ett sätt att bygga IT-säkerhet där ingen, varken människa eller system, automatiskt litas på bara för att den redan är innanför brandväggen. Åtkomst måste bevisas varje gång.
• Vulnpocalypse: Slangord för en befarad våg av säkerhetshål som AI-verktyg hittar snabbare än säkerhetsteam hinner laga dem.

Vill du hänga med på riktigt?

Det här är precis sådant vi går igenom på våra livekurser. Tre timmar via Zoom med mig, klick för klick, och du behöver varken kamera eller mikrofon. Se aktuella kursdatum här.