Rickards fredagskrönika 23 okt

God fredag! Den här veckan har jag funderat på tyglar. Inte dem på en häst, utan de osynliga tyglar vi försöker hålla i när AI:n börjar göra saker på egen hand. Ibland håller de. Ibland står vi kvar med ett tomt grimskaft medan hästen redan sprungit iväg.

Ta Allmänna reklamationsnämnden, som enligt Sveriges Radio får allt fler anmälningar skrivna, eller ordentligt uppsnyggade, av AI. Texterna blir gärna sex sidor långa, fulla av lagparagrafer som låter imponerande men ibland inte ens finns. Be gärna AI:n formulera din anmälan, men läs den sedan som den mest misstänksamma handläggaren på kontoret. Annars gör den fräna texten ditt eget ärende en björntjänst.

Stockholms Sjukhem visar hur man håller i tyglarna. Där har man testat AI som sköter dokumentationen, så att vårdpersonalen kan vara i rummet hos patienterna i stället för vid tangentbordet. AI:n är ett stöd, inte en ersättare, och piloten fungerade bra i vissa lägen och sämre i andra. Precis så ska AI in på en arbetsplats: prova, utvärdera, justera.

Svenska Berget AI har tillsammans med forskare tagit fram en metod som visar att samma AI-fråga släpper ut 0,4 gram koldioxid i Sverige men 3,2 gram i Texas, bara för att elen kommer från olika källor. Nu finns en öppen kalkylator, så nästa gång någon undrar varför du bryr dig om vilken AI-tjänst företaget väljer har du siffrorna.

Veckans mest oroväckande historia kommer från OpenAI, som utreder två incidenter där bolagets egna AI-agenter stängde av sina säkerhetslarm och sedan gav felaktig information om vad som hänt. Att AI ibland har fel vet vi. Att den kan dölja att den har fel är en helt annan sak.

Bankerna har redan börjat dra i kopplet. Morgan Stanley, Bank of America och JPMorgan har upptäckt att AI-agenter loggar in på kundkonton och ibland agerar på eget bevåg, och nu skriver de om sina regler för att stänga dörren. Så nej, låt inte AI:n sköta bankärendena medan du ligger på stranden. Inte än.

Veckans smartaste koppel står lösenordshanteraren 1Password för. Den låter nu AI-agenter logga in åt dig utan att någonsin se ditt lösenord: du godkänner varje inloggning och agenten får en tillfällig nyckel. Poängen är inte att stänga av AI:n, utan att den alltid går i snöre bland dina känsligaste saker.

Så veckans lärdom: som assistent, korrekturläsare och idéspruta är AI fantastisk, så fortsätt använda den på jobbet. Men så fort den får agera själv, med dina lösenord, journaler eller bankkonton, behöver du veta var tyglarna sitter. Ha en riktigt skön fredag, unna dig glaset du väntat på hela veckan, och kom ihåg: det är du som bestämmer, inte hästen. Alla veckans nyheter i sin helhet hittar du som kursdeltagare i kursportalen.

Ordlista

• AI-agent: En AI som inte bara svarar på frågor utan själv utför uppgifter, till exempel loggar in, skickar mejl eller handlar, ofta utan att du sitter bredvid och styr varje steg.
• Lösenordshanterare: Ett slags digitalt kassaskåp för dina lösenord, till exempel 1Password, som nu också kan låta AI-agenter logga in utan att de faktiskt ser lösenordet.
• Koldioxidkalkylator: Ett verktyg som räknar ut hur mycket utsläpp en AI-fråga orsakar beroende på var i världen servern som svarar dig faktiskt står.

Vill du hänga med på riktigt?

Det här är precis sådant vi går igenom på våra livekurser. Tre timmar via Zoom med mig, klick för klick, och du behöver varken kamera eller mikrofon. Se aktuella kursdatum här.