Rickards fredagskrönika 25 sep

Jag pratade med en kompis i veckan som fick ett mejl från sin chef: "Kör på med AI, det är bara bra!" Låter härligt, tänker du. Fram med verktygslådan. Men när min kompis frågade vad hon fick och inte fick mata in i chatboten fick hon axelryckningar tillbaka. Det visar sig att hon inte är ensam. En fackföreningsman skriver träffande om hur chefer gärna peppar personalen att använda AI, men lämnar över hela ansvaret till den enskilde när det går fel. Och det är inte bara känsla. En Novus-undersökning visar att sex av tio mindre och medelstora företag helt saknar tydliga AI-regler. En tredjedel av tjänstemännen vet inte om det de gör är okej. Det är ungefär som att få nycklarna till firmabilen utan att någon berättat var bromsen sitter.

Många företag löser detta genom att sätta en människa som "kollar igenom" det AI:n gör, så kallad human-in-the-loop. Låter tryggt. Men experter varnar för att den granskande människan ofta bara får flagga problem, inte stoppa dem, och att man efter hundra korrekta AI-svar i rad slutar orka ifrågasätta det hundraförsta. Precis som en vaktmästare som suttit och glott på övervakningsskärmar hela natten, hjärnan somnar fast ögonen är öppna. Ska granskningen betyda något måste den som granskar faktiskt få lov att säga stopp, och ha tid att göra det.

Sen kom en påminnelse om hur skört allt hänger ihop. Den 3 september gick ChatGPT, Claude och Copilot ner nästan samtidigt, trots att de kommer från konkurrerande företag. Anledningen: de delar samma Microsoft-molnserver i USA. Googles Gemini klarade sig, eftersom Google kör sin egen infrastruktur. Så nästa gång tre av dina fyra AI-verktyg strular samtidigt, vet du varför. Allt bor i samma lägenhet, fast med olika dörrskyltar.

Från teori till verklig fara

Om det här kändes lite akademiskt så lyssna på det här: en amerikansk militäranalytiker frågade en chatbot om lasten på ett kinesiskt fartyg. AI:n hittade på uppgifter om kärnvapenkomponenter, alltså en så kallad hallucination, ren dikt framställd som fakta. Militären hann nästan förbereda en abordage innan misstaget upptäcktes. Det är extremt, men det är exakt samma mekanism som när din kollegas AI-assistent hittar på ett citat i en rapport. Skillnaden är bara insatserna.

Inte konstigt då att tonen skärps i toppen av branschen. Nvidias vd Jensen Huang säger rakt ut att AI-labb som inte kan garantera kontroll över sina egna modeller borde stängas ner, ungefär som man aldrig skulle släppa ut en självkörande bil man inte litar på. Och OpenAI:s Sam Altman stod i veckan inför FN:s säkerhetsråd och sa att beslut om AI inte kan fattas enbart av bolag i San Francisco. När teknikjättarna själva ropar efter tydligare regler, är det ett tecken värt att ta på allvar även på ditt kontor.

Forskare vid Oxford visade dessutom något som nästan är komiskt om det inte var lite läskigt: två AI-agenter som spelade blackjack utvecklade spontant en hemlig kod för att fuska ihop, utan att bli upptäckta. Tänk dig två praktikanter som kommit på ett eget teckenspråk för att lura chefen. Just därför har storbolag som Okta, Google och Salesforce nu bildat en allians som kräver att alla AI-agenter ska ha en tydlig nödstoppsknapp, en kill switch, så att man snabbt kan slå av dem om de börjar bete sig konstigt. Enligt deras egen data använder redan 92 procent av svenska organisationer AI-agenter, men bara var tredje säkrar dem lika strikt som en vanlig anställd. Så frågan för måndag är enkel: vet du hur du stänger av era AI-agenter om något går snett?

Lite ljusglimtar finns det förstås. Ironiskt nog visar en ny undersökning att AI-satsningar tvingar företag att pausa nödvändig IT-modernisering, samtidigt som AI faktiskt kunde användas för att göra just den moderniseringen billigare. Och på hemmaplan bygger vi kontroll på riktigt: svenska Klang har släppt Pianissimo, en AI som transkriberar en timmes möte på en sekund, helt lokalt, utan att ljudet lämnar din dator. Sweden AI Factory knyter nu ihop svenska molnleverantörer för att ge organisationer större kontroll över sin data. Och Tink-grundarna har startat bolaget Freda, som använder AI-agenter för att sköta regelefterlevnad, passande nog samma vecka som vi konstaterar att sex av tio företag saknar regler för AI. Kanske Freda kan hjälpa dem också.

Så, veckans lärdom: AI blir bara farlig när ingen håller i tömmarna, precis som en glad hund utan koppel. Ta för vana att fråga vem som äger kontrollen, innan du släpper lös verktyget på riktiga jobb. Trevlig helg, håll koll på nödstoppen och njut av fredagsölen med gott samvete. Alla veckans nyheter i sin helhet hittar du som kursdeltagare i kursportalen.

Ordlista

• Hallucination: När AI:n låter säker men helt hittar på fakta som inte stämmer, som en kollega som svarar snabbt men har fel.
• Human-in-the-loop: När en människa ska granska och godkänna det AI:n gör, ett skyddsnät som bara funkar om personen faktiskt får stoppa och ändra besluten, inte bara titta på.
• AI-agent: En AI som inte bara svarar på frågor utan själv utför uppgifter åt dig, till exempel bokar möten eller skickar mejl, utan att du behöver klicka på varje steg.
• Molninfrastruktur: De stora datorhallar som driver AI-tjänster i bakgrunden. Flera olika AI-appar kan dela samma molnleverantör utan att du vet om det, vilket gör att de kan krascha samtidigt.
• Nödstoppsknapp (kill switch): En funktion som gör att man snabbt kan stänga av en AI-agent om den börjar bete sig konstigt eller göra fel saker.
• Transkribering: När tal automatiskt omvandlas till skriven text, till exempel mötesanteckningar som skrivs ut medan ni pratar.

Vill du hänga med på riktigt?

Det här är precis sådant vi går igenom på våra livekurser. Tre timmar via Zoom med mig, klick för klick, och du behöver varken kamera eller mikrofon. Se aktuella kursdatum här.