AI-agenten som sägs ha raderat en hel tv-säsong

Fem veckor före premiären är en hel säsong av ”The challenge Sverige” borta. Enligt källor till Aftonbladet släppte produktionsbolaget Mastiff in en AI-agent på sin server, och agenten raderade den färdigklippta säsongen utan möjlighet att återskapa den. Premiären i TV4 den 22 november skjuts nu upp till 2027.

Låt oss vara noga med vad vi vet. TV4 bekräftar att det har varit ett tekniskt haveri, att klippt material har försvunnit och att säsongen måste klippas om. Men TV4 säger också att man inte känner till uppgiften om en AI-agent. Mastiff ville först inte kommentera. Att det var just en AI-agent bygger alltså än så länge på anonyma källor.

Uppdatering 16 oktober: människa eller AI?

Under torsdagskvällen kom mer. Mastiffs vd Matilda Snöwall skriver i ett sms till Aftonbladet att haveriet inte hade med AI att göra. Precis som TV4 pekar hon i stället på ”den mänskliga faktorn och miss i backup”. Aftonbladets källor står ändå fast vid att AI var inblandat. Ord står alltså mot ord.

Notan är inte liten. Personer i branschen som Aftonbladet pratat med uppskattar att misstaget kostar mellan tre och fem miljoner kronor att reparera. Säsongen skulle ha tjugo avsnitt, och den erfarna personal som behövs för att klippa om är redan uppbokad på andra produktioner.

Och här är det intressanta. Oavsett om det var en AI-agent eller en människa som raderade, pekar båda förklaringarna mot samma sak: säkerhetskopian fungerade inte. Det är regel nummer tre nedan, och den gäller precis lika mycket för människor som för AI.

Oavsett vad som exakt hände i det här fallet är det ett skolexempel på en risk som blir vanligare för varje månad. Så låt oss prata om den.

Vad är en AI-agent?

En vanlig AI-assistent svarar på frågor. En AI-agent gör saker. Den får ett uppdrag och väljer själv stegen för att lösa det: öppnar filer, kör kommandon, skickar mejl, flyttar och raderar. Det är just det som gör agenter så kraftfulla. De kan jobba i timmar på egen hand med sådant som annars hade tagit dagar.

Men en agent gör det den tror att du menar, med de rättigheter den har fått. Säger du ”frigör utrymme på servern” och agenten har rätt att radera, kan den mycket väl komma fram till att den största mappen är den bästa att ta bort. Den är inte elak. Den saknar bara ramar.

Så brukar det gå till

Vi vet inte vad som hände hos Mastiff. Men när en AI-agent ställer till det brukar några saker sammanfalla:

• För breda rättigheter. Agenten fick samma behörighet som en administratör, fast uppdraget bara krävde att den skulle läsa.
• Ett luddigt uppdrag. ”Städa upp”, ”organisera” eller ”frigör utrymme” kan betyda nästan vad som helst.
• Ingen kontrollfråga. Agenten fick köra kommandon direkt, utan att visa vad den tänkte göra och vänta på ett ja.
• Säkerhetskopian fanns inom räckhåll. Fanns det en kopia låg den på samma server, eller så kom agenten åt den också.

Sex regler innan du släpper in en AI-agent

1. Minsta möjliga behörighet. Börja med läsrätt. Ge skrivrätt bara där den behövs, och aldrig rätt att radera i det som är på riktigt.
2. Plan först, sedan godkännande. Agenten ska visa vad den tänker göra och vänta på ditt ja innan den gör något som inte går att ångra: radera, skicka, betala eller skriva över.
3. Säkerhetskopior som agenten inte kommer åt. En kopia på samma server räknas inte. Den ska ligga någon annanstans, gärna i en version som inte går att ändra.
4. Testa i en kopia. Låt agenten öva på en kopia av materialet innan den får röra originalet.
5. Ett tydligt uppdrag, med gränser. Skriv vad som ska göras, men också vad som inte får röras.
6. Logga allt. Allt agenten gör ska gå att se i efterhand, så att du förstår vad som hände och kan backa.

Inget av det här är ny kunskap. Det är samma regler som gäller för en ny medarbetare eller en extern konsult. Ingen ger en praktikant nycklarna till arkivet första dagen och säger ”städa lite”.

Det här gäller inte bara tv-bolag

Det är lätt att tänka att det här bara händer i stora produktioner med egna servrar. Men AI-assistenterna på våra arbetsplatser får hela tiden fler möjligheter att agera själva, i mejlen, i dokumenten, i kalendern och i verksamhetssystemen. Agenter som kan städa i en delad mapp, skicka utskick eller uppdatera ett register finns redan, och fler kommer. Jag har nyligen skrivit om två av dem: Dots från OpenAI, AI-kollegor som jobbar vidare när du har gått för dagen, och Manus 2.0, en AI-agent som börjar jobba av sig själv när ett mejl kommer. Ju mer en agent gör utan att du är med, desto viktigare blir reglerna ovan.

Det är inget skäl att låta bli. Agenter kommer att spara oss enormt mycket tid. Men det är ett skäl att lära sig hantverket: att ge AI rätt ramar, rätt behörigheter och rätt uppdrag, och att alltid ha en väg tillbaka. Det är precis det vi lär ut:

/Rickard Eriksson
Rickard startade världens första sociala medium LunarStorm för 30 år sedan. Det förändrade sättet att umgås för fler än 2 miljoner svenskar. Sedan några år tillbaka är han helt fokuserad på AI, och har hjälpt fler än 7 000 företag och offentliga verksamheter att få mer gjort och med högre kvalitet med hjälp av AI. Rickard är alltså stor förespråkare av AI, men på rätt sätt, och i rätt miljö.
Mer om Rickard Eriksson