Säkerhetsledning och AI
Har du kontroll över AI – eller har AI kontroll över verksamheten?
AI kan effektivisera arbetet, men utan tillräcklig kunskap och kontroll kan tekniken också multiplicera skadorna.
AI-assistenter och AI-agenter blir snabbt en naturlig del av verksamheternas arbetssätt. De används för att sammanställa information, analysera risker, föreslå åtgärder, skriva dokument och ge beslutsstöd. Allt fler AI-applikationer kan dessutom själva utföra arbetsuppgifter och genomföra åtgärder i andra system.
Utvecklingen skapar stora möjligheter, men också nya säkerhetsrisker. En medarbetare kan använda AI för att utföra arbetsuppgifter som ligger långt utanför den egna kompetensen. Resultatet kan se både professionellt och övertygande ut, trots att det bygger på felaktiga antaganden eller leder till olämpliga beslut.
Det finns en särskild paradox i detta. Den som ansvarar för att skydda verksamheten kan själv bli en säkerhetsrisk genom att använda AI utan att förstå dess begränsningar.
Att kunna använda AI är inte detsamma som att ha kompetens att utföra arbetsuppgiften.
När AI blir en säkerhetsrisk
I min tidigare artikel Har du koll på säkerhetsarbetet – eller är det en illusion? beskrev jag hur säkerhetsansvariga riskerar att bli beroende av AI för att kompensera för brister i den egna kompetensen. Men problemet är större än så. Bristande kompetens vid användning av AI ökar inte bara risken att den säkerhetsansvarige blir utkonkurrerad av en AI-medarbetare. Det kan också utgöra en allvarlig säkerhetsrisk för verksamheten.
AI kan producera riskanalyser, beslutsunderlag och rekommendationer som bygger på felaktiga uppgifter, missförstånd eller ofullständiga analyser. AI verkar i den digitala världen, medan vi människor befinner oss i den fysiska och sociala verkligheten, där vi kan uppfatta förhållanden som aldrig har dokumenterats. Människan behövs därför för att tillföra de ingångsvärden som AI saknar, men måste också ha tillräcklig kompetens för att avgöra vilka uppgifter som är relevanta och om AI:s slutsatser är riktiga. Annars riskerar besluten att försämra säkerheten i stället för att förbättra den.
Okunskap är dessvärre en blind fläck som man inte själv är medveten om förrän man vet bättre.
Riskerna blir ännu större när AI får möjlighet att själv genomföra åtgärder. En AI-agent som har tillgång till verksamhetens dokument, e-post, databaser och administrativa system kan göra betydligt större skada än en assistent som enbart lämnar förslag. Felaktiga instruktioner, manipulerad information eller alltför omfattande behörigheter kan leda till att känslig information avslöjas, förändras eller raderas. Det handlar därför om mer än att kontrollera kvaliteten på AI:s svar. Verksamheten måste också förstå vilka befogenheter tekniken har och vilka konsekvenser ett felaktigt agerande kan få.
Ju större handlingsfrihet AI får, desto större krav måste ställas på användarens kompetens och verksamhetens säkerhetsåtgärder.
När den godkända AI-applikationen förändras
En annan utmaning är att AI-applikationer utvecklas i en takt som gör traditionell säkerhetsgranskning otillräcklig. När ett nytt IT-system införs brukar verksamheten granska dess funktioner, informationshantering, behörigheter och risker innan det godkänns för användning. Därefter förväntar man sig ofta att systemet i huvudsak fortsätter fungera på samma sätt tills en större förändring genomförs. Med AI kan förutsättningarna förändras betydligt snabbare.
En AI-applikation som i dag endast sammanfattar dokument kan efter en uppdatering få möjlighet att söka i databaser, hantera e-post, använda externa tjänster eller självständigt utföra arbetsuppgifter. Nya funktioner, integrationer och modeller kan förändra både informationsflöden, behörigheter och systemets beteende. En applikation som tidigare har granskats och godkänts kan därmed få helt nya förmågor och sårbarheter utan att verksamheten uppmärksammar förändringen.
En AI-applikation som var säker när den installerades innebär inte att den är säker i dag.
Det krävs därför fortlöpande kontroll över vilka funktioner som används, vilka förändringar leverantören genomför och hur dessa påverkar verksamhetens riskbild. Nya förmågor måste bedömas innan de får tillgång till känslig information eller verksamhetskritiska funktioner. Detta blir särskilt viktigt när AI-agenter kan agera självständigt. En uppdatering som ökar systemets förmåga kan samtidigt öka konsekvenserna av ett fel.
De okända AI-applikationerna
Samtidigt som organisationer försöker skapa kontroll över sina godkända AI-system använder medarbetare egna applikationer och tjänster. Det brukar kallas Shadow AI, en form av skugg-IT där AI används utanför verksamhetens godkända och kontrollerade IT-miljö.
Det kan börja med att någon laddar upp ett dokument för att få en sammanfattning, låter en AI-tjänst analysera kunduppgifter eller ansluter en personlig AI-assistent till sin e-post, kalender eller molnlagring. Avsikten är ofta att arbeta snabbare och effektivare. Men informationen kan lämna verksamhetens kontrollerade miljö och behandlas av externa tjänster som organisationen saknar insyn i. Beroende på hur tjänsten fungerar kan känsliga uppgifter lagras, spridas eller användas på sätt som verksamheten aldrig har godkänt.
Om en sådan applikation dessutom får tillgång till interna system kan den skapa nya angreppsvägar och sårbarheter. Verksamheten kanske inte ens känner till att kopplingen finns.
Det går inte att skydda information som man inte vet var den finns eller vilka som har tillgång till den.
Förbud och instruktioner kan vara nödvändiga, men verksamheten behöver också erbjuda godkända alternativ som gör det möjligt för medarbetarna att dra nytta av tekniken. Annars finns risken att användningen fortsätter utanför organisationens kontroll.
Vem ansvarar när AI gör fel?
När en människa fattar ett felaktigt beslut finns normalt en ansvarsfördelning mellan medarbetaren, chefen och organisationen. När en AI-agent föreslår, fattar eller verkställer beslut kan det däremot bli svårare att förstå vem som faktiskt har haft kontroll över händelseförloppet. En medarbetare kanske har godkänt en åtgärd utan att förstå konsekvenserna. En AI-agent kan ha agerat inom sina tekniska behörigheter men utanför det som verksamheten egentligen avsåg. En leverantör kan ha förändrat systemets funktioner utan att användarna har uppmärksammat det.
Konsekvenserna kan drabba verksamheten, dess kunder, medarbetare eller andra intressenter. Men AI kan inte hållas personligt ansvarig för sina handlingar. Det juridiska och organisatoriska ansvaret måste hanteras av de människor och organisationer som utvecklar, tillhandahåller och använder tekniken. Därför måste det vara tydligt vem som får införa AI-applikationer, godkänna behörigheter, tillåta nya funktioner och överlåta arbetsuppgifter till AI. Verksamheten måste också kunna följa vad AI har gjort, stoppa felaktiga åtgärder och återställa information eller system när något går fel.
Det går att överlåta arbetsuppgifter till AI, men ansvaret ligger fortfarande hos människorna och organisationen.
Behöver vi körkort för AI?
Vi låter inte vem som helst framföra fordon, hantera tunga maskiner eller utföra andra riskfyllda arbetsuppgifter utan tillräcklig utbildning och kompetens. Den som använder utrustningen måste förstå hur den fungerar, vilka risker som finns och vilka konsekvenser ett misstag kan få. Samtidigt kan en medarbetare använda AI för att analysera känslig information, bedöma säkerhetsrisker och föreslå beslut med långtgående konsekvenser, utan att ha tillräckliga kunskaper om vare sig tekniken eller arbetsuppgiften.
I skrivande stund finns inget generellt krav på körkort för AI. Men kanske är precis vad vi kommer att behöva. I början av 1990-talet introducerades PC-körkort (ECDL).
Ett sådant körkort skulle kunna säkerställa grundläggande kunskaper om AI:s möjligheter, begränsningar, informationshantering, behörigheter, risker och ansvar. Olika användningsområden skulle kunna kräva olika kompetensnivåer, precis som vi ställer högre krav på den som framför ett tungt fordon än på den som kör en personbil.
Men ett AI-körkort skulle bara vara början. Det räcker inte att förstå hur verktyget fungerar. Den som använder AI för att utföra säkerhetsarbete måste också ha tillräcklig sakkunskap för att bedöma arbetsuppgiften och dess konsekvenser. AI-körkort finns hos Dataföreningen.
En person blir inte säkerhetsexpert genom att lära sig skriva instruktioner till en AI-assistent, lika lite som någon blir läkare genom att kunna söka efter medicinsk information.
Kunskapen avgör om AI skapar säkerhet eller nya risker
AI kan effektivisera arbetet, men utan tillräcklig kunskap och fungerande säkerhet kan tekniken också multiplicera förlusterna. Den som använder eller ansvarar för AI behöver därför förstå verksamheten, dess mål och tillgångar, hotbilden, konsekvenserna av oönskade händelser och vilka skyddsåtgärder som krävs.
Det är denna helhetsförståelse som gör det möjligt att bedöma om AI:s rekommendationer är relevanta, om föreslagna åtgärder fungerar och om de bidrar till verksamhetens effektivitet och lönsamhet. För säkerhetsansvariga innebär detta ett tydligt kompetenskrav. De måste kunna förstå och värdera säkerhetsarbetets resultat även när analyser, dokumentation och beslutsunderlag har tagits fram med hjälp av AI. De måste också kunna bedöma vilka nya risker tekniken tillför verksamheten.
Under mer än två decennier har jag utvecklat ett systematiskt arbetssätt för att skapa effektivitet och lönsamhet i säkerhetsarbetet. Resultatet är bokserien Lönsam säkerhet, där verksamhetens tillgångar, hotbild, konsekvenser, skyddsmetoder, organisation, effektivitet och investeringar sätts i ett sammanhang som gör säkerhetsarbetet möjligt att leda, mäta och värdera.
Bokserien ger en sammanhängande kunskapsgrund för nästa generation säkerhetsansvariga, som behöver kunna använda AI som ett kraftfullt hjälpmedel utan att förlora sin egen förmåga att förstå verksamheten och fatta välgrundade beslut.
AI kan hjälpa dig att utföra säkerhetsarbetet. Men det är din kunskap som avgör om arbetet verkligen skapar säkerhet.
Turn Security from Cost to Asset™
#Skydd2026 #LönsamSäkerhet