Asurgent cybersäkerhetsblogg: Det osynliga hotet – Hur shadow AI skapar nya attackytor – Del 3: Från risk till kontroll

Serie: Shadow AI-risker (Del 3 av 3)

Det här är inte ett IT-problem

Det är lätt att vilja lägga Shadow AI hos IT eller säkerhet. Blockera lite trafik, skriv en policy, kanske köpa ett verktyg, men det missar kärnan.

Shadow AI uppstår inte för att människor vill bryta regler. Det uppstår för att de försöker lösa problem snabbare än organisationen hinner med.

• En projektledare som behöver sammanfatta ett 40-sidigt dokument.
• En utvecklare som vill testa en idé.
• En säljare som vill formulera ett mejl bättre.

AI hjälper dig direkt och kan många gånger komma med nya lösningar eller vinklar du inte tänkt på tidigare. Om det inte finns ett godkänt sätt att använda det, då hittar man ett eget. Det är därför förbud nästan alltid slår tillbaka.

“Vi förbjuder det” Konsekvensen av en quick fix

Låt oss säga att organisationen meddelar sina anställda: “Använd inte ChatGPT”, eller “inga externa AI-tjänster får användas”. En enkel lösning på ett komplext problem, men blir det verkligen så i praktiken? Oftast händer något annat:

• Anställda börjar använda privata konton
• Data kopieras manuellt istället för via integrationer
• Användningen försvinner ur loggar och organisationerna tappar insyn

Med andra ord: risken minskar inte, den blir bara svårare att se, hantera och agera på. När då information väl läcker, vet organisationen varken var eller hur det har skett.

Så vad fungerar?

1. Förstå vad som faktiskt används

Det låter enkelt, till och med basalt men det är här många organisationer fastnar. Man vet vilka AI-verktyg som är godkända, men inte vilka som används.

Nu tänker inte jag bara på ChatGPT eller Copilot. Det kan vara:

• Webbläsartillägg som “hjälper till” i bakgrunden
• Appar som kopplas till Google Drive eller Microsoft 365
• Utvecklarverktyg och kodassistenter

Det mesta av det här installeras eller aktiveras på några sekunder och ofta utan att någon tänker på det som en säkerhetsfråga.

Det enkla testet:
Ställ frågan till dig själv: “vilka AI-tjänster används hos oss?”
Om svaret kommer utan tvekan, är det oftast ett tecken på att något saknas i bilden. I praktiken är det väldigt svårt att ha full koll på exakt vilka tjänster som används idag.

2. Sluta prata om “känslig data” som ett fluffigt begrepp

“Använd inte känslig information i AI-tjänster.”

Det är en klassisk formulering jag har stött på flertalet gånger, problemet är att ingen riktigt vet vad det betyder i vardagen.

• Är ett kundnamn känsligt?
• En kodsnutt?
• Ett support ärende?
• Ett internt dokument?

Om svaret är “det beror på” då kommer varje medarbetare göra sin egen tolkning, vilket är precis det som händer ute i organisationer.

Det är bättre att vara konkret och tydlig.

• API-nycklar, lösenord och tokens = Aldrig okej! 
• Personuppgifter = Nej absolut inte! Annars krävs laglig grund enligt GDPR och avtal med leverantören, plus att det måste det skyddas på korrekt sätt. 
• Kunddata = Endast i kontrollerade miljöer (var försiktig, de kan finnas personuppgifter i kunddatan).
• Publik information = Absolut, använd informationen eftersom den är redan tillgänglig för alla.

Vad är då en kontrollerad miljö?
En kontrollerad miljö är där organisationen har insyn och kontroll över användningen. Det innebär godkända AI-tjänster med företagsinloggning, avtal på plats, tydliga regler för hur data får användas och tekniska skydd som loggning, åtkomstkontroller och dataskydd.

3. Ge användare ett alternativ som faktiskt funkar

Det här är viktigaste rådet: Om det säkra alternativet är krångligare eller mycket sämre kommer det inte användas och så enkelt är det. 

Organisationer som lyckas har oftast gjort tre saker för att stävja shadow AI:

• Valt en eller ett par AI-tjänster som är godkända
• Sett till att de är enkla att komma igång med
• Gett sina användare en utbildning i AI

Det förändrar beteendet mer än någon policy någonsin kommer göra.

4. Policy utan kontroll är bara ett dokument

Det har ni nog hört förr men det är faktiskt sant. Om det inte går att följa upp, då kommer det inte följas. Det innebär inte att allt ska blockeras, men vissa saker behöver fångas upp och detekteras:

• När någon kopplar en extern app till företagets data
• Känslig information skickas till en okänd tjänst

Mycket av det här finns det redan stöd för i moderna miljöer, som Microsoft Purview (DLP och informationsskydd), Defender for Cloud Apps (SaaS- och AI-insyn), Conditional Access i Entra ID och loggning via SIEM-lösningar som Sentinel eller Splunk. Problemet är oftare att det inte är aktiverat eller anpassat för AI-användning.

Det handlar om att börja använda de verktyg som finns till rätt saker, så som att mappa ut i CloudApps vilka AI-verktyg som används.

5. AI-agenter förändrar spelplanen

En sak som börjar dyka upp mer och mer är AI-agenter. Inte bara verktyg där du skriver en prompt, utan system som själva hämtar data och kopplar ihop informationen åt dig. Det är super effektivt och det kommer förändra riskbilden ganska rejält. Skillnaden blir att nu behöver vi se över vilka rättigheter systemen har istället för vad en användare kan tänkas klistra in. 

Låt oss säga att en användare. kopplar en AI-tjänst till sin mail, sina dokument och kanske ett par interna system. Inte för att göra något farligt utan för att spara tid. Här blir ofta åtkomsten till information bredare än tänkt eftersom man inte har gjort en riskanalys. Då räcker det med ett misstag, eller en dålig konfiguration, för att mycket information ska bli tillgänglig på fel ställe.

Så hur börjar man?

Det handlar mer om att ta några steg i rätt ordning.

1. Ta reda på vad som används, vilka verktyg, vilka produkter och skapa dig själv en bild.
2. Ta ett organisatoriskt beslut om vad som är okej att använda och vad som inte är det.
3. Tillhandahåll AI lösningen som organisationen behöver 
4. Följ upp hur det har gått. 

Det är en styrningsfråga

Om ansvar är otydligt eller beslut tar för lång tid, eller säkerhets upplevs som ett hinder kommer Shadow AI växa i organisationen oavsett vilken lösningen man använder. Organisationer som lyckas gör det tillsammans med sina användare. "Lyckas internt för att lyckas externt" som vi använder som måtto på Asurgent. 

Avslutande tanke

Shadow AI är inte något som kommer försvinna. Det är ett tecken på att tekniken utvecklas snabbare än strukturerna runt omkring. Det är egentligen inget nytt, skillnaden nu är hastigheten och mängden data som involveras. 

Det går att få kontroll, men inte genom att försöka kontrollera allt från grunden.
Börja istället med synlighet, rimliga regler och fungerande alternativ. Det räcker längre än man tror.

---------------------------------------------------------------------------------------------

Vill ni ta kontroll över Shadow AI och förstå hur utbrett det är i er organisation? Ta kontakt med oss på Asurgent.