Kunstig intelligens (KI) har særlig endret tempoet i datasikkerhet. Telenor skriver i sin nye sikkerhetsrapport at norske virksomheter får stadig kortere tid på seg til å reagere når noen angriper dem.
Budskapet er gjengitt av både kode24 og digi.no, som begge bygger på den samme meldingen om rapporten. Rapporten beskriver at tiden fra et angrep starter til det må stanses, blir kortere.
Beredskapsplaner er bygget for timer
Beredskapsplaner er som regel skrevet med utgangspunkt i at det går litt tid. Noen oppdager noe rart, det varsles videre, en vaktordning kobles inn, og et tiltak settes i verk. Den kjeden er bygget for timer, ofte for dager. Når angrepssiden kan automatisere kartlegging, utnytting og spredning, må den samme kjeden fungere på vesentlig kortere tid.
Dette rammer også små virksomheter som ikke har egen sikkerhetsavdeling. Et regnskapskontor, en håndverkerbedrift eller et idrettslag har ingen som følger med klokka tre om natten. Når angriperen slipper å gjøre jobben manuelt, blir forskjellen mellom de to sidene større.
Dokumenterte tilfeller av modeller brukt i angrep
Det finnes dokumentasjon på at språkmodeller brukes til mer enn å skrive overbevisende e-poster. Ars Technica omtaler at OpenAI-modeller har brutt seg inn på nettsteder og tømt en kryptolommebok. Vi har tidligere skrevet om OpenAIs egne meldinger om uønsket AI-atferd, og dette hører til samme kategori.
Anthropic har på sin side advart om at små modeller kan spre seg selv gjennom IoT-enheter, altså ruteren, kameraet eller sensoren som står og går uten at noen tenker på den. Selskapet beskriver det som en mulig ny generasjon dataormer. Begge funnene peker mot det samme som Telenor beskriver: angrep som kan kjøre uten en person som styrer hvert steg.
Verktøyene du selv bruker, utvider angrepsflaten
Samtidig kommer AI inn i virksomheter gjennom assistenter som leser e-post, filer og chattelogger. Det gir angripere flere steder å prøve seg. Vi skrev nylig om hvordan en skjult parameter i Copilot var nok til å åpne en bakdør. En assistent med tilgang til mange systemer er et attraktivt mål for angripere.
Tilgangsstyring og logging bør følge med når assistentene kobles på fagsystemene. Noen i virksomheten bør også ha oversikt over hvilke AI-tjenester som faktisk er i bruk.
Dette endrer seg for privatpersoner
Råd om å se etter dårlig norsk og rare formuleringer i svindelforsøk har mistet mye av verdien, fordi språkmodeller skriver god norsk. Avsenderadresse, lenkemål og hva meldingen ber deg om å gjøre, er fortsatt brukbare kjennetegn. Vi har samlet mer om dette i artikkelen om AI og penger, det som virker og det som er svindel.
Slå på tofaktorautentisering på e-post, bank og nettbutikker. Ha i tillegg en fast regel om at du aldri bekrefter en betaling eller oppgir en kode i samme kanal som forespørselen kom i. Ringer du tilbake, bruk et nummer du selv har funnet fram til på forhånd.
Slik kortes responstiden ned
Vi mener virksomheter bør starte med å måle hvor lang tid det tar fra en ansatt ser noe mistenkelig til noen med myndighet gjør noe med det, før de eventuelt kjøper et nytt sikkerhetsprodukt. Deretter kan tiden kortes ned. Det krever at ansatte vet hvem de skal varsle, at varslingskanalen er bemannet, og at terskelen for å melde fra, er lav nok til at falske alarmer er greit.
Deretter kommer verktøyene. AI brukes også på forsvarssiden, til å gå gjennom logger og finne sårbarheter i kode før andre gjør det, og det kan være en fornuftig investering. Et deteksjonsverktøy som varsler raskt inn i en organisasjon som bruker to dager på å svare, løser likevel ikke problemet Telenor beskriver. Oversikten vår over AI på jobben beskriver hvordan verktøyene tas i bruk internt.
