AI-agenter i krise: Derfor sliter bedrifter med å stole på dem

AI-agenter skulle revolusjonere hvordan bedrifter jobber. Systemene skulle planlegge, handle og levere resultater uten at et menneske trengte å holde dem i hånden. Men etter en bølge av mislykkede utrullinger og frustrerte brukere er det nå klart at bransjen har undervurdert ett grunnleggende problem: pålitelighet.

Hva er egentlig en AI-agent?

En AI-agent er et AI-system som ikke bare svarer på spørsmål, men som selv tar beslutninger og utfører handlinger over tid. Den kan for eksempel få i oppgave å booke et møte, finne relevant informasjon på nett, skrive en rapport og sende den til riktig person, alt uten at du gjør noe mer enn å gi den oppgaven.

Konseptet har vært en av de heteste trendene i AI-bransjen det siste året. Selskaper som OpenAI, Anthropic, Microsoft og Google har alle lansert egne agentprodukter, og investorene har pøst penger inn i oppstartsbedrifter som lover å automatisere alt fra kundeservice til juridisk analyse.

Problemet er at løftene langt har oversteget det systemene faktisk klarer å levere.

Pålitelighetsproblemet ingen snakket høyt om

Ifølge fersk analyse fra VentureBeat er bedrifter nå i ferd med å reversere eller nedskalere agentprosjekter de satte i gang for bare måneder siden. Årsaken er ikke at teknologien mangler evner i laboratoriet, men at den oppfører seg uforutsigbart i den virkelige verden.

Et eksempel mange kjenner seg igjen i: En agent settes opp til å behandle innkommende kundehenvendelser. I testing fungerer den utmerket. Men i produksjon begynner den å misforstå kontekst, gi feil informasjon i kanttilfeller eller henge seg opp i loops den ikke kommer ut av. Og fordi agenten handler autonomt, kan feilen spre seg lenge før noen oppdager den.

Dette skiller seg fundamentalt fra en vanlig AI-assistent. Hvis ChatGPT gir deg et dårlig svar, leser du det, oppdager feilen og korrigerer kursen. Når en agent handler feil, kan den allerede ha sendt feil e-post, bestilt feil vare eller slettet feil fil.

Hva betyr dette for norske bedrifter?

Mange norske selskaper har det siste halvåret begynt å eksperimentere med agenter, enten gjennom plattformer som Microsoft Copilot Studio, egenutviklede løsninger basert på OpenAI eller tjenester fra norske leverandører. Tendensen er gjenkjennbar her hjemme.

Vi snakker ikke om at teknologien er ubrukelig. Men det er en stor forskjell mellom å bruke en AI-agent til å hjelpe deg med en avgrenset og veldefinert oppgave, og å slippe den løs på kritiske forretningsprosesser uten tett tilsyn.

De viktigste lærdommene fra bedrifter som har kommet lengst er disse:

• Start smalt. Velg ett avgrenset bruksområde der konsekvensen av en feil er liten og lett å rette opp.
• Behold mennesket i løkken. De mest vellykkede agentimplementasjonene har et godkjenningssteg der et menneske bekrefter handling før agenten gjennomfører den.
• Logg alt. En agent som ikke etterlater spor er umulig å feilsøke. Sørg for full logging av alle handlinger og beslutninger.
• Test kanttilfellene. Det er ikke de vanlige scenariene som dreper et agentprosjekt, det er de rare unntakene ingen hadde tenkt på.

Bransjen bygger om fra grunnen

Det som er interessant er at de store aktørene ikke fornekter problemet, de anerkjenner det og er åpne om at de jobber med å løse det. Anthropic har de siste månedene lagt stor vekt på det de kaller «constitutional AI» for agenter, altså innebyggede regler som begrenser hva en agent kan og ikke kan gjøre. OpenAI jobber med bedre evalueringsrammeverk. Microsoft har innført det de kaller «guardrails» direkte i Copilot-plattformen.

Fellesnevneren er en erkjennelse av at autonomi og pålitelighet ikke følger automatisk med kraft. En modell kan være fantastisk til å generere tekst og likevel ta katastrofalt dårlige beslutninger når den må navigere i et komplekst, ekte miljø over mange steg.

Noen forskere peker også på at selve måten agenter planlegger på er et problem. De fleste bruker det som kalles «chain-of-thought»-resonnering, der modellen tenker seg frem steg for steg. Men denne tilnærmingen er ikke bare langsom og ressurskrevende, den kan også forsterke tidlige feil fordi hvert steg bygger på det forrige.

Hva skjer videre?

Analytikere er samstemte om at AI-agenter ikke forsvinner, men at 2026 og 2027 vil bli en periode med konsolidering og mer realistiske forventninger. De selskapene som lykkes vil sannsynligvis være de som kombinerer kraftige modeller med strenge begrensninger, god overvåkning og klare ansvarslinjer.

For norske bedriftseiere og IT-ansvarlige er rådet klart: Hold følge med utviklingen, men vær kritisk til leverandørers løfter. Spør konkret om hvilke sikkerhetstiltak som finnes, hvordan feil håndteres og hvem som er ansvarlig når noe går galt. Det er ikke et tegn på forsiktighet å ikke kaste seg på agentbølgen akkurat nå, det kan faktisk være god forretningsmessig sans.

Vi i altom.ai følger denne utviklingen tett og vil rapportere løpende etter hvert som bildet klarner.

Av Hugin | altom.ai