Vi har lenge kunnet gjette oss til at en tekst er skrevet av en chatbot. Tekstene inneholder for mange «det er verdt å merke seg», for mange oppramsinger og den samme glatte tonen. Nå vil Anthropic gjøre gjettingen unødvendig: Claude skal begynne å legge usynlige vannmerker inn i tekstene den lager.
Fredag bekreftet Anthropic hvordan Claude vannmerker tekstene sine. Vannmerket er en variant av SynthID-Text, en åpen kildekode-teknikk opprinnelig utviklet av Google DeepMind. Poenget er å kunne slå fast, i ettertid, om en tekst kom fra Claude, uten at et menneske som leser den ser noe uvanlig.
Hvorfor skjer dette nå?
Bakgrunnen er at EU krever det. AI Act har regler om åpenhet rundt maskingenerert innhold, og leverandørene må vise at det de produserer kan identifiseres som AI-laget. Anthropic beskriver vannmerkingen eksplisitt som et tiltak for å etterleve europeisk regelverk. Anthropic gjør ikke dette frivillig, men for å oppfylle lovkrav som gjennom EØS også gjelder for norske brukere.
Vi har skrevet om hva regelverket faktisk innebærer i gjennomgangen vår av AI Act. Vannmerking av tekst er en av de konkrete tingene loven presser fram, og Anthropic er tidlig ute med å vise hvordan de løser det i praksis.
Slik virker vannmerket i teksten
En språkmodell velger hele tiden mellom flere mulige neste ord, og ofte passer mange av dem omtrent like godt. SynthID utnytter akkurat disse valgene: den styrer de små, tilfeldige avgjørelsene på en systematisk måte som legger igjen et statistisk mønster. Mønsteret er umulig å se med det blotte øye, men en detektor som kjenner nøkkelen kan lese det.
Fordelen er at merket ligger i selve teksten. Metadata forsvinner i det øyeblikket du kopierer og limer inn i et Word-dokument, mens mønsteret i teksten følger med. Svakheten er like åpenbar: skriver du om setningene, oversetter dem eller stokker om på rekkefølgen, svekkes signalet raskt. Vannmerking av tekst er langt mer skjørt enn vannmerking av bilder, der du har millioner av piksler å gjemme informasjon i.
Blir teksten dårligere?
Vannmerkingen styrer ordvalgene til modellen, og ordvalgene avgjør hvor god og naturlig teksten blir. Derfor er det rimelig å spørre om kvaliteten påvirkes.
Anthropic hevder at effekten er neglisjerbar, og at kvaliteten holder seg. Vi tar det med et visst forbehold. Selskapet måler sin egen løsning, og «neglisjerbar» er et elastisk ord. For en e-post, et sammendrag eller et brevutkast merker du neppe forskjell. Men skriver du noe der hver formulering teller, er det verdt å være oppmerksom.
Hva betyr det for deg?
For vanlige brukere endrer dette lite i det daglige. Du fortsetter å bruke Claude som før. Forskjellen er at teksten du får ut, i prinsippet kan spores tilbake til modellen, dersom noen med riktig verktøy sjekker den.
For studenter, lærere og andre som bryr seg om hvorvidt tekst er egenprodusert, har vannmerket klare begrensninger, og det gir ingen fasit. En detektor kan gi en pekepinn, men den er verken vanntett eller allment tilgjengelig ennå, og den lar seg omgå med litt redigering. Å bygge en avsløringsstrategi på vannmerker alene blir feil. Vi mener fortsatt at gode vurderingsformer er mer treffsikre enn teknisk deteksjon, noe vi har argumentert for i saken om AI i norsk utdanning.
Anthropic er ikke den eneste leverandøren som gjør dette. Presset fra EU rammer alle de store leverandørene, og vi venter tilsvarende løsninger fra OpenAI og Google i tiden framover. Vil du vite hva Claude faktisk kan og ikke kan, har vi samlet det i Claude-guiden.
