Anthropic beklager: Claude Fable 5 hadde skjulte begrensninger som ingen visste om

Anthropic lanserte Claude Fable 5 med store lovord om biologiforståelse og vitenskapelig kompetanse. Så viste det seg at modellen nektet å svare på pensumspørsmål fra videregående skole, og at selskapet hadde lagt inn skjulte begrensninger uten å fortelle noen om det. Nå har de beklaget og lovet å gjøre det bedre.

Det skjer sjelden at et av verdens ledende AI-selskaper går ut og sier unnskyld. Men det er akkurat det Anthropic har gjort denne uken, etter at det kom frem at Claude Fable 5 hadde skjulte sikkerhetssperringer som verken brukere, forskere eller konkurrenter fikk vite om ved lansering.

Hva slags begrensninger? Ifølge flere internasjonale tech-medier nektet modellen å svare på helt ordinære biologispørsmål, den typen du finner i lærebøker for 16-åringer. Modellen omdirigerte i stedet til andre ressurser, uten å forklare hvorfor. For forskere som brukte Fable 5 til å utvikle konkurrerende systemer, skapte dette åpenbare problemer. De fikk ikke den modellen de trodde de betalte for.

Hva er egentlig problemet?

På overflaten handler dette om biologi og sikkerhetsfiltre. Men det egentlige problemet er tillitsbrudd.

Når du abonnerer på et AI-verktøy, inngår du en slags stilltiende kontrakt: du betaler, verktøyet gjør det det er annonsert for. Skjulte begrensninger bryter den kontrakten uten varsel. Du sitter igjen med et verktøy som oppfører seg uforutsigbart, og ingen forklaring på hvorfor.

For vanlige brukere er dette irriterende. For forskere og utviklere som bygger systemer oppå Claude, kan det være direkte kostbart. De har designet arbeidsflyter, testet ytelse og tatt tekniske beslutninger basert på hva modellen skal kunne gjøre, ikke hva den faktisk gjør i det stille.

Sikkerhet er legitimt, hemmelighold er det ikke

La oss være rettferdige mot Anthropic: selskapet er genuint opptatt av AI-sikkerhet, og det er ikke urimelig å legge inn sperringer mot innhold som kan misbrukes. Biologisk kunnskap kan i teorien brukes til å utvikle farlige ting, og det er forståelig at et selskap vil være forsiktig.

Men det er en stor forskjell mellom å ha sikkerhetspolicyer og å skjule dem. Hvis Claude ikke skal svare på visse typer spørsmål, bør det stå i dokumentasjonen. Brukere og utviklere kan da gjøre informerte valg om verktøyet passer for dem.

Slik det skjedde her, oppdaget folk begrensningene ved å støte hodet i veggen, ikke fordi Anthropic fortalte dem om det. Det er dårlig praksis, og Anthropic vet det selv. Derav beklagelsen.

Et mønster vi begynner å se

Dette er ikke første gang AI-selskaper har vært uklare om hva modellene faktisk kan og ikke kan. Forskjellene mellom de store assistentene handler ikke bare om evner, men om hvilke valg selskapene tar bak kulissene. Valg som påvirker deg som bruker uten at du nødvendigvis vet om det.

Det er også verdt å merke seg at denne saken dukket opp bare dager etter lanseringen. Fable 5 ble hyllet som den sterkeste modellen tilgjengelig for vanlige brukere. Det er mulig den fortsatt er det. Men episoden minner oss om at markedsføring og virkelighet ikke alltid er det samme, og at det er sunt å teste verktøy selv fremfor å stole blindt på lanseringsomtaler.

Hva betyr dette for deg?

Praktisk sett er situasjonen denne: Anthropic sier de reverserer de skjulte begrensningene og vil kommunisere tydeligere fremover. Claude Fable 5 er fortsatt en svært kapabel modell, og for de fleste brukstilfeller vil du neppe merke noe til det som skjedde.

Men hvis du bruker AI-verktøy til noe viktig, enten det er forskning, jobb eller beslutninger du tar på bakgrunn av svarene, er det verdt å ha i bakhodet at modellene ikke alltid er det de fremstilles som. Test konkrete oppgaver selv. Sammenlign gjerne flere verktøy. Og vær skeptisk når noe oppfører seg rart uten forklaring. For noen ganger er det akkurat det som skjer.

Transparens er ikke bare et fint ord. For AI-verktøy du stoler på daglig, er det en forutsetning. Det virker som Anthropic nå er enig i det, om enn litt sent.

Vi følger saken videre og oppdaterer hvis Anthropic kommer med mer konkret informasjon om hvilke begrensninger som gjelder og for hvilke emner. Vil du holde deg oppdatert på det viktigste som skjer i AI-verdenen, er vår månedlige AI-oppdatering et godt sted å starte.

Kilder: Gizmodo, Fortune, Decrypt.

Av Hugin | altom.ai