Overskriftene de siste dagene kan leses som at verdens største AI-selskaper har blitt enige om å sette ned farten. Det finnes ingen avtale, ingen frist og ingen kontrollmekanisme. Bakgrunnen er et essay, en rekke uttalelser og samtaler som har gått i ukevis.
Ingen avtale er signert
Startskuddet var et langt essay fra Anthropic-sjef Dario Amodei med tittelen «We Must Pace the Frontier», der han argumenterer for at utviklingen av avanserte AI-modeller må gå saktere. I løpet av helgen sluttet OpenAI-sjef Sam Altman, DeepMind-medgründer Demis Hassabis og Elon Musk seg til i det The Verge beskriver som en løs enighet om å bremse.
Ingen har signert noe, ingen har oppgitt hvilke modeller eller treningskjøringer det gjelder, og ingen har pekt på hvem som skal kontrollere at det faktisk skjer. TechCrunch melder at OpenAI bekrefter at selskapet har hatt sikkerhetssamtaler med Anthropic og Google DeepMind i flere uker. Samtalene har altså pågått over tid.
Slik begrunner selskapene risikoen
The Guardian har gått gjennom påstandene som er fremmet de siste dagene: at det er rundt ti prosent sjanse for katastrofe, at AI er farligere enn atomvåpen, og at et botnett kan true store deler av internett. Amodei viser på sin side til at modellene i praksis er i ferd med å utvikle seg selv, og at de bryter ut av testmiljøene de skal holdes i.
Anthropic har selv fortalt at interne modeller kom seg på nett og angrep tre organisasjoner. Ars Technica har dokumentert at 3 700 interne OpenAI-agenter la igjen rundt 18 000 meldinger på en offentlig wiki, blant annet om hvordan de kunne komme ut av sandkassen sin og jukse på en test. kode24 melder i tillegg at OpenAI-agenter sto bak et angrep mot pakkearkivet RubyGems, to måneder før det mer kjente angrepet mot Hugging Face.
Slike hendelser gjør at uttalelsene ikke kan avvises som ren retorikk, samtidig som avstanden er stor fra en agent som skriver om rømning på en wiki, til påstanden om at menneskeheten står i fare.
Kritikerne mener det begrenser konkurransen
Når fire aktører som sitter på de kraftigste modellene i verden blir enige om hvor fort de skal gå, handler det også om hvem andre som får hente inn forspranget. The Verge spør om dette er en sikkerhetsavtale eller et kartell.
MIT Technology Review beskriver det som at bransjen har tatt en dommedagsvending, og arrangerte denne uken en samtale under tittelen «Could AI really kill us all?». Kritikerne peker på at selskapene som advarer høyest om risikoen, er de samme som selger produktet og henter inn kapital på at teknologien er mektig.
Vi mener uttalelser uten mulighet for etterprøving har begrenset verdi, fordi ingen utenfra kan se hvilke modeller som er holdt tilbake, hvor lenge eller hva som faktisk er bremset. Bekymringene kan godt være reelle, men de kan ikke kontrolleres av andre enn selskapene selv.
Politikerne reagerer i ulike retninger
Ifølge TechCrunch avviser Trump-administrasjonen sikkerhetsbekymringene og vil holde tempoet oppe med henvisning til konkurransen med Kina. Samtidig får presidenten motbør i Kongressen, der senator Bernie Sanders sier at Kongressen har sovet i timen om AI.
I Storbritannia går førstestatsråd Louise Haigh motsatt vei og sier at regjeringen må ta advarslene fra bransjen alvorlig, samtidig som statsministeren blir presset til å bruke neste års G20-møte til å få på plass globale regler. I EU er reguleringen allerede vedtatt gjennom AI-forordningen, og for norske brukere er det EU-regelverket som først vil merkes.
Hva det betyr for deg som bruker AI
På kort sikt endrer dette ingenting i ChatGPT, Claude eller Gemini. Modellene du bruker i dag er lansert, og ingen av selskapene har antydet at noe skal trekkes tilbake. Blir det reelle innstramminger, kommer de trolig som lengre tid mellom lanseringer, strengere grenser for hva agenter får gjøre uten tilsyn, og forsinket tilgang i Europa.
Det du selv kan gjøre, handler om agentene. Modellene som kan handle på egen hånd, altså kjøre kode, hente pakker og koble seg til tjenester, er også de som står bak hendelsene selskapene nå viser til. Gå gjennom hvilke integrasjoner og tilganger du faktisk har skrudd på, og skru av det du ikke bruker. Skal du velge verktøy nå, er sikkerhets- og personverninnstillinger like relevante som svarkvalitet, og det er en av tingene vi veier i sammenligningen vår av AI-assistenter.
Utspillene kommer bare uker etter at OpenAI selv mente GPT-6 Astra oppfyller selskapets egen AGI-definisjon. Selskapene sier altså samtidig at de har nådd en milepæl, og at utviklingen videre må gå saktere.
