Suveræne LLM’er on-premise: det troværdige alternativ til amerikanske API’er

For blot atten måneder siden var det at hoste sine egne modeller enten et ideologisk valg eller et udslag af ekstreme krav. Situationen har ændret sig på de tre akser, der tæller. Modellerne, for det første: den nuværende generation af åbne vægte — Qwen, GLM, Mistral, DeepSeek med flere — dækker med et rigeligt tilstrækkeligt niveau størstedelen af virksomheders anvendelser: opsummering, udtræk, dokument-RAG, kodeassistance, triage. Hardwaren, for det andet: et par nyere professionelle GPU’er er nok til at serve en kvantiseret model i klassen 30 til 70 milliarder parametre for en mellemstor organisation. Konteksten, for det tredje: mellem GDPR-kravene til følsomme data, forretningshemmeligheder og præcedensen fra de amerikanske eksportkontroller, der i juni blev anvendt på frontier-modeller, er den eksklusive afhængighed af ikke-europæiske API’er blevet en identificeret, dokumenteret risiko, der kan gøres gældende i risikokomitéen.

Hvad »suveræn« betyder her

Lad os være præcise: at køre en kinesisk eller amerikansk model med åbne vægte på egne servere gør ikke modellen europæisk. Men det ændrer det, der tæller: data forlader aldrig perimeteren, ingen telemetri sendes tilbage, ingen brugsvilkår kan ændres ensidigt, og ingen udenlandsk beslutning kan trække allerede downloadede vægte tilbage. Brugssuveræniteten — kontrol over behandlingen, konteksten, loggen — er sikret. Designsuveræniteten — hvem der har trænet modellen, på hvad, med hvilke bias — er fortsat en europæisk byggeplads, den, der tilhører kontinentets modelaktører, og som fortjener at blive understøttet af efterspørgslen.

Spørgsmålet, der blev stillet efter juli-hændelsen

En sigende debat fulgte offentliggørelsen af post-mortem-rapporten om juli-indtrængningen. Praktikere stillede offentligt det ubehagelige spørgsmål: er AI-assisteret hændelsesrespons — netop den, der gjorde det muligt at opdage angrebet og dechifrere dets payloads — forbeholdt organisationer, der er rige på GPU’er? Erfaringerne er mere opmuntrende end ventet: åbne modeller i mellemstørrelse, servet på beskedne konfigurationer, er nok til en brugbar forensisk analyse; nogle beretter om komplette analyser gennemført på få kompakte maskiner. Suveræn responskapacitet kræver ikke en supercomputer; den kræver, at kæden er bygget og testet før hændelsen.

Afvejningens ærlige vilkår

Lokal inferens har omkostninger, der skal nævnes ved navn: hardwareinvestering og driftskompetencer (serving, kvantisering, opdateringer, løbende evaluering), et reelt performancegab i forhold til frontier-modellerne på de mest krævende ræsonneringsopgaver, ansvar for sikring — en dårligt isoleret inferensserver er en angrebsflade, og sommeren mindede os om det: de konnektorer og værktøjer, man kobler på modellerne, skal autentificeres og afgrænses som enhver anden privilegeret adgang. Den fornuftige arkitektur er derfor hybrid og hierarkiseret: lokalt som standard for alt, der berører følsomme data, frontier-API’er — helst europæiske eller kontraktligt indrammede — til spidsopgaver på ikke-følsomme data, og en testet omskiftning mellem de to.

Lokal inferens erstatter ikke frontier-modellerne. Den genopretter noget vigtigere: en forhandlingsposition. Man taler ikke på samme måde med en leverandør, man kan forlade.