Soevereine LLM’s on-premise: het geloofwaardige alternatief voor Amerikaanse API’s

Nog achttien maanden geleden was het hosten van je eigen modellen een ideologische keuze of het gevolg van uiterste noodzaak. De situatie is veranderd op de drie assen die ertoe doen. Ten eerste de modellen: de huidige generatie open weights — Qwen, GLM, Mistral, DeepSeek en soortgenoten — dekt met een ruim voldoende niveau de meeste zakelijke toepassingen: samenvatten, extraheren, documentaire RAG, code-ondersteuning, triage. Vervolgens de hardware: een paar recente professionele GPU’s volstaat om een gekwantiseerd model van de klasse 30 tot 70 miljard parameters te serveren voor een middelgrote organisatie. En ten slotte de context: tussen de AVG-eisen voor gevoelige data, het bedrijfsgeheim en het precedent van de Amerikaanse exportcontroles die in juni op frontier-modellen zijn toegepast is exclusieve afhankelijkheid van buiten-Europese API’s een geïdentificeerd, gedocumenteerd en in het risicocomité verdedigbaar risico geworden.

Wat “soeverein” hier betekent

Laten we precies zijn: een Chinees of Amerikaans open-weights-model op je eigen servers draaien maakt het model niet Europees. Maar het verandert wél wat telt: de data verlaat nooit de perimeter, er gaat geen telemetrie omhoog, geen enkele gebruiksvoorwaarde kan eenzijdig veranderen, en geen enkele buitenlandse beslissing kan reeds gedownloade gewichten intrekken. De soevereiniteit van gebruik — beheersing van de verwerking, de context, het logboek — is verworven. De soevereiniteit van ontwerp — wie het model heeft getraind, waarop, met welke biases — blijft een Europese bouwplaats, die van de modellenspelers van het continent, die het verdient om door de vraag te worden gesteund.

De vraag die na het incident van juli werd gesteld

Een veelzeggend debat volgde op de publicatie van de post-mortem van de inbraak van juli. Praktijkmensen stelden publiekelijk de lastige vraag: is AI-ondersteunde incidentrespons — precies die welke het mogelijk maakte de aanval te detecteren en de payloads te ontcijferen — voorbehouden aan GPU-rijke organisaties? De ervaringen zijn bemoedigender dan verwacht: middelgrote open modellen, geserveerd op bescheiden configuraties, volstaan voor een nuttige forensische analyse; sommigen melden volledige analyses uitgevoerd op enkele compacte machines. Een soeverein responsvermogen vereist geen supercomputer; het vereist dat je de keten hebt opgezet en getest vóór het incident.

De eerlijke voorwaarden van de afweging

Lokale inferentie kent kosten die je moet benoemen: investering in hardware en operationele competenties (serving, kwantisatie, updates, continue evaluatie), een reëel prestatieverschil met frontier-modellen op de meest veeleisende redeneertaken, en de verantwoordelijkheid voor beveiliging — een slecht geïsoleerde inferentieserver is een aanvalsoppervlak, en de zomer heeft het in herinnering gebracht: de connectoren en tools die je aan de modellen koppelt moeten worden geauthenticeerd en afgebakend als elke toegang met privileges. De verstandige architectuur is dus hybride en gelaagd: lokaal als standaard voor alles wat gevoelige data raakt, frontier-API’s — bij voorkeur Europese, of contractueel omkaderd — voor de meest geavanceerde taken op niet-gevoelige data, en een geteste omschakeling tussen beide.

Lokale inferentie zal frontier-modellen niet vervangen. Ze herstelt iets belangrijkers: een onderhandelingspositie. Je praat niet op dezelfde manier met een leverancier die je kunt verlaten.