OpenRouter

OpenRouter er en API gateway, der samler adgangen til flere hundrede sprogmodeller bag ét endpoint og én konto. I stedet for at oprette separate aftaler, nøgler og fakturering hos OpenAI, Anthropic, Google, Meta, Mistral og DeepSeek hver for sig, sender man alle sine modelkald gennem OpenRouter. API'et er kompatibelt med OpenAI's SDK, så for de fleste teams handler det i praksis om at skifte base URL og nøgle, og derefter vælge model ved blot at ændre et modelnavn i koden.

Det problem, OpenRouter løser, er den administrative fragmentering, der opstår, så snart man arbejder med mere end én udbyder. Hver leverandør har sin egen tilmelding, sine egne nøgler, sin egen faktura og sine egne rate limits. For et udviklingsteam, der vil sammenligne modeller eller bygge en arkitektur med flere modeller, bliver det hurtigt en byrde at holde styr på. OpenRouter samler det til én kreditsaldo og ét sæt nøgler.

Ud over den samlede adgang er der to funktioner, der gør forskellen i praksis. Den første er automatisk routing og fallback: hvis en udbyder fejler eller er overbelastet, kan kaldet sendes videre til en anden udbyder af samme model, så applikationen ikke står stille. Den anden er nøgler pr. miljø med egne forbrugslofter, advarsler og aktivitetslog, så man kan adskille test fra produktion og holde øje med forbruget.

Derudover findes BYOK (Bring Your Own Key), hvor man bruger sine egne aftaler hos udbyderne, men stadig styrer det hele gennem OpenRouter. Der er gratis modeller med rate limits til test og lette opgaver, og for virksomheder findes funktioner som Zero Data Retention, regional routing og brugerdefinerede datapolitikker.

For en dansk SMV er den mest oplagte anvendelse at komme hurtigt i gang uden at binde sig til én leverandør. Et team, der bygger en kundeservice assistent eller et internt søgeværktøj, kan teste flere modeller mod den samme opgave og vælge ud fra pris og kvalitet frem for ud fra, hvor man tilfældigvis først oprettede en konto.

En anden typisk brug er drift med indbygget robusthed: et produktionssystem, der kalder en primær model, men automatisk falder tilbage til en alternativ, hvis den første er nede. For prototyper og proof of concept er den samlede fakturering også en fordel, fordi man undgår at skulle godkende betalingsaftaler hos flere udbydere, før man overhovedet ved, om idéen holder.

OpenRouter er forbrugsbaseret. Man indbetaler kreditter og betaler pr. token efter den enkelte models takst, og som udgangspunkt lægges der ikke et tillæg oven på udbyderens tokenpris, det kaldes passthrough. Til gengæld opkræves et gebyr, når man køber kreditter med kort, og ved brug af egne nøgler gælder en separat gebyrstruktur, hvor et større antal forespørgsler er gratis pr. måned. De gratis modeller er begrænset af rate limits og er tænkt til test, ikke til produktionsdrift.

Fordi takster og gebyrer ændres løbende, bør man altid verificere de aktuelle tal hos leverandøren på openrouter.ai/pricing, inden man beslutter sig. Et praktisk råd: små, hyppige indbetalinger bliver relativt dyre på grund af købsgebyret, så det betaler sig at indbetale i større portioner.

Det nærmeste alternativ er at gå direkte til udbyderne, OpenAI, Anthropic eller Google. Det giver færrest mellemled og kan være billigere for meget store, stabile arbejdsbelastninger, men man mister den samlede adgang og fallback funktionen og skal selv administrere konti og fakturering pr. udbyder. Amazon Bedrock og Azure AI Foundry tilbyder også samlet modeladgang, men er tættere knyttet til deres respektive cloud platforme; de passer godt, hvis virksomheden allerede har sin infrastruktur dér. Together AI og Groq er alternativer med fokus på henholdsvis open source modeller og høj hastighed.

Den vigtigste afvejning er denne: OpenRouter giver bredde og fleksibilitet, men indfører et ekstra led mellem applikationen og modeludbyderen. Ved nedetid hos OpenRouter rammes alle modelkald på én gang.

OpenRouter passer bedst til udviklere og teams, der vil eksperimentere med eller skifte mellem mange modeller uden at administrere en konto pr. udbyder, og til opsætninger med flere modeller eller indbygget fallback. Har man derimod meget store, stabile workloads på én enkelt model, eller skarpe GDPR- og fortrolighedskrav til hver enkelt rute, kan en direkte aftale med udbyderen være det rigtige valg. Tjek altid datapolitik og databehandling pr. model, hvis fortrolighed er afgørende, da ikke alle ruter giver Zero Data Retention.

At komme i gang kræver ikke meget: en konto, et indbetalt kreditbeløb, en API nøgle og en ændring af base URL i den eksisterende kode. Hos Lodværk hjælper vi gerne med at vurdere, om OpenRouter er det rette valg for jeres opgave, og med at sætte modelvalg, fallback og forbrugsstyring op, så det passer til jeres drift.