De kracht van lokale AI: Experimenteer met alle LLM’s via Open WebUI & OpenRouter.ai

Stel je voor: je draait geavanceerde AI-chatsoftware lokaal of op je eigen VPS, hebt volledige controle over je data én toegang tot nagenoeg alle bestaande LLM’s (Large Language Models) via één krachtige API-key. Dat is precies wat mogelijk is met de combinatie van Open WebUI en OpenRouter.ai. En het mooiste? Dit is volledig open source én vrij beschikbaar voor iedereen die durft te bouwen en experimenteren.

🔓 Open Source AI – het nieuwe normaal?

Open WebUI is een intuïtieve chatinterface voor lokale AI-modellen zoals LLaMA, Mistral of Phi-2. Dankzij de integratie met OpenRouter.ai open je in één klap de deur naar commerciële én open source modellen van o.a. OpenAI, Anthropic, Mistral, Meta, Google en tientallen kleinere labs. Een simpele API-key is voldoende om te wisselen tussen modellen. Dat betekent:

  • Experimenteren met LLM’s op maat: van superlichte modellen voor devices tot topmodellen als GPT-4o / 4.1 en 4.5 of Claude 3.5 / 3.7.
  • Kostenbewust testen voordat je je commit aan een model of vendor.
  • Toepasbare use cases ontwikkelen in je eigen veilige omgeving.

🔍 Toelichting

  • Open WebUI: Een zelfgehoste, uitbreidbare AI-interface die lokaal of op een eigen VPS draait. Ondersteunt meerdere LLM-runners en is uitbreidbaar met pipelines voor extra functionaliteit.
  • OpenRouter.ai: Biedt een uniforme API waarmee je toegang krijgt tot diverse LLM’s met één API-sleutel. Optimaliseert modelroutering en prijsstelling.
  • Diverse LLM’s: Afhankelijk van de behoeften kun je kiezen uit verschillende modellen, elk met hun eigen specialisaties en voordelen.

🧠 Feedback Companion – één van de vele mogelijkheden

Zelf ontwikkelde ik de Feedback Companion (www.feedbackcompanion.eu), een AI-tool voor het onderwijs waarmee studenten formatieve feedback ontvangen op werk dat zij uploaden. Dankzij Open WebUI en OpenRouter.ai test ik nu eenvoudig met verschillende modellen hoe deze feedback kunnen genereren, structureren of verdiepen – zonder vendor lock-in. Zo zie ik snel welk model het beste aansluit op een specifieke context of doelgroep.

En dat is nog maar één voorbeeld. Denk ook aan:

  • AI-tools voor loopbaanadvies of intakegesprekken
  • Lokale knowledge assistants met je eigen documenten
  • AI-chatbots binnen een intranet zonder cloud-afhankelijkheid

💼 Voor onderwijs & bedrijfsleven: pak de regie!

Ik geloof sterk dat zowel onderwijsinstellingen als bedrijven de regie moeten nemen over hun eigen AI-infrastructuur. Door open source software te combineren met krachtige API’s kun je met beperkte middelen zelfvoorzienend worden en tegelijk de nieuwste technologieën inzetten.

Daarom ondersteun ik – namens Mariany Design, Mariany Hosting en Onderwijs Orakel – instellingen en organisaties bij:

  • Het hosten van hun eigen AI-omgeving (bijv. via VPS of lokale server)
  • Het ontwerpen en bouwen van AI-tools, dashboards of webapps
  • Het trainen en coachen van teams in het gebruik van AI binnen hun eigen workflow

🎥 Kennisclips Open WebUI en koppelen met OpenRoute.AI

Voor de zomer zullen twee of drie kennisclips gelanceerd worden die ingaan op de installatie van Open WebUI en het instellen hiervan. Daarnaast zal er ook worden getoond hoe je OpenRouter.AI koppelt en hoe alle LLM’n binnen Open WebUI te benaderen zijn. Stay tuned! 😎👌

🚀 Klaar om zelf te bouwen?

Wil je meer weten over deze tools of zelf aan de slag met jouw eigen AI-omgeving? Bezoek dan www.onderwijsorakel.nl of neem contact met me op via LinkedIn.

Samen verkennen we hoe jij AI slim én veilig inzet voor jouw doelen.

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *