Lokale AI-modellen, wat zijn dat en wat heb je nodig?

Kort antwoord: een lokaal model is een AI-model dat op je eigen computer of server draait in plaats van bij een aanbieder in de cloud. Wat je intypt, blijft dan in je eigen omgeving. Daarvoor heb je een model met open gewichten nodig en genoeg geheugen om het te laden.

Open en gesloten modellen

Een model bestaat uit een enorme verzameling getallen, de gewichten. Die zijn tijdens de training vastgesteld.

Bij een gesloten model houdt de maker die gewichten voor zichzelf. Je gebruikt het model via een app of API van die maker.
Bij een model met open gewichten kun je de gewichten downloaden en het model zelf draaien.

Voorbeelden van makers die open gewichten publiceren: Meta (Llama, te downloaden na het accepteren van de licentie), Mistral AI (een deel van de modellen, sommige onder de Apache 2.0-licentie), Moonshot AI (een deel van de Kimi-modellen) en xAI, dat in 2024 de gewichten van het eerste Grok-model vrijgaf.

Waarom zou je lokaal draaien?

Je data blijft binnen. Ollama, een veelgebruikt programma om lokaal modellen te draaien, schrijft dat het je vragen en gegevens niet ziet als je lokaal werkt.
Geen afhankelijkheid van één aanbieder en zijn prijzen of voorwaarden.

Daar staat tegenover dat de krachtigste modellen vaak gesloten zijn, of zo groot dat ze niet op een gewone computer passen. Je bent ook zelf verantwoordelijk voor installatie, beveiliging en updates.

Welke hardware heb je nodig?

De vuistregel: het model moet in het geheugen passen. Ollama legt uit dat een model in het gewone werkgeheugen (RAM) wordt geladen als het op de processor draait, of in het geheugen van de grafische kaart (VRAM) als het op de GPU draait. Een GPU (grafische kaart) rekent veel sneller, zolang het model er helemaal in past. Past het niet, dan verdeelt Ollama het model over meerdere kaarten of over GPU en processor.

Hoeveel geheugen je precies nodig hebt, hangt af van het model, de grootte van het gesprek (de context) en hoeveel mensen er tegelijk gebruik van maken. De grootste open modellen vragen om serverhardware: Kimi K3 heeft volgens Moonshot bijvoorbeeld 2,8 biljoen parameters.

Wat is Ollama?

Ollama is open-source software voor macOS, Windows en Linux waarmee je open modellen downloadt en draait. Er zijn veel apps die erop aansluiten, zoals chatprogramma's en ontwikkeltools.

Mag je open modellen zakelijk gebruiken?

Dat hangt af van de licentie. Apache 2.0 is ruim. Andere modellen hebben een eigen licentie met voorwaarden, zoals bij Llama en Kimi. Lees altijd de licentie voordat je een model in je bedrijf inzet.

Stand: oktober 2026. Modellen en licenties veranderen snel; controleer de actuele situatie bij de bron.

Bronnen

Geraadpleegd op 21 oktober 2026.