Terug naar de blog

AI in Nextcloud met een lokaal model: de opties in 2026

· Door Bee Flow · 4 min. lezen

Drie manieren om Nextcloud een model op eigen hardware te geven: llm2, de OpenAI-integratie van Nextcloud gekoppeld aan Ollama, of Bee Flow met een lokale runtime. Wat elk nodig heeft, en waar je bij het inrichten op let.

A cloud resting on top of a small server, joined by a short cable

In Nextcloud kies je zelf het model achter de AI-functies. De Assistant zet een taak klaar via de Task Processing API, en de provider-app die voor dat taaktype geregistreerd is doet het werk. Moet dat model op je eigen hardware draaien, dan heb je als beheerder in 2026 drie praktische routes. De feiten over Nextcloud hieronder komen uit de handleidingen van Nextcloud 35, de huidige versie op het moment van schrijven.

llm2: het model in Nextcloud zelf

llm2 is een ExApp. Nextcloud draait hem dus als container via AppAPI (versie 3.1.0 of nieuwer). Onder de motorkap zit llama.cpp, en hij laadt GGUF-bestanden. Qwen 3.5 9B, Gemma 4 E4B en OLMo 3 7B Instruct worden meegeleverd, en andere GGUF-modellen voeg je toe door ze in de datamap van de container te zetten. Als hardware noemt de handleiding een NVIDIA-GPU met minstens 8 GB VRAM en CUDA 12.4 of nieuwer, 12 GB werkgeheugen en een CPU met AVX en AVX2. Voor zwaardere belasting verwijst dezelfde pagina naar een OpenAI-compatibele dienst.

In de Ethical AI Rating van Nextcloud is llm2 de groene optie voor tekstverwerking.

integration_openai gekoppeld aan je eigen runtime

De OpenAI and LocalAI integration praat met elke dienst die een API heeft zoals die van OpenAI. In de lijst met ondersteunde providers staat http://localhost:11434/v1 als standaardadres voor Ollama. Je vult de basis-URL in zonder het pad van het endpoint, en de app haalt de lijst met modellen op bij het /models-endpoint van de dienst. De runtime kan op elke machine met een GPU staan, los van Nextcloud.

Het AI-overzicht geeft integration_openai met Ollama de kleur geel. Op de pagina AI as a Service lees je hoe Nextcloud de Assistant-taken van deze app test, met OpenAI-modellen op de API van OpenAI. Gebruik je een eigen runtime, probeer dan de taken die je wilt gebruiken uit met het model dat je gekozen hebt.

Bee Flow met een lokale runtime

Bij ons komt de aanroep van het model van de Bee Flow-server, een aparte stack naast Nextcloud. De Bee Flow-app voor Nextcloud is een kleine ExApp die Bee Flow in Nextcloud toont en verzoeken doorgeeft. Bee Flow heeft één adapter voor zelf gehoste runtimes en kent Ollama, vLLM, llama.cpp, LM Studio, SGLang, LocalAI, Text Generation Inference, Jan en KoboldCpp bij naam, plus elk ander OpenAI-compatibel endpoint. Onder Admin → AI Config → API Keys zoekt Find running runtimes de standaardpoorten af, en variabelen als OLLAMA_URL of VLLM_URL registreren een runtime bij het opstarten. De details staan in de documentatie over lokale modellen, en ons stuk over Ollama loopt de hele stack door.

De connector registreert Bee Flow ook als Task Processing-provider voor de teksttaken. Dan kunnen de eigen AI-functies van Nextcloud op datzelfde lokale model draaien. Beeldgeneratie, spraak en transcriptie zijn niet geregistreerd.

llm2 integration_openai + runtime Bee Flow + runtime
Draait als ExApp-container Nextcloud-app die de runtime via HTTP aanroept Aparte Bee Flow-stack, plus een connector-ExApp
Runtime van het model llama.cpp in de container Ollama, LocalAI of een andere OpenAI-compatibele server Negen runtimes bij naam of elke OpenAI-compatibele server
Hardware volgens de documentatie NVIDIA-GPU met 8 GB VRAM, 12 GB RAM Wat de runtime nodig heeft 2 kernen en 4 GB voor Bee Flow (ongeveer 7 GB extra met de PII-guard en de classificatie), plus de runtime
Waar gebruikers ermee werken Nextcloud Assistant Nextcloud Assistant De Bee Flow-app in Nextcloud, en de Assistant via de provider

Zo richt je het goed in

Begin bij de workers. Nextcloud pakt AI-taken op via achtergrondtaken, die standaard elke vijf minuten draaien. Wil je dat taken meteen worden opgepakt, dan raadt het AI-overzicht vier of meer eigen workers aan. Sinds Nextcloud 32.0.7 is de opdracht:

sudo -E -u www-data php occ taskprocessing:worker -v -t 60

Die draai je in een lus, of als de systemd-unit nextcloud-ai-worker@ die in de handleiding staat. Oudere versies gebruiken background-job:worker. Is de Assistant geïnstalleerd en antwoordt hij nog steeds traag, dan loopt Nextcloud Assistant traag of geen antwoord de oorzaken op volgorde langs.

Dan localhost. Volgens de FAQ van Ollama luistert Ollama standaard op 127.0.0.1:11434, en localhost in een container is die container zelf. Draait Nextcloud in Docker, zoals bij All-in-One, dan wijst het standaardadres naar de Nextcloud-container. Gebruik het adres van de host en start Ollama met OLLAMA_HOST=0.0.0.0, achter een firewall, want deze runtimes hebben zelf geen authenticatie. Voor Bee Flow in Docker geldt hetzelfde. Onze documentatie noemt daar host.docker.internal.

Het model dat je in de instellingen van Nextcloud kiest, moet er een zijn dat de runtime aanbiedt, dus haal het daar eerst binnen. Ollama noemt een ontbrekend model in zijn foutmelding, bijvoorbeeld model 'gpt-3.5-turbo' not found, try pulling it first.

Agentfuncties hebben tool calling nodig. In de documentatie van Context Agent staat dat het model dat moet ondersteunen, en op de pagina van llm2 staat welke van de meegeleverde modellen tools ondersteunen. Sommige runtimes hebben er ook een vlag voor nodig. Voor Bee Flow wil llama.cpp --jinja, en vLLM --enable-auto-tool-choice met een tool-call-parser. Zonder die vlaggen antwoordt het model in gewone tekst waar het een tool had moeten aanroepen.

De route met Bee Flow

Met Bee Flow kan het model op je eigen hardware de teksttaken van de Assistant doen, en dezelfde runtime bedient ook de chat, agents en vragen aan kennisbanken die je vult uit je Nextcloud-mappen. Elke modeltier kan een eigen model krijgen, dus een klein lokaal model kan korte klusjes doen terwijl een groter model de rest doet. Bee Flow naast Nextcloud installeren beschrijft de connector en de regel in de reverse proxy die HaRP nodig heeft, op AI voor Nextcloud zie je wat je gebruikers krijgen, en zelf hosten of EU-cloud gaat over het draaien van Bee Flow zelf. Wil je overleggen welke route bij je hardware past, neem dan contact op.

#nextcloud #ai-models