Security & Code Portfolio

  • Security & Code Portfolio

    Zo verbind je met je eigen LLM-server: Handleiding voor maatwerk code

    In mijn eerdere blog legde ik uit hoe ik een homelab-server heb gebouwd. Op de server plaats ik de code voor mijn Django-applicatie en heb ik het model Qwen2.5-14B gedownload, zodat dit altijd beschikbaar is wanneer nodig. Nu de server klaar is, wordt het tijd om er eenvoudig verbinding mee te maken zodat ik kan communiceren met mijn lokale AI-model. In deze blog laat ik stap voor stap zien hoe ik het AI-model Qwen2.5-14B lokaal heb geïnstalleerd en geïntegreerd in een simpele desktop-applicatie. Ik leg ook uit welke keuzes ik heb gemaakt en waarom. Waarom lokaal en waarom Qwen2.5-14B? Voor mijn project wilde ik volledige controle, privacy en stabiliteit. Een…