AI is niet meer weg te denken uit de hedendaagse maatschappij. De snelheid waarmee deze nieuwe technologie de wereld verovert is ongekend en verslaat zelfs de stormachtige opmars van het internet in de tweede helft van de jaren ’90. Klanten kloppen steeds vaker aan de deur en vragen om ‘iets met AI’. Reden voor MSP Business om eens dieper te duiken in de achterkant. Waarmee moet je als MSP rekening houden wanneer je AI-oplossingen en -tools implementeert bij je klant? Wat zijn eigenlijk de kosten en hoe bereken ik dat door? In deze negendelige serie krijg je antwoord op al deze vragen.
Vorige afleveringen:
Wat is een token en waarom moet jij dat weten?
Het geheugen van AI
Welk model kies je wanneer?
Betere vragen, betere antwoorden
Je eigen kennisbank koppelen
Een taalmodel is van zichzelf al capabel. Het heeft tijdens zijn training miljarden teksten verwerkt en heeft daarmee een breed begrip opgebouwd van taal, redeneren en kennis. Maar soms lijkt dat niet genoeg. Het model kent jouw branche niet goed genoeg, gebruikt de verkeerde toon, of maakt fouten op een specifiek type taak. Dan ontstaat de vraag: moet ik dit model trainen op mijn eigen data?
Het antwoord is vaker nee dan ja. Maar om te begrijpen waarom, is het nuttig om het verschil te kennen tussen de twee belangrijkste manieren om een model te sturen: fine-tuning en prompt engineering.
Wat is fine-tuning?
Fine-tuning betekent dat je een bestaand model verder traint op een eigen dataset. Je geeft het model voorbeelden van input en gewenste output, en het past zijn interne parameters aan op basis daarvan. Het resultaat is een model dat beter presteert op die specifieke taak of in die specifieke stijl, zonder dat je bij elke aanroep uitgebreide instructies mee hoeft te sturen.
Dat klinkt aantrekkelijk, maar er zitten haken en ogen aan. Fine-tuning kost geld, tijd en goede trainingsdata. Die data moet representatief zijn, consistent van kwaliteit en groot genoeg om het model daadwerkelijk iets bij te brengen. Een handvol voorbeelden is niet voldoende. Daarnaast is een gefinetuned model een momentopname: zodra je werkwijze verandert of je wilt iets aanpassen, moet je opnieuw trainen.
Wanneer is fine-tuning zinvol?
Er zijn situaties waarin fine-tuning de moeite waard is. De belangrijkste is wanneer je een specifieke stijl of format structureel nodig hebt die moeilijk via een prompt af te dwingen is. Denk aan een model dat altijd output genereert in een bepaald gegevensformaat, of dat consequent de huisstijl en terminologie van een organisatie hanteert zonder uitgebreide instructies.
Fine-tuning is ook zinvol als je werkt met een kleiner, goedkoper model dat je wilt opwaarderen voor een afgebakende taak. Een klein model dat gefinetuned is op ticketclassificatie kan daarvoor beter presteren dan een groot generalistisch model, tegen een fractie van de kosten per aanroep.
Wanneer volstaat prompt engineering?
Voor de meeste toepassingen die MSP’s bouwen of inzetten, is prompt engineering de betere keuze. Het is sneller aan te passen, goedkoper om mee te experimenteren en werkt over modelversies heen zonder dat je opnieuw hoeft te trainen. Als het model de taak begrijpt maar de output niet de juiste vorm heeft, is de instructie vrijwel altijd de snellere oplossing.
Zoals in de vorige aflevering besproken, geldt hetzelfde voor situaties waarbij het model werkt met veranderende informatie. Fine-tuning bakt kennis in op een bepaald moment. RAG levert actuele informatie aan bij elke aanroep. Voor klantspecifieke of regelmatig bijgewerkte informatie is RAG structureel flexibeler.
Fine-tuning bij klanten
Als klanten vragen om een AI-oplossing die ‘onze manier van werken’ leert, is fine-tuning vaak het eerste wat ze in gedachten hebben. Het is zaak die verwachting te managen. Fine-tuning leert een model patronen uit voorbeelden, maar het vervangt geen actuele kennisbank en garandeert geen foutloze output. Een klant die denkt dat een gefinetuned model zijn interne processen volledig beheerst, heeft een verkeerd beeld van wat de technologie doet.
De realistische inzet van fine-tuning bij klanten is beperkt maar concreet: het aanpassen van toon en stijl aan de huisstijl van de organisatie, het trainen op specifieke outputformaten, of het verbeteren van prestaties op een nauw omschreven taak waarvoor voldoende trainingsdata beschikbaar is.
De volgende aflevering gaat over een keuze die voor MSP’s steeds relevanter wordt: lokaal draaien of in de cloud, en wat dat betekent voor privacy, kosten en afhankelijkheid.
Dit is de zesde aflevering in de reeks ‘AI Business Basics’, waarin MSP Business de technologie achter AI stap voor stap uitlegt. Zonder marketingjargon, met de diepgang die je nodig hebt om er als IT-dienstverlener mee te werken, over te praten en op te bouwen.
