AI is niet meer weg te denken uit de hedendaagse maatschappij. De snelheid waarmee deze nieuwe technologie de wereld verovert is ongekend en verslaat zelfs de stormachtige opmars van het internet in de tweede helft van de jaren ’90. Klanten kloppen steeds vaker aan de deur en vragen om ‘iets met AI’. Reden voor MSP Business om eens dieper te duiken in de achterkant. Waarmee moet je als MSP rekening houden wanneer je AI-oplossingen en -tools implementeert bij je klant? Wat zijn eigenlijk de kosten en hoe bereken ik dat door? In deze negendelige serie krijg je antwoord op al deze vragen.
Vorige afleveringen:
Wat is een token en waarom moet jij dat weten?
Het geheugen van AI
De markt voor taalmodellen groeit snel. Er zijn modellen van grote techbedrijven, modellen van gespecialiseerde AI-labs en open modellen die je zelf kunt draaien. Ze dragen namen die weinig zeggen, worden regelmatig opgevolgd door nieuwe versies en worden in marketingmateriaal vrijwel altijd als de beste optie gepresenteerd. Voor een MSP die klanten adviseert of AI wil inbouwen in dienstverlening, is dat verwarrend. Toch veranderen de vragen die je moet stellen nauwelijks, ongeacht welk model er op dat moment bovenaan staat.
De eerste stap is loslaten dat er één beste model bestaat. Taalmodellen zijn geoptimaliseerd voor verschillende doelen. Sommige zijn groot en krachtig, geschikt voor complexe redeneerprocessen en genuanceerde tekst. Andere zijn kleiner, sneller en goedkoper, en presteren uitstekend op afgebakende, herhaalbare taken. De keuze hangt af van wat je wilt doen, hoe vaak je het doet en wat het mag kosten.
In de praktijk onderscheid je grofweg drie categorieën. Grote, krachtige modellen zijn geschikt voor taken waarbij redeneren, nuance en kwaliteit vooropstaan. Denk aan het analyseren van contracten, het opstellen van rapportages of het beantwoorden van complexe klantvragen. Middelgrote modellen bieden een goede balans tussen kwaliteit en snelheid, en zijn geschikt voor de meeste dagelijkse toepassingen. Kleine, snelle modellen zijn geoptimaliseerd voor volume en lage latency, en passen bij toepassingen waarbij je veel verzoeken verwerkt en elke milliseconde telt.
De afweging die telt
Bij het kiezen van een model spelen vier factoren een rol. Kwaliteit is de meest voor de hand liggende: hoe goed presteert het model op jouw specifieke taak? Dat is niet altijd hetzelfde als de algemene benchmarkscore die fabrikanten publiceren. Een model dat uitblinkt in creatief schrijven hoeft niet de beste keuze te zijn voor technische documentatie.
Snelheid is relevant zodra je AI inbouwt in een werkproces of klantinteractie. Een model dat drie seconden nodig heeft om een antwoord te genereren, voelt traag in een livechat maar is prima voor een nachtelijke rapportage.
Kosten worden bepaald door het aantal tokens, zoals uitgelegd in de eerste aflevering. Grotere modellen kosten meer per token. Bij laagfrequent gebruik is dat nauwelijks relevant, maar bij automatisering op schaal is het een serieuze post.
Privacy en dataverwerking is de vierde factor, en voor MSP’s vaak de meest gevoelige. Waar worden de gegevens verwerkt? Welke voorwaarden gelden voor trainingsdata? Mag klantdata het land verlaten? Dit zijn vragen die je moet kunnen beantwoorden voordat je een model inzet in een omgeving met vertrouwelijke informatie.
Gesloten of open?
Naast de keuze tussen modellen is er een fundamentelere keuze: gebruik je een gesloten model via een API van een grote aanbieder, of zet je een open model in dat je zelf beheert?
Gesloten modellen zijn doorgaans krachtiger en makkelijker in gebruik. Je hoeft geen infrastructuur te beheren en profiteert automatisch van updates. De keerzijde is afhankelijkheid: van de aanbieder, diens voorwaarden en diens prijsbeleid.
Open modellen geef je meer controle. Je bepaalt waar de data blijft, je kunt het model aanpassen aan jouw situatie en je bent niet afhankelijk van een externe partij. De keerzijde is dat je er infrastructuur en kennis voor nodig hebt. Voor MSP’s die privacy hoog in het vaandel hebben of klanten bedienen in gereguleerde sectoren, is dit een serieuze optie om te verkennen. In aflevering 7 gaan we daar dieper op in.
Wat je klanten erover moeten weten
Als MSP ben je steeds vaker degene die klanten adviseert over AI-keuzes. Dat betekent dat je niet alleen moet begrijpen welk model je zelf gebruikt, maar ook hoe je die keuze uitlegt aan iemand die er niets van weet.
De eenvoudigste manier is de taak centraal stellen. Wat wil de klant bereiken? Hoe vaak? Met welke data? Vanuit die vragen werk je toe naar een model dat past, zonder dat je de klant hoeft mee te nemen in technische details. De modelnaam doet er daarbij minder toe dan de eigenschappen: snel of grondig, goedkoop of krachtig, lokaal of in de cloud.
Modellen zullen blijven veranderen. Wat vandaag de beste keuze is, kan over een jaar zijn ingehaald. Maar de vragen die je stelt bij de keuze blijven hetzelfde.
De volgende aflevering gaat over prompt engineering: waarom de manier waarop je een vraag stelt zoveel uitmaakt, en hoe je daar als MSP bewust mee omgaat.
Dit is de derde aflevering in de reeks ‘AI Business Basics’, waarin MSP Business de technologie achter AI stap voor stap uitlegt. Zonder marketingjargon, met de diepgang die je nodig hebt om er als IT-dienstverlener mee te werken, over te praten en op te bouwen.
