AI is niet meer weg te denken uit de hedendaagse maatschappij. De snelheid waarmee deze nieuwe technologie de wereld verovert is ongekend en verslaat zelfs de stormachtige opmars van het internet in de tweede helft van de jaren ’90. Klanten kloppen steeds vaker aan de deur en vragen om ‘iets met AI’. Reden voor MSP Business om eens dieper te duiken in de achterkant. Waarmee moet je als MSP rekening houden wanneer je AI-oplossingen en -tools implementeert bij je klant? Wat zijn eigenlijk de kosten en hoe bereken ik dat door? In deze negendelige serie krijg je antwoord op al deze vragen.
Vorige afleveringen:
Wat is een token en waarom moet jij dat weten?
Het geheugen van AI
Welk model kies je wanneer?
Betere vragen, betere antwoorden
Je eigen kennisbank koppelen
AI Business Basics (6) – Trainen of instrueren?
De meeste MSP’s die vandaag met AI werken, doen dat via een API van een grote aanbieder. Je stuurt een verzoek naar een server ergens in de wereld, het model verwerkt het en stuurt een antwoord terug. Snel, makkelijk en krachtig. Maar niet altijd de juiste keuze.
De vraag of je AI lokaal draait of in de cloud is voor MSP’s relevanter dan voor veel andere sectoren. Je beheert data van klanten, vaak vertrouwelijke data, en opereert in een omgeving waar privacywetgeving, contractuele afspraken en sectorspecifieke regelgeving bepalen wat er wel en niet mag.
Wat lokaal draaien betekent
Lokaal draaien betekent dat het model draait op hardware die je zelf beheert, op je eigen server, in je eigen datacenter of bij een klant on-premise. De data verlaat de omgeving niet. Er is geen externe aanbieder die de verzoeken verwerkt, en er zijn geen voorwaarden van een derde partij waar je rekening mee moet houden.
Dat klinkt als de veiligste optie, en voor bepaalde situaties is het dat ook. Maar er zijn serieuze keerzijden. Lokale modellen zijn doorgaans minder krachtig dan de grote cloudmodellen. De beste open modellen komen in de buurt, maar halen de absolute top nog niet. Daarnaast vraagt lokaal draaien om hardware-investeringen, beheer en kennis. Een krachtig model heeft forse rekenkracht nodig, en dat kost geld, ook als je het niet gebruikt.
Wat de cloud biedt
Cloudmodellen zijn krachtig, altijd up-to-date en vragen geen infrastructuurinvestering. Je betaalt voor wat je gebruikt en profiteert automatisch van verbeteringen die de aanbieder doorvoert. Voor de meeste toepassingen is dit de meest praktische keuze.
De keerzijde is afhankelijkheid. Van de aanbieder, zijn prijsbeleid, zijn voorwaarden en zijn beslissingen over welke modellen beschikbaar blijven. En van de locatie waar data wordt verwerkt. De grote aanbieders verwerken data standaard op servers in de Verenigde Staten. Europese verwerkingsopties bestaan wel, maar zijn doorgaans alleen beschikbaar via enterprise-contracten of via cloudplatforms als Azure, AWS Bedrock of Google Vertex AI, en vragen om een bewuste configuratiekeuze. De standaard API-toegang biedt die garantie niet.
AVG en gegevensverwerking
Voor MSP’s die werken met persoonsgegevens van klanten is de AVG het kader waar je niet omheen kunt. De kernvraag is waar data wordt verwerkt en onder welke voorwaarden. Maar die vraag is minder eenvoudig te beantwoorden dan het lijkt.
Een veelvoorkomend misverstand is dat een verwerkersovereenkomst het probleem oplost. Dat is niet zo. Een verwerkersovereenkomst legt vast hoe een aanbieder met data omgaat, maar verandert niets aan de locatie waar die verwerking plaatsvindt. Als die locatie buiten de Europese Economische Ruimte ligt, heb je aanvullende maatregelen nodig om doorgifte rechtmatig te maken. De meest gebruikte basis daarvoor is het EU-VS Data Privacy Framework, waaronder grote aanbieders als Anthropic, OpenAI en Google zijn gecertificeerd. Dat biedt een grondslag voor doorgifte, maar is niet onomstreden: het framework is juridisch kwetsbaar en eerder werden vergelijkbare afspraken door het Europese Hof van Justitie vernietigd.
Een tweede misverstand is dat dataresidentie en dataprivacy hetzelfde zijn. Dataresidentie gaat over waar data fysiek wordt opgeslagen. Dataprivacy gaat over wie er toegang toe heeft en onder welke juridische condities. Een model dat draait op een Europese server van een Amerikaanse aanbieder biedt dataresidentie in Europa, maar de Amerikaanse moedermaatschappij kan onder Amerikaanse wetgeving, zoals de CLOUD Act, alsnog verplicht worden toegang te verlenen aan Amerikaanse autoriteiten. Voor klanten in gevoelige sectoren is een reëel aandachtspunt.
Voor klanten in gereguleerde sectoren zoals zorg, financiële dienstverlening of overheid is de verwerkingslocatie daarom een van de eerste vragen die je moet beantwoorden voordat je een AI-oplossing implementeert. Wat voor data verwerkt het systeem? Wie heeft er toegang toe? Wat zijn de contractuele verplichtingen van de klant richting zijn eigen klanten of toezichthouder?
De afweging in de praktijk
Een handige manier om de keuze te structureren is door te kijken naar drie factoren. Hoe gevoelig is de data? Hoe hoog zijn de eisen aan prestaties en snelheid? En wat mag het kosten, zowel in investering als in doorlopende exploitatie?
Voor generieke taken met niet-vertrouwelijke data is een cloudmodel vrijwel altijd de verstandigste keuze. Voor toepassingen waarbij persoonsgegevens worden verwerkt, loont het om de verwerkingslocatie en de juridische grondslag voor doorgifte expliciet te regelen, liefst voordat de oplossing live gaat. En voor omgevingen waar data de organisatie onder geen beding mag verlaten, is lokaal draaien de enige optie die alle risico’s uitsluit.
Als MSP ben je steeds vaker degene die klanten door deze afweging heen loodst. Dat vraagt om technische kennis en het vermogen om privacyvraagstukken begrijpelijk te maken voor klanten die de nuances tussen dataresidentie, verwerkersovereenkomsten en juridische grondslagen niet kennen. Die rol is waardevol, en onderscheidt een MSP die AI serieus neemt van een die alleen een tool installeert.
De volgende aflevering gaat over een van de meest concrete toepassingen voor MSP’s: AI in de servicedesk. Ticketclassificatie, kennisbank-search, first-line response, alles met voor- en nadelen.
Dit is de zevende aflevering in de reeks ‘AI Business Basics’, waarin MSP Business de technologie achter AI stap voor stap uitlegt. Zonder marketingjargon, met de diepgang die je nodig hebt om er als IT-dienstverlener mee te werken, over te praten en op te bouwen.
