Deze week: Anthropic-CEO Dario Amodei roept de AI-sector in een essay op om de ontwikkeling van frontier-modellen te vertragen en krijgt bijval van Sam Altman en Elon Musk, de Spaanse privacytoezichthouder AEPD meldt het eerste datalek dat is uitgevoerd door een autonome AI-agent, Microsoft zet vanaf 2 november usage-based billing standaard aan voor nieuwe Copilot Business-licenties via CSP, Ursula von der Leyen waarschuwt in haar State of the Union voor hacking op ongekende schaal en wil frontier-AI afremmen, OpenAI stelt zijn beursgang uit tot na 2026 en Apple brengt Siri AI uit in bèta, voorlopig zonder de EU.
- Anthropic-topman Amodei roept AI-sector op de ontwikkeling te vertragen
- Spaanse privacytoezichthouder registreert eerste datalek via autonome AI-agent
- Microsoft zet usage-based billing standaard aan voor nieuwe Copilot Business-licenties via CSP
- Europese Commissie wil frontier-AI afremmen en waarschuwt voor hacking op ongekende schaal
- OpenAI stelt beursgang uit tot na 2026 vanwege veiligheidszorgen
- Apple brengt Siri AI uit in bèta, voorlopig niet in de EU
Anthropic-topman Amodei roept AI-sector op de ontwikkeling te vertragen
Anthropic-CEO Dario Amodei publiceerde op 12 september het essay “We Must Pace the Frontier”, waarin hij de AI-industrie oproept het tempo van frontier-modellen bewust te verlagen. OpenAI-CEO Sam Altman en xAI-eigenaar Elon Musk lieten dezelfde dag op X weten het met hem eens te zijn.
- Amodei wijst op recursieve zelfverbetering, die sinds deze zomer ook bij Anthropic versnelt, en op het OpenAI-Hugging Face-incident van juli.
- Hij vreest dat een zwerm agents binnen 6 tot 12 maanden een botnet over het hele internet kan opzetten, met honderden miljarden dollars schade.
- Anthropic geeft externe evaluatoren zoals METR permanente toegang op werknemersniveau, inclusief het recht bevindingen te publiceren zonder redactionele controle.
- De volgende stappen zijn coördinatie tussen democratische landen en wereldwijde afspraken, inclusief een “snelheidslimiet” op zelfverbetering met China.
Bron: Dario Amodei
Spaanse privacytoezichthouder registreert eerste datalek via autonome AI-agent
De Spaanse privacytoezichthouder AEPD meldde op 14 september de eerste notificatie van een datalek dat volgens de getroffen organisatie is uitgevoerd door een AI-agent op basis van een bekend taalmodel. De agent logde in, zocht autonoom naar kwetsbaarheden, wijzigde persoonsgegevens en kreeg toegang tot facturen.
- De AEPD noemt het model niet en benadrukt dat de informatie uit de melding van de organisatie komt en nog wordt geanalyseerd.
- Volgens de toezichthouder creëert AI geen nieuwe dreigingen, wel verhoogt het snelheid, schaal en aanpassingsvermogen van bekende aanvalstechnieken.
- AI-aanvallen horen expliciet in risicoanalyses, responstijden moeten omlaag en credentials zoals API-keys en tokens vragen extra bescherming.
- De AEPD verwijst naar de gids CCN-CERT BP/36 over offensieve AI, met aanbevelingen over identiteiten, toeleveringsketen en governance van agents.
Bron: AEPD
Microsoft zet usage-based billing standaard aan voor nieuwe Copilot Business-licenties via CSP
Microsoft kondigde op 16 september in Partner Center aan dat nieuwe Microsoft 365 Copilot Business-licenties via CSP vanaf 2 november 2026 standaard usage-based billing bevatten. Pay-as-you-go wordt de standaardconfiguratie voor Copilot Cowork, Work IQ API’s en GitHub Copilot Harness.
- De wijziging geldt voor nieuwe aankopen van Copilot Business via CSP, zowel standalone als in bundels.
- Nieuwe licenties krijgen een vooraf ingestelde maandelijkse limiet per gebruiker, die klanten kunnen aanpassen of aanvullen met prepaid credits.
- De benodigde Azure-subscription-inrichting zit volgens Microsoft in de licentie, wat de setup voor partners moet vereenvoudigen.
- Microsoft koppelt de stap aan de Copilot Cowork Activation Incentive voor CSP-partners, die op 1 september van start ging.
Bron: Microsoft Partner Center
Europese Commissie wil frontier-AI afremmen en waarschuwt voor hacking op ongekende schaal
Commissievoorzitter Ursula von der Leyen riep op 16 september in haar State of the Union in Straatsburg op om de ontwikkeling van frontier-modellen te temporiseren. “Modellen die nu worden ontwikkeld, maken hacking mogelijk op een niveau dat we nooit voor mogelijk hielden,” zei ze tegen het Europees Parlement.
- Ze verwees naar agents die uit hun testomgeving braken, zoals bij OpenAI en Hugging Face in juli, en nodigt de grote AI-labs uit voor overleg.
- De Commissie gaat met Canada en het Verenigd Koninkrijk samenwerken aan evaluatie en verificatie van modellen, early warning en AI-beveiliging.
- Von der Leyen stelde voor handelsverdrag CETA uit te breiden tot een alliantie op AI, quantum en cyber- en economische veiligheid.
- Europa hoeft volgens haar niet zelf het leidende frontier-model te bouwen, wel wil ze meer eigen rekenkracht, zonder bedragen te noemen.
Bron: Euronews
OpenAI stelt beursgang uit tot na 2026 vanwege veiligheidszorgen
OpenAI gaat dit jaar niet naar de beurs, zei CEO Sam Altman in een interview met Fortune dat op 12 september verscheen. Het is de eerste bevestiging on the record dat de IPO niet in 2026 plaatsvindt.
- Altman noemde het gezien “alles wat er rond safety gebeurt” een “ill-advised moment” om naar de beurs te gaan.
- OpenAI diende in juni vertrouwelijk een S-1 in bij beurstoezichthouder SEC, zonder een datum voor de notering te noemen.
- Altman zei dat OpenAI trainingsruns bij nieuwe capaciteitsniveaus vaker gaat pauzeren om voortgang te boeken op safety en alignment.
Bron: Fortune
Apple brengt Siri AI uit in bèta, voorlopig niet in de EU
Apple bracht op 14 september iOS 27, iPadOS 27, macOS 27, watchOS 27 en visionOS 27 uit met een volledig herbouwde Siri. Siri AI rolt in bèta uit in het Engels; Frans, Japans, Koreaans, Portugees en Spaans volgen volgende maand, Nederlands nog niet.
- De modellen zijn volgens Apple ontwikkeld met Google en Gemini en draaien op het apparaat en op Private Cloud Compute.
- Siri AI is voorlopig niet beschikbaar in de EU op iOS, iPadOS en watchOS, en evenmin in China.
- Serverfuncties zoals Siri AI en Image Playground hebben dagelijkse gebruikslimieten; uitgebreidere toegang komt later tegen betaling.
- Apple Intelligence vereist minimaal een iPhone 15 Pro, een iPad of Mac met M1-chip of een Apple Watch Series 9.
Bron: Apple Newsroom
De AI Update is samengesteld door Marcel Debets. Tips? Mail de redactie op mspb@dutchit.com.
