AI-bedrijven trappen op de rem – AI Recap #40
Deze week trok de AI-wereld zelf aan de handrem. OpenAI hield een nieuw topmodel binnen omdat het gebruikers misleidde. Codeerassistenten bleken ongevraagd duizenden interne screenshots online te zetten. En Californië legde vast dat een algoritme niemand mag ontslaan zonder dat er een mens meekijkt. Ondertussen werden de modellen gewoon weer sneller en goedkoper. De techniek loopt harder dan het vertrouwen, en dat gat moet je als organisatie voorlopig zelf dichten.
Wij hebben bij TTM Communicatie de berichten van deze week uitgezocht en per onderwerp opgeschreven wat je er op kantoor mee kunt. Zet jouw team AI-assistenten of agents in en wil je weten waar de grenzen liggen? In onze training veilig en bewust werken met AI maken we die afspraken samen concreet.
Astra blijft binnen
OpenAI brengt GPT-6.1 Astra niet uit. Het model stond voor begin oktober gepland in ChatGPT en Codex, maar haalde de interne veiligheidstests niet. Volgens Saachi Jain, bij OpenAI verantwoordelijk voor de veiligheidssystemen, vertelde het model vaker niet naar waarheid welke acties het had uitgevoerd. Ook zette het taken door zonder de vereiste toestemming te vragen. Het basismodel gaat terug de training in. Het zegt ook iets over waar de zwakke plek nu zit: niet in wat een model kan, wel in of het je eerlijk vertelt wat het heeft gedaan.
Hoe dat er in de praktijk uitziet, liet beveiligingsbedrijf Glow zien met PixelLeak. AI-codeerassistenten zetten ruim 13.000 interne screenshots van 343 organisaties in openbare GitHub-repository’s. GitHub laat via de commandline geen afbeeldingen toe in een reactie op een besloten pull request, dus de agents verzonnen zelf een omweg via een openbare repository, met klantgegevens en betaalschermen op straat als gevolg. Geen getroffen beveiligingsteam merkte het zelf op: de agents bleven binnen hun rechten. Wat wij in trainingen steeds herhalen: geef een assistent eerst leesrechten, pas later schrijfrechten, en nooit het recht om iets te publiceren zonder dat iemand meekijkt.
Mens houdt laatste woord
Gouverneur Gavin Newsom tekende op 30 september SB 947, de No Robo Bosses Act. Werkgevers in Californië mogen vanaf 1 juli 2027 niemand ontslaan of straffen op basis van AI alleen. Leunt zo’n besluit vooral op een algoritme, dan moet een mens de uitkomst controleren met het personeelsdossier erbij. Tegelijk opende de Amerikaanse FTC een onderzoek naar OpenAI, Anthropic en testorganisatie METR, na incidenten waarin agents uit hun testomgeving braken.
Voor een Nederlandse werkgever is dit geen ver-van-je-bedshow. De Europese AI Act rekent AI bij werving en personeelsbeslissingen al tot de hoog-risicotoepassingen. Gebruik je een tool die sollicitaties voorsorteert of prestaties scoort, leg dan nu vast wie de uitkomst beoordeelt en hoe je die aan de betrokkene uitlegt.
Kleine lettertjes tellen
Aan de modelkant was het weer een drukke week. Anthropic bracht op 29 september Claude Sonnet 5.5 uit voor 3 dollar per miljoen invoertokens. OpenAI zette er GPT-6.1 Sol tegenover, dat bij programmeren en computergebruik dicht bij Astra komt voor een vijfde van de prijs. Welk Claude-model bij jouw werk past, zetten we op een rij in Claude Sonnet 5.5 of Opus 5.5, welk model kies je?
Een lagere prijs per token betekent alleen niet automatisch een lagere rekening. Volgens The Information verliezen zakelijke klanten van Anthropic hun korting van ongeveer 15 procent zodra ze hun afgesproken tokenplafond raken, zonder overgangstermijn. OpenAI geeft dan nog een maand respijt. ChatGPT Pro van 200 dollar is weer te koop, maar met per dollar de helft van het eerdere API-tegoed. In AI Recap #39 schreven we dat de prijsdaling niet vanzelf op je factuur terechtkomt. Deze week zag je waarom: de aanbieders sleutelen net zo hard aan de voorwaarden als aan de modellen. Lees je contract of abonnement dus na voordat je er gebruikers bij zet.
Gems worden Skills
Praktischer nieuws: Google stopt met Gems in Gemini. Persoonlijke accounts krijgen in november Skills, herbruikbare instructies die je met een schuine streep in een gewoon gesprek oproept. Je kunt ze stapelen, bijvoorbeeld je eigen schrijfstijl plus de huisstijl van je werkgever. Bestaande Gems zet Google automatisch om, en zakelijke Workspace-klanten houden Gems tot maart 2027. Let wel op: Skills lijkt alleen in de betaalde Google AI-abonnementen te zitten. Werk je gratis met Gems, kijk dan nu wat je straks overhoudt.
Web sluit deuren
Voor websitebeheerders zat het nieuws bij de poortwachters. Reddit stopt op 13 november met RSS-feeds en sluit in maart 2027 zijn publieke API, met AI-scrapers als reden. Cloudflare zette juist twee betaalproducten in beta, waarmee sites AI-agents per verzoek laten afrekenen en uitgevers geld vragen als een AI-bedrijf hun tekst in een antwoord gebruikt. En in Washington wees rechter Amit Mehta de klachten van Penske Media en Chegg over de AI Overviews van Google af.
Die uitspraak is de nuchterste les van de week. Uitgevers verwachten bezoekers terug als ze hun pagina’s openzetten voor Google, maar een verwachting is volgens Mehta geen afspraak. Wat je wel kunt doen, is bewust kiezen welke bots je binnenlaat en waarom. Hoe dat werkt zonder dat je vindbaarheid eronder lijdt, lees je in AI-bots blokkeren zonder je Google-positie te verliezen.
Schrijfstijl verraadt AI
Marketingbureau Graphite vergeleek AI-teksten met 10.000 artikelen van vóór ChatGPT en vond 13.000 zinsdelen die minstens twee keer zo vaak bij AI voorkomen. Claude Opus 5.5 gebruikt “this matters” 116 keer vaker dan een mens. Het onderzoek ging over Engelse tekst, maar het patroon herkennen we uit onze trainingen. Deelnemers zien hun eigen AI-stopwoorden pas als je drie teksten naast elkaar legt. Lees je volgende AI-concept dus eens hardop voor voordat je op versturen drukt.
Wat betekent dit nu?
Dat de modellen elke week beter en goedkoper worden, is inmiddels geen nieuws meer. Het nieuws is dat zelfs de makers niet altijd weten wat hun agents uitspoken, en dat wetgevers en platforms daar nu op reageren. Weet jij welke AI-tools in jouw organisatie iets mogen veranderen, en wie er meekijkt voordat er iets naar buiten gaat? Kun je dat niet meteen beantwoorden, dan weet je waar je maandag begint. Wil jij dat jouw team AI slim en verantwoord inzet? Schrijf je dan in voor een van onze AI-trainingen, dan helpen we je op weg!
