AI krijgt de huissleutels – AI Recap #43

Bakker geeft een witte robot de winkelsleutels terwijl ze op een tablet een AI-agent goedkeurt

Geef je een nieuwe medewerker op de eerste dag meteen de sleutels van de zaak, de pinpas en het wachtwoord van de boekhouding? Waarschijnlijk niet. Toch is dat precies de vraag die deze AI-week bepaalde. Anthropic lanceerde een agent die doorwerkt als jouw laptop uitstaat, Walmart laat AI-agents boodschappen doen en Uber geeft al zijn medewerkers een AI-collega. Wat ons opviel: de slimste aankondigingen van deze week gingen niet over wat een agent kan, maar over wat hij níet mag zonder jouw akkoord.

Ons team bij TTM Communicatie heeft het AI-nieuws van week 43 voor je doorgenomen en zet per onderwerp op een rij wat je er op kantoor mee doet. Wil je dat jij en je collega’s dit soort ontwikkelingen zelf goed kunnen inschatten? Dan is onze training AI-geletterdheid een logische eerste stap.

Duet werkt door

Anthropic kondigde woensdag Claude Duet aan, een agent op Claude Opus 5.5 die op een eigen computer in de cloud draait. Hij houdt je mail en agenda in de gaten, stuurt je ’s ochtends een briefing en maakt grotere klussen af terwijl jij iets anders doet. Volgens ai-feiten.nl noemt Anthropic voorbeelden die zo uit het leven van een zzp’er komen: openstaande facturen opvolgen en een conceptherinnering schrijven voor een klant die nog niet betaalde. Voorlopig is het een research preview in de Verenigde Staten, via een wachtlijst.

Belangrijker dan de functies is de rem die erin zit. Duet vraagt toestemming voordat hij een bericht verstuurt, iets betaalt, ondertekent of verwijdert. Anthropic noemt het volgens claudeainews.com “a fundamentally different kind of product”, en dat klopt: dit is geen chatbot meer die wacht tot jij iets vraagt. Hoe je zo’n agent verstandig een eerste taak geeft, lees je in AI-agents laten werken: hier begin je.

Zzp'er in een flexwerkplek keurt op zijn telefoon een actie van een AI-agent goed

Boodschappen met bestedingslimiet

Walmart en Amazon kozen deze week precies tegenovergestelde routes. Amazon houdt shoppende agents buiten de deur. Walmart rolt juist de mat uit, meldt TechCrunch, met een eigen profiel per agent in het klantaccount. De klant keurt elke aankoop goed of geeft de agent een bestedingslimiet.

Een dag later kwam 1Password met een vergelijkbaar idee voor inloggen. Met 1Password for Agents logt een agent namens jou in zonder je wachtwoord te zien; jij krijgt een melding en keurt de poging goed of af. Dit is wat ons betreft het patroon om te onthouden. Geef een agent nooit je eigen wachtwoord of pinpas, maar een eigen toegang met een plafond die je kunt intrekken.

Stel in de supermarkt met een telefoon waarop een AI-agent boodschappen doet binnen een bestedingslimiet

Uber kiest voor iedereen

Uber geeft zijn hele personeelsbestand, ongeveer 30.000 mensen, toegang tot ChatGPT Work. Het opvallendste cijfer zit in de pilot met 1.000 medewerkers: zo’n 80 procent van die vroege gebruikers had geen technische functie. Beheerders bepalen wel tot welke bedrijfsinformatie de agent toegang heeft en wanneer een mens een actie moet goedkeuren.

Google mikt met hetzelfde soort agent op het mkb. De Gemini-app krijgt een eigen werkplek voor kleine ondernemers, met koppelingen naar onder meer Google Ads, Shopify en Xero en een geheugen voor je huisstijl. In onze trainingen zien we steeds hetzelfde: de grootste winst haal je niet bij de ontwikkelaars, maar bij de collega die elke maandag handmatig een overzicht in Excel bijwerkt.

Lekken met AI-hulp

Aan de andere kant van de medaille ging het deze week flink mis. Microsoft beschreef hoe de Chinese groep Storm-0940 een AI-framework met meerdere samenwerkende agents gebruikte en via de software van IT-dienstverlener ConnectWise ruim 2.250 Microsoft 365-omgevingen bereikte. De aanvallers kwamen binnen via apps die bij klanten al toestemming hadden om in te loggen. Soms zat er minder dan drie uur tussen het eerste doelwit en beheerrechten.

Tegelijk bleek de populaire Python-bibliotheek LiteLLM twee uur lang besmet; de kwaadaardige versie is volgens Wiz zo’n 49.000 keer gedownload en stal onder meer API-sleutels van AI-aanbieders. En in PHP, de taal achter een groot deel van alle websites, vonden onderzoekers met hulp van AI twee kritieke lekken die al sinds 2012 in de code zaten. Heb je een WordPress-site, vraag je hostingpartij dan deze week nog of PHP is bijgewerkt.

Twee IT-beheerders bekijken bij de serverruimte een beveiligingsdashboard na AI-aanvallen

De les is ongemakkelijk maar simpel. Elke app die ooit toestemming kreeg om in jouw mailbox of cloudopslag te kijken, is een sleutel die nog ergens rondslingert. Loop in Microsoft 365 of Google Workspace eens na welke apps toegang hebben, en trek in wat je niet meer gebruikt. Voor je ChatGPT-account kan dat ook: in Wie logde er in op jouw ChatGPT-account? lees je hoe.

Toezicht blijft mensenwerk

Ook bij de makers zelf lopen agents soms uit de pas. OpenAI maakte bekend dat twee interne agents tijdens gewoon programmeerwerk de veiligheidsmonitoring in hun code verzwakten, en dat één daarover loog toen een onderzoeker ernaar vroeg. Anthropic stuurde het Amerikaanse Congres intussen een eigen conceptwet, waarin de overheid een model pas mag tegenhouden bij een risico op 50 of meer doden of een miljard dollar schade.

Die drempel ligt ver weg van jouw dagelijkse praktijk. Juist daarom moet je zelf de lat leggen. OpenAI ontdekte dat een agent “geen berichten sturen” uitlegde als toestemming om ook de waarschuwingen uit te zetten. Een agent leest je opdracht letterlijk en zoekt de kortste weg. Schrijf er dus bij wat hij nooit mag aanraken, en kijk de eerste weken echt mee.

Loop je sleutelbos na

Wat betekent dit voor jou? Agents komen deze winter ook in de Nederlandse tools terecht die je al gebruikt. Bepaal nu welke handelingen altijd jouw akkoord nodig hebben, zoals betalen en mailen naar klanten. Geef agents eigen toegang met een limiet in plaats van je eigen wachtwoord. En ruim de oude koppelingen op die nog toegang hebben tot je mail en bestanden. Gevoelige gesprekken in ChatGPT kun je trouwens sinds deze week ook vergrendelen met een pincode, al is dat geen versleuteling.

Wil jij met je team leren hoe je AI-tools en agents gebruikt zonder je klantgegevens of je bedrijf op het spel te zetten? Volg dan onze training veilig en bewust werken met AI. Schrijf je vandaag nog in!

AI Recap week 43 in cijfers: 30.000 Uber-medewerkers op ChatGPT Work, 80 procent van de pilotgebruikers geen techneut, 2.250 Microsoft 365-omgevingen bereikt, 49.000 besmette LiteLLM-downloads