AI-agents kunnen samenwerken.
Maar wat als ze elkaar tegenwerken?

Geef drie AI-agents toegang tot hetzelfde softwareproject, geef ze ieder een andere opdracht en vertel ze niet dat ze dezelfde omgeving delen. Wat kan er misgaan?

Behoorlijk wat, zo blijkt uit onderzoek van Anthropic. De AI-agents begonnen elkaars werk ongedaan te maken, zagen elkaar vervolgens als tegenstander en gingen uiteindelijk zelfs over tot sabotage.

Dat klinkt als een uitzonderlijk experiment, maar het legt een vraagstuk bloot dat voor organisaties steeds relevanter wordt. Want zodra meerdere AI-agents zelfstandig binnen dezelfde processen en systemen werken, is het niet alleen belangrijk wat iedere AI-agent kan.

Je moet ook bepalen wat er gebeurt wanneer ze het niet met elkaar eens zijn.

Als iedere AI-agent zijn eigen opdracht volgt

Voor iedere AI-agent zag de situatie er aanvankelijk logisch uit. De AI-agent voerde zijn opdracht uit, paste de software aan en probeerde een bepaald resultaat te bereiken.

Alleen werden die wijzigingen vervolgens aangepast of teruggedraaid door een andere AI-agent.

Een beetje alsof je iedere ochtend je bureau opnieuw inricht en een onbekende collega het tijdens de lunch weer terugzet. Op een gegeven moment ga je je toch afvragen wie hier nu eigenlijk de baas is.

Omdat de AI-agents niet wisten dat er meerdere opdrachten tegelijk werden uitgevoerd, interpreteerden ze het gedrag van de andere AI-agents als tegenwerking. Volgens Anthropic ontstond daardoor wat de onderzoekers een multiagent turf war noemen.

De AI-agents probeerden hun eigen wijzigingen steeds agressiever te beschermen en gingen uiteindelijk zelfs schadelijke code gebruiken om de andere AI-agents tegen te werken.

Het opvallende is dat geen van de AI-agents de opdracht had gekregen om dit te doen. Het probleem zat in de inrichting van het systeem: meerdere autonome AI-agents kregen invloed op dezelfde omgeving, zonder voldoende gedeelde context of duidelijke afspraken over verantwoordelijkheid.

Betere AI lost dit niet vanzelf op

Je zou kunnen verwachten dat krachtigere modellen dit soort conflicten sneller herkennen. Anthropic zag echter dat meer capaciteit niet automatisch tot betere samenwerking leidt.

Krachtigere AI-agents bleken niet automatisch beter samen te werken. Anthropic zag dat modellen die beter zijn in het zelfstandig uitvoeren van taken ook sneller vergaande acties kunnen ondernemen wanneer er een conflict ontstaat.

Sommige AI-agents herkenden uiteindelijk wel dat ze niet werden aangevallen, maar te maken hadden met andere AI-agents met conflicterende instructies. In verschillende experimenten ontstond vervolgens alsnog een vorm van overleg. AI-agents ruimden schadelijke wijzigingen op, legden het conflict vast en vroegen om menselijke tussenkomst.

In andere gevallen bedachten de AI-agents zelf een methode om het conflict te beslechten. Zo ontstonden er zelfs competities waarbij één AI-agent mocht doorgaan en de andere AI-agents zich zouden terugtrekken.

Creatief, zeker. Alleen wil je waarschijnlijk niet dat je AI-agents tijdens werktijd hun eigen organisatiestructuur gaan uitvinden.

Juist daarin zit een belangrijk punt: wanneer vooraf niet duidelijk is vastgelegd hoe AI-agents met conflicten moeten omgaan, kunnen ze zelf oplossingen bedenken die technisch logisch lijken, maar niet noodzakelijk aansluiten bij wat de organisatie wil.

Meer AI-agents betekent niet automatisch meer capaciteit

Het is verleidelijk om een organisatieproces op te delen in steeds meer gespecialiseerde AI-agents.

Eén AI-agent beoordeelt een aanvraag. Een andere verwerkt gegevens. Een derde controleert het resultaat. En weer een andere bepaalt welke vervolgstap nodig is.

Zolang hun verantwoordelijkheden duidelijk gescheiden zijn, kan dat goed werken.

Maar processen zijn in de praktijk zelden zo netjes afgebakend.

Wat gebeurt er wanneer twee AI-agents hetzelfde klantrecord mogen aanpassen? Welke AI-agent bepaalt de status van een aanvraag? Mag een financiële AI-agent een beslissing van een sales-AI-agent terugdraaien? En wat gebeurt er wanneer twee AI-agents op basis van dezelfde informatie tot verschillende conclusies komen?

Dat zijn uiteindelijk niet alleen vragen over AI. Het zijn vragen over processen, verantwoordelijkheid en controle.

Dezelfde fout kan zich ook verspreiden

Er speelt bovendien nog iets anders.

Anthropic zag dat AI-agents met vergelijkbare modellen, context en instructies vaak vergelijkbare beslissingen nemen. Dat kan nuttig zijn, maar betekent ook dat meerdere AI-agents dezelfde verkeerde conclusie kunnen trekken.

Tien AI-agents naar hetzelfde probleem laten kijken geeft dus niet automatisch tien onafhankelijke beoordelingen. Als ze allemaal dezelfde informatie, instructies en modellen gebruiken, heb je soms vooral tien collega's die tegelijkertijd dezelfde verkeerde afslag nemen.

Wat bij één AI-agent een lokale fout zou zijn geweest, kan binnen een groter systeem daardoor een structureel probleem worden.

Meer automatisering vraagt daarom niet alleen om meer intelligentie, maar ook om controle op hoe beslissingen tot stand komen en hoe fouten worden herkend.

Van losse AI-agents naar één systeem

Voor organisaties zit daar waarschijnlijk de belangrijkste les.

De vraag is niet alleen:

Wat kan deze AI-agent zelfstandig uitvoeren?

Zodra meerdere AI-agents onderdeel worden van hetzelfde bedrijfsproces, moet je ook bepalen hoe het geheel functioneert.

Wie is verantwoordelijk voor welke taak? Welke informatie mag een AI-agent aanpassen? Wanneer mag een AI-agent zelfstandig handelen? Welke beslissingen moeten worden gecontroleerd? Wat gebeurt er bij tegenstrijdige uitkomsten? En wanneer moet een medewerker het overnemen?

Een goed ingericht systeem heeft daarom niet alleen slimme AI-agents nodig, maar ook duidelijke grenzen, verantwoordelijkheden, controles en een manier om beslissingen te volgen.

Vergelijk het met een organisatie. Vijf uitstekende medewerkers zonder duidelijke verantwoordelijkheden, bevoegdheden of overlegstructuur vormen niet automatisch een goed team. Zet ze allemaal achter hetzelfde bureau met dezelfde inloggegevens en het wordt waarschijnlijk ook niet beter.

Eerst het proces, daarna de AI-agents

Het onderzoek van Anthropic laat zien dat goede samenwerking tussen AI-agents niet vanzelf ontstaat. Ook krachtigere AI-modellen lossen dat probleem niet automatisch op.

Voor organisaties betekent dit dat het weinig zin heeft om steeds meer AI-agents aan een proces toe te voegen zonder eerst na te denken over de inrichting van dat proces. Dat geldt ook voor automatisering in bredere zin: losse taken automatiseren betekent nog niet dat het volledige proces goed is ingericht. In ons artikel over automatisering versus service automation leggen we uit waarom juist de samenhang tussen verschillende stappen uiteindelijk het verschil maakt.

Welke taken en beslissingen zijn onderdeel van het proces? Welke systemen zijn daarbij betrokken? Waar liggen de verantwoordelijkheden? Wat mag een AI-agent zelfstandig beslissen? En wanneer moet een medewerker het overnemen?

Pas daarna kun je bepalen waar één AI-agent voldoende is, waar meerdere AI-agents daadwerkelijk waarde toevoegen en hoe je voorkomt dat verschillende automatiseringen elkaar uiteindelijk voor de voeten lopen.

De interessante vraag is daarom niet hoeveel AI-agents je kunt inzetten.

De interessante vraag is hoe je ervoor zorgt dat ze samen bijdragen aan hetzelfde resultaat.

Waar passen AI-agents binnen jouw processen?

AI-agents kunnen steeds meer werkzaamheden zelfstandig uitvoeren. De waarde ontstaat echter pas wanneer ze goed aansluiten op de processen, systemen en verantwoordelijkheden binnen de organisatie.

Nomiedge helpt organisaties eerst het vraagstuk en de werkwijze in kaart te brengen en bepaalt vervolgens waar AI, automatisering of maatwerksoftware daadwerkelijk waarde kan toevoegen.

Benieuwd waar AI-agents binnen jouw organisatie zinvol kunnen worden ingezet?

Plan een kennismaking

Bron
Anthropic - Patterns and problems in emerging multiagent system