Het team schreef een charter. Drie pagina’s over wat de agent doet. Niets zegt wat hij moet weigeren. Om 03:00 uur stuurt hij de klant het concept, want het concept was klaar en geen regel zei dat hij moest stoppen. De gebruikelijke diagnose is “we hebben een betere HITL nodig”. Vaak kreeg de mens nooit een uitgeschreven weigeringslijst.
Het charter is niet de doctrine
Een charter vertelt wat de werker doet. Doel, input, output, een plafond, een review. Die pagina bestaat al.
Override-doctrine is de andere helft. Het is de uitgeschreven lijst van besluiten die een agent nooit mag nemen. Als je alleen de doet-lijst hebt geschreven, heb je de helft. De helft die om 03:00 uur faalt, is de ontbrekende helft.
Dit is geen persoonlijkheidstest voor het model. Modellen hebben geen temperament. Ze hebben tools. De doctrine gaat over de tools.
Vier weigeringen, al openbaar
De live begrippenlijst noemt er vier. Ik voeg er geen vijfde aan toe om een raamwerk te forceren.
Uitgeven boven een plafond. Maak de factuur. Verstuur het geld niet.
Spreken namens het bedrijf. Schrijf het antwoord. Zet de bedrijfsnaam niet op een kanaal dat de mens niet heeft geopend.
Productiedata wijzigen. Stel de patch voor. Schrijf niet naar productie.
Een oordeel sluiten dat jij nog bezit. Stel het dossier samen. Beslis niet over de hire, de prijs of de kill.
Die vier zijn onomkeerbaar of dragen identiteit. Een agent kan tot aan de lijn werken. Een mens steekt die over. De multi-agent organisatie legt dezelfde snede in het charterveld dat het autoriteitsplafond heet: houd de agent aan de omkeerbare kant. Weigeren is de default. Dat boek is live. Deze pagina is de lijst, niet het sjabloon van zeven velden.
Schrijf het voor de tool
De begrippenlijst is specifiek over het moment. Schrijf de doctrine voordat de agent een tool krijgt die kan verzenden, uitgeven of verwijderen. MCP is hoe een stap het gebouw raakt. De doctrine is wie de sleutel niet mag omdraaien.
Als de weigeringslijst in een Slack-thread van maart staat, is het geen doctrine. Het is folklore. Folklore bindt geen toolaanroep.
HITL is geen vervanging
Een mens in de lus is een benoemd persoon met een plafond en een poort. Een blik op een dashboard is geen lus.
HITL zonder doctrine arriveert na de uitgave. De mens staat dan stroomafwaarts van een besluit dat al is genomen. Dat is geen lus. Dat is een autopsie.
De doctrine moet standhouden als er niemand meekijkt. Als de enige controle een persoon is die slaapt, heb je geen weigeringslijst geschreven. Je schreef een hoop.
Review is de poort, niet de lijst
CHORUS is het coördinatieprotocol voor teams van twee tot vijftien. Review is een van de zes vaardigheden. Het is hoe het team een output afkeurt tegen uitgeschreven criteria.
Deze pagina is geen tweede CHORUS-artikel. Het protocol is de poort. De doctrine is de criteria die de poort leest. Als Review niets op papier heeft om tegen af te keuren, is Review een stemming.
Een audit van vijftien minuten
Kies de agent die kan verzenden, uitgeven of verwijderen.
- Plak de uitgeschreven weigeringslijst. Als je hem moet onthouden, is hij niet uitgeschreven.
- Controleer de vier openbare weigeringen. Omcirkel welke ontbreken.
- Noem de laatste onomkeerbare handeling van deze agent. Wiens naam droeg die?
- Noteer het bestand waarin de doctrine leeft. Niet de chat.
- Noteer de handeling die je vandaag van de agent afhaalt als stap 1 leeg is.
Als stap 1 of 4 leeg is, neem de tool weg. Een charter zonder doctrine is een vrijbrief. Schrijf de weigeringen. Dan heeft de aanroep om 03:00 uur iets om tegenaan te lopen.