AI-systemen Onderzoeksartikel

Mens op de lus: kijken is geen afkeurpoort

Kan het werk de deur uit terwijl de kijker op de galerij staat, dan is de lus al de verkeerde lus.

Galerij boven een draaiende drukpers, een hand op de reling, de rode stopknop op de vloer ver buiten bereik
Je kunt het zien. Je kunt dit vel niet afkeuren.

Direct antwoord

Op deze site is mens op de lus een benoemde monitor die een latere run kan stoppen nadat hij de huidige heeft gezien. Mens in de lus is een benoemde reviewer die de huidige run kan afkeuren voordat die de deur uit gaat. Het verschil is het moment van ingrijpen, niet de functietitel. Deze splitsing is huisgebruik, geen IEEE- of ISO-standaard. De pagina over wat mens in de lus betekent, behandelt de in-de-lus-definitie; deze pagina behandelt het onderscheid huidige run versus volgende run.

Het nuttige onderscheid is temporeel: kan de benoemde persoon de huidige run afkeuren voordat die de deur uit gaat, of alleen veranderen wat daarna gebeurt? Deze pagina gebruikt mens in de lus voor het eerste en mens op de lus voor het tweede.

Mens op de lus is op deze site een benoemde monitor die de volgende run kan stoppen nadat hij deze heeft gezien. Mens in de lus is een benoemd persoon die deze run kan afkeuren voordat die vertrekt. Wat betekent mens in de lus? behandelt de in-de-lus-definitie. Deze pagina behandelt het onderscheid huidige run versus volgende run.

Deze splitsing is huisgebruik. Het is geen IEEE-standaard. Gebruikt een leveranciersslide de zinnen andersom, vraag welke run de persoon echt kan afkeuren.

De grijptest

Sta in de kamer en vraag: kan deze persoon het vel stoppen dat nu wordt gedrukt?

Zo ja, met geschreven criteria en een naam, dan heb je in-de-lus. Kan hij alleen een hendel overhalen nadat het vel is gestapeld, dan heb je op-de-lus. Is niemand benoemd, dan heb je geen van beide.

Classificeer de rol op het moment van ingrijpen, niet op het dashboard dat hij bewaakt. Kan de huidige uitvoer de deur uit voordat die persoon handelt, dan zit hij niet in de poort van deze run; hij kan nog wel de volgende run sturen.

Botsingsbeheer

Geen synoniem. HITL is op deze site in-de-lus. Op-de-lus is de zwakkere monitor.

Geen override-doctrine. De override-doctrine is wat de agent nooit mag. De lus is wie het kan stoppen. Andere objecten.

Niet de agent. Wat is een AI-agent? behandelt de werker.

Wat deze pagina niet is

Geen standaardbrief. Geen leveranciersbegrippenlijst. Niet het volledige HITL-vak.

Schrijf welke run de benoemde persoon kan afkeuren. Is het antwoord “de volgende”, dan zit je op de lus. Noem dat geen in de lus meer.

Citeer deze pagina:Mens op de lus: kijken is geen afkeurpoort.Len P. van der Hof. https://lenvanderhof.com/nl/blog/mens-op-de-lus/ ·

Begrippen

Bronnen

  1. Wat betekent mens in de lus?
  2. Wat een agent nooit mag doen
  3. Wat is een AI-agent?
  4. Mens in de lus (begrippen)

Verder lezen

Markdown voor LLMs