AI-systemen Onderzoeksartikel

Mens op de lus: kijken is geen afkeurpoort

Kan het werk de deur uit terwijl de kijker op de galerij staat, dan is de lus al de verkeerde lus.

Galerij boven een draaiende drukpers, een hand op de reling, de rode stopknop op de vloer ver buiten bereik
Je kunt het zien. Je kunt dit vel niet afkeuren.

Het nuttige onderscheid is temporeel: kan de benoemde persoon de huidige run afkeuren voordat die de deur uit gaat, of alleen veranderen wat daarna gebeurt? Deze pagina gebruikt mens in de lus voor het eerste en mens op de lus voor het tweede.

Mens op de lus is op deze site een benoemde monitor die de volgende run kan stoppen nadat hij deze heeft gezien. Mens in de lus is een benoemd persoon die deze run kan afkeuren voordat die vertrekt. Mens in de lus betekenis behandelt de in-de-lus-definitie. Deze pagina behandelt het onderscheid huidige run versus volgende run.

Deze splitsing is huisgebruik. Het is geen IEEE-standaard. Gebruikt een leveranciersslide de zinnen andersom, vraag welke run de persoon echt kan afkeuren.

De grijptest

Sta in de kamer en vraag: kan deze persoon het vel stoppen dat nu wordt gedrukt?

Zo ja, met geschreven criteria en een naam, dan heb je in-de-lus. Kan hij alleen een hendel overhalen nadat het vel is gestapeld, dan heb je op-de-lus. Is niemand benoemd, dan heb je geen van beide.

Classificeer de rol op het moment van ingrijpen, niet op het dashboard dat hij bewaakt. Kan de huidige uitvoer de deur uit voordat die persoon handelt, dan zit hij niet in de poort van deze run; hij kan nog wel de volgende run sturen.

Botsingsbeheer

Geen synoniem. HITL is op deze site in-de-lus. Op-de-lus is de zwakkere monitor.

Geen override doctrine. Override doctrine is wat de agent nooit mag. De lus is wie het kan stoppen. Andere objecten.

Niet de agent. Wat is een AI-agent? behandelt de werker.

Wat deze pagina niet is

Geen standaardbrief. Geen leveranciersbegrippenlijst. Niet het volledige HITL-vak.

Schrijf welke run de benoemde persoon kan afkeuren. Is het antwoord “de volgende,” dan zit je op de lus. Noem dat geen in de lus meer.

Begrippen

Bronnen

  1. Mens in de lus betekenis
  2. Override doctrine
  3. Wat is een AI-agent?
  4. Mens in de lus (begrippen)

Verder lezen

Markdown voor LLMs