Venture Building Onderzoeksartikel

Bevestiging is geen bronnentelling

Vijf links kunnen op één en hetzelfde resultaat teruggaan. De vraag is of afzonderlijke paden dezelfde bewering ondersteunen.

Eén kleine stormlamp op de houten vloer van een donkerviolette kamer; de enige vlam keert terug in tientallen antieke vergulde spiegels van allerlei vormen die aan de muren hangen en ertegenaan leunen, in indigo en amber
De kamer lijkt vol lichtjes. Ze komen allemaal van één lamp op de vloer.

Direct antwoord

Corroboratie, of onafhankelijke bevestiging, betekent wezenlijke steun voor dezelfde scherp afgebakende bewering vanuit bewijspaden die verschillen op punten die voor die bewering van belang zijn. Vijf artikelen die één enquête herhalen, zijn vijf documenten maar één bewijslijn. Controleer wat elke bron werkelijk zegt, ga na waar het feit vandaan komt en benoem de relatie. Alleen convergentie, afzonderlijke paden die op dezelfde bewering uitkomen, kan meetellen voor corroboratie; herhaalde rapportage niet. Leg gedeelde en onbekende afhankelijkheden vast in een korte afhankelijkheidsnotitie, niet in een onafhankelijkheidsscore. Verschillende URL's en uitgevers bewijzen geen onafhankelijkheid, en evenmin dat de bewering klopt.

Vijf artikelen over één enquête vormen één bewijslijn voor de uitkomst, hoeveel uitgevers het bericht ook overnemen. De vijf documenten kunnen allemaal echt zijn. Ze kunnen de enquête correct citeren. Toch levert hun overeenstemming geen vijf onafhankelijke controles op.

Dat is de stille fout achter “meerdere bronnen bevestigen dit” in een strategiememo of een presentatie voor het bestuur. Die zin telt links, terwijl je besluit afhangt van wat het feit achter die links heeft voortgebracht. Onafhankelijke bevestiging, in het boek corroboratie, vraagt om wezenlijke steun voor dezelfde scherp afgebakende bewering vanuit bewijspaden die verschillen op punten die voor die bewering van belang zijn. Tel dus oorsprongen en paden, geen URL’s.

Wanneer zijn vijf bronnen er eigenlijk één?

Een geciteerde bron is een document dat je kunt openen en nalezen. Een bewijsgenererend pad begint eerder: bij een enquête, transactiegegevens, een praktijkproef, een wettekst, een gebeurtenis of een dataset. Vandaar loopt het via de meet-, analyse- en rapportagestappen waarlangs een bewering op papier komt. Een blog en twee nieuwsbrieven die één enquêtebericht herhalen, voegen documenten toe, geen tweede meting.

Hoofdstuk 10 van De geverifieerde research-loop geeft het verschil een naam. Bij herhaalde rapportage nemen meerdere documenten één eerdere bewering of aankondiging over. Bij convergentie komen afzonderlijke bewijsgenererende paden in een verenigbare richting uit op dezelfde bewering. Alleen convergentie kan meetellen voor corroboratie.

Het schoolvoorbeeld in het boek komt niet uit het bedrijfsleven, maar uit de inlichtingenwereld. De WMD-commissie stelde in 2005 vast dat bijna honderd rapporten van één bron, met de codenaam Curveball, de vooroorlogse beoordeling van Iraakse mobiele laboratoria voor biologische wapens domineerden. Ze waarschuwde dat inlichtingen delen zonder de onderliggende brongegevens kan leiden tot circulaire rapportage en schijnbevestiging. Hoofdstuk 10 noemt dit herhaalde rapportage die voor convergentie werd aangezien. Het gaat om één onderzoek naar één keten, niet om bewijs voor hoe vaak dit patroon voorkomt. Wat de zaak wel laat zien, is het mechanisme: een bewering kan via meerdere kanalen binnenkomen en toch op één oorsprong rusten.

Waarom zijn onafhankelijk ogende bronnen het zo makkelijk eens?

Omdat onafhankelijkheid geen ja-nee-stempel is die aan een uitgever vastzit. Hoofdstuk 6 noemt negen dingen die bronnen kunnen delen (de voorbeelden zijn van mij):

  • Ruwe data of deelnemers: één klantcohort of groep respondenten.
  • Een meetinstrument of codeerregel: dezelfde enquêtevraag of drempelwaarde.
  • Een analysemethode of modelaanname: dezelfde nulmeting of hetzelfde prognosemodel.
  • Een oorspronkelijk document, aankondiging of gebeurtenisverslag: één persbericht of officieel stuk.
  • Auteurs, redacteuren, adviseurs of instellingen: één adviesbureau.
  • Financiering, commerciële prikkels of zeggenschap: het belang van één opdrachtgever.
  • Een rapportage- of doorplaatsingsketen: nieuwsoverzichten die een eerder bericht overnemen.
  • Een zoeksysteem, model, index of bewerking: één zoekindex of samenvattingslaag.
  • Een breder vakgebied of een hervormingsbeweging: aannames die iedereen in het vak vanzelfsprekend vindt.

Hoofdstuk 10 voegt eraan toe dat twee studies verschillende mensen kunnen onderzoeken en toch een gebrekkige meting kunnen delen, en dat twee analisten verschillende modellen kunnen gebruiken en toch op één dataset van een leverancier kunnen leunen. Dat levert drie goedkope vormen van overeenstemming op:

  1. Eén persbericht, veel media is herhaalde rapportage: vijf URL’s, één aankondiging.
  2. Twee modellen op één dataset is een heranalyse. Die toetst de methode, niet de data, en een selectiefout in de data komt in beide terecht.
  3. Twee datasets, één te ruime maatstaf kunnen samen de mist ingaan. Twee teams die verschillende winkeliers vragen of prognoses nuttig zouden zijn, delen hetzelfde gat zodra jouw besluit draait om de vraag of ze willen betalen.

Is dit hetzelfde probleem als een nepcitatie?

Nee. De check op nepcitaties van AI toetst de twee beweringen die een bronvermelding doet: dit document bestaat, en dit staat erin. Een verzonnen verwijzing zakt voor de eerste toets. Een echt artikel dat wordt aangehaald voor iets wat er niet in staat, zakt voor de tweede.

Dit artikel gaat over bronnen die voor allebei slagen. De zwakte zit eerder in de keten: ze zijn het eens omdat ze één oorsprong delen. Een controle van bronvermeldingen beoordeelt elk document op zichzelf. Ze laat niet zien dat vier documenten het vijfde naspreken, of dat dat vijfde iets smallers heeft gemeten dan de kop beweert.

Die check sluit af door je belangrijkste bewering naast onafhankelijk bewijs te leggen. Dit artikel neemt die laatste stap uit elkaar. In de Value-stap van LEVEL stel je dezelfde vraag: zijn drie bronnen eigenlijk één?

Wat moet kloppen voordat overeenstemming telt?

Schrijf de exacte bewering uit voordat je vraagt of bronnen het erover eens zijn. Haal je de voorbehouden weg voor een strakkere titel op een dia, dan lijken bronnen die verschillende vragen beantwoorden elkaar ineens te bevestigen.

Hoofdstuk 6 houdt twee dingen uit elkaar:

  1. Claimcapsule: de bewering met de voorwaarden waaronder ze waar is: entiteit of populatie, context, periode, land of rechtsgebied, methode of autoriteit, vergelijking, uitkomst en noemer, onzekerheid, en hoe ver je de uitkomst mag doortrekken.
  2. Besluitvertaling: de afgebakende conclusie of aanbeveling die het team uit die capsule wil trekken.

“Winkeliers vonden prognoses nuttig” legt een houding vast. “Veertig procent van de zelfstandige Nederlandse winkeliers zal € 49 per maand betalen” voorspelt een transactie tegen een vaste prijs in een landelijke populatie. “Twaalf winkeliers in een voorjaarspilot betaalden € 29 per maand” beschrijft een kleinere gebeurtenis uit het verleden. Zet je ze alle drie onder het kopje “Sterke vraag, bevestigd door meerdere bronnen”, dan heb je de overeenstemming zelf gemaakt, met slordige formuleringen. Splits eerst de capsules.

Geef daarna elke bron een eigen rij. Een bewijsregister heeft één rij per claim; hoofdstuk 6 hangt daar per bron een eigen relatierij onder. Staan er meerdere bron-ID’s in één cel, dan kan geen beoordelaar nog zien welk document welk dragend detail leverde.

Vervolgens benoemt hoofdstuk 10 hoe de paden zich tot elkaar verhouden. De regel: label de relatie voordat je iets telt.

RelatieWat ze bijdraagtTelt mee voor corroboratie?
Convergentie (Convergence)Een afzonderlijk bewijspad komt in een verenigbare richting uit op dezelfde afgebakende bewering.Mogelijk, als je hebt nagegaan of de paden bij de claim passen en wat ze delen.
Divergentie (Divergence)Een vergelijkbaar of deels vergelijkbaar pad levert een wezenlijk ander resultaat of een andere interpretatie op.Nee; houd de spanning zichtbaar en zoek uit waar ze vandaan komt.
Complementariteit (Complementarity)Een bron beantwoordt een ander noodzakelijk deel van de bredere vraag.Nee; de delen doen ander werk.
Heranalyse (Reanalysis)Een andere analyse gebruikt dezelfde onderliggende data, eventueel met andere methoden of uitkomstdefinities.Nee; dezelfde data, een andere methode.
Herhaalde rapportage (Repeated reporting)Een ander document neemt één eerdere bewering of aankondiging over.Nee; leg de rapportageketen vast.
Context (Context)Een bron zegt iets over mechanisme, geschiedenis, definities of prikkels.Nee; ze bevestigt de bewering niet.

Zelfs convergentie telt niet vanzelf mee: je legt nog steeds vast hoe goed elke bron bij de claim past en waar de bronnen onafhankelijk zijn. Een regel en een logboek uit de praktijk kunnen verschillende delen van dezelfde vraag beantwoorden, maar wie ze twee bevestigingen noemt, geeft een verkeerd beeld van wat elk laat zien.

Uitgewerkt voorbeeld: vijf bronnen, één enquête

Hypothetisch voorbeeld. In de memo van een oprichter staat: “Veertig procent van de zelfstandige Nederlandse winkeliers zal € 49 per maand betalen voor dagelijkse voorraadprognoses.” De memo verwijst naar vijf documenten, S-RET-001 tot en met S-RET-005. Het bedrijf, de enquête, de pilot, de documenten en de cijfers zijn verzonnen; niets hiervan is marktbewijs.

Elke link werkt, en elk document noemt de 40 procent ongeveer zoals de memo dat doet. Wie de bronvermeldingen één voor één naloopt, ziet ze dus allemaal slagen. Dan zoekt de oprichter uit waar elk document het getal vandaan heeft, en vraagt de leverancier om de vragenlijst achter S-RET-001:

Bron-ID en documentWat erin staatWaar het cijfer vandaan komtRelatielabel
S-RET-001 Enquêtebericht leverancier”40% van de zelfstandige winkeliers wil € 49 per maand betalen voor dagelijkse prognoses”Eigen enquête van de leverancier onder de eigen mailinglijst; de vragenlijst vroeg alleen of dagelijkse prognoses “nuttig” zouden zijn en noemde geen prijsOorsprong van het cijfer; de meting past bij nut, niet bij betalen tegen € 49
S-RET-002 Productblog leverancierBrengt de kop als bewijs van koopbereidheidCiteert S-RET-001; zelfde bedrijf en productnieuwslijnHerhaalde rapportage
S-RET-003 Vaknieuwsbrief AVat het blog samen voor een vakpubliek in de detailhandelCiteert S-RET-002Herhaalde rapportage
S-RET-004 Vaknieuwsbrief BCiteert het blog en het hoofd verkoop van de leverancierCiteert S-RET-002; het interview voegt de mening van de verkoper toe, geen kopersdataHerhaalde rapportage
S-RET-005 AnalistenpresentatieNoemt “40% vraag in de detailhandel bij € 49” in een grafiek over marktomvangVoetnoot verwijst naar S-RET-003Herhaalde rapportage

De oprichter vindt ook S-RET-006: facturen uit een pilot van drie maanden in het voorjaar, georganiseerd door een regionale winkeliersvereniging, waarin twaalf winkeliers een verlaagd tarief van € 29 per maand betaalden. Teken je de herkomst van oorsprong naar document, dan zie je twee oorsprongen, geen zes:

[Enquête leverancier: vragenlijst, mailinglijst]
  -> S-RET-001 enquêtebericht
       -> S-RET-002 productblog
            -> S-RET-003 nieuwsbrief A
                 -> S-RET-005 analistenpresentatie
            -> S-RET-004 nieuwsbrief B

[Facturen pilot vereniging]
  -> S-RET-006 pilotfacturen

Vijf documenten blijken op één enquête terug te gaan, en die enquête vroeg of prognoses nuttig zouden zijn, niet of iemand € 49 per maand zou betalen. Vier keer overnemen veranderde niets aan de vraag of aan de respondenten.

S-RET-006 komt voort uit een andere gebeurtenis, betaalde facturen tijdens een regionale proef, en is dus geen herhaalde rapportage. Maar twaalf winkeliers in één regio, met korting en geworven via een lijst die nergens is vastgelegd, ondersteunen een bewering over die pilot. Convergentie voor de landelijke bewering leveren ze niet.

Hoe zou convergentie eruitzien? Afzonderlijke paden die elk langs hun eigen route meten of winkeliers € 49 betalen, zoals een aanbod tegen die prijs aan een steekproef van winkeliers uit het Handelsregister van de KVK en een pilot tegen het volle tarief met een vastgelegde wervingslijst. Ook dan komt de afhankelijkheidsnotitie vóór het label Corroborated.

De herstelde memo vervangt “Vijf bronnen bevestigen dat 40% € 49 per maand wil betalen” door: “Het cijfer van 40% heeft één oorsprong, een enquête van de leverancier onder de eigen mailinglijst (S-RET-001) die vroeg of dagelijkse prognoses nuttig zouden zijn en geen prijs noemde; vier documenten herhalen dat. Afzonderlijke facturen (S-RET-006) laten zien dat twaalf winkeliers in een regionale pilot een verlaagd tarief van € 29 per maand betaalden. Geen van beide toont een landelijke betalingsbereidheid van € 49 per maand aan.”

Wat hoort er in een afhankelijkheidsnotitie?

Hoofdstuk 10 waarschuwt dat het oude label “onafhankelijkheidsgroep” te veel verbergt, en vraagt in plaats daarvan om een herkomstkaart. Noteer voor elke rij bij een claim waar je besluit op rust: de bewijsgenererende eenheid, data of deelnemers, meting of methode, aannames of model, auteurs en zeggenschap, financiering en prikkels, het rapportagepad en eventuele bewerkingen of hulpmiddelen. Schrijf daarna de afhankelijkheidsnotitie uit het boek:

Deze relaties verschillen in [dimensies] en delen [dimensies]; de gedeelde dimensie is voor de claim van belang omdat [reden]; de resterende onzekerheid is [wat open blijft].

Voor de hypothetische winkeliersclaim:

S-RET-001 tot en met S-RET-005 verschillen in vorm en kanaal en delen één enquête met vragenlijst die de leverancier beheert; die gedeelde enquête is voor de claim van belang omdat ze ervaren nut mat onder de eigen contacten van de leverancier, niet de bereidheid om € 49 te betalen; S-RET-006 is een afzonderlijke reeks betalingen tegen een andere prijs en in een andere groep, en de resterende onzekerheid is of de leverancier de wervingslijst voor de pilot heeft aangeleverd.

Twee regels houden de notitie eerlijk:

  1. Markeer onbekende herkomst als onbekend (unknown), nooit als onafhankelijk. Volgens hoofdstuk 10 kan een herkomstkaart schijnzekerheid geven wanneer onbekende afhankelijkheden als afwezig worden getekend: vermeldt een rapport geen dataset, opdrachtgever of steekproefkader, dan is dat lege veld geen onafhankelijkheid. De getypeerde checkstaten uit hoofdstuk 6 (Not yet checked, Searched not found, Inaccessible, Outside scope, Unknown universe, Specialist-owned) houden het gat zichtbaar.
  2. Houd de samenvatting van het bewijs los van het besluit. In TRACE is de relatiesamenvatting Corroborated, Partial, Unresolved of Conflicting. Corroborated vraagt om wezenlijke steun over herkomstlijnen heen die voor de afgebakende bewering als voldoende verschillend zijn beoordeeld, en dat kunnen vijf berichten over één enquête niet leveren. Het besluit ligt bij een benoemde eigenaar; voor een kritieke claim die onopgelost is of wezenlijk in conflict, is de standaarddispositie HOLD. Risico accepteren verandert het actierecord, maar maakt van Partial nooit Corroborated.

Wat is TRACE? loopt alle vijf de stappen door. Het boek zegt er zelf uitdrukkelijk bij dat niet direct is aangetoond dat TRACE de nauwkeurigheid of de besluitkwaliteit verbetert.

Probeer dit vandaag (30 minuten)

Kies één bewering in een lopende memo of presentatie die leunt op “meerdere bronnen bevestigen dit”. Dertig minuten is een tijdsbudget voor de planning, geen gemeten duur; is de tijd op, noteer dan wat nog openstaat.

  1. Schrijf de claimcapsule uit. Neem de exacte zin over en noteer welke populatie, regio, periode, maatstaf, vergelijking en welk getal die zin vereist.
  2. Geef elke bron een eigen rij. Open elk geciteerd document, zoek de exacte pagina of tabel op en noteer wat daar staat, met de voorbehouden erbij. Markeer wat je niet kunt openen als Inaccessible.
  3. Volg elk cijfer één of twee stappen terug. Vraag je af uit welke enquête, dataset, transactiegegevens, regeltekst of welk persbericht het komt. Groepeer de rijen per oorsprong. Leidt alles naar één oorsprong, leg dat dan vast in plaats van er voor de vorm een tweede bron bij te zoeken.
  4. Label elke relatie. Gebruik Convergence, Divergence, Complementarity, Reanalysis, Repeated reporting of Context.
  5. Schrijf een afhankelijkheidsnotitie van één regel. Zeg wat de bronnen delen en waarom dat voor deze bewering uitmaakt, en markeer wat je niet kon herleiden als unknown. Leg de samenvatting van het bewijs los van het besluit vast, met een eigenaar en een volgende controle.

Citeer deze pagina:Bevestiging is geen bronnentelling.Len P. van der Hof. https://lenvanderhof.com/nl/blog/bevestiging-is-geen-telling/ ·

Bronnen

  1. De geverifieerde research-loop
  2. TRACE-framework
  3. Nepcitaties van AI: een check van 15 minuten voor de beweringen die ertoe doen
  4. Wat is TRACE? In vijf stappen onderzoek controleren voordat je handelt
  5. Wat is een bewijsregister?
  6. Wat is LEVEL? Een check in vijf stappen voordat je op een bewering afgaat

Verder lezen

Markdown voor LLMs