Calibrated Collective Oversight (CCO)

behaalde 11,1 procent ongewenste uitkomsten met GPT-5.4 in de OpenReview-versie van het paper

“In de OpenReview-versie van het paper kwam CCO met GPT-5.4 als sterk model en een doel van 10 procent in een fase met meer risicovolle gevallen uit op 11,1 procent ongewenste uitkomsten”

is getest op een aangepaste versie van SWE-bench en MACHIAVELLI

“De aanpak is getest op een aangepaste versie van SWE-bench voor softwaretaken en op MACHIAVELLI, een omgeving waarin agents afwegen hoe ze een taak uitvoeren zonder ethische grenzen te overschrijden.”

bundelt signalen van meerdere zwakkere menselijke of AI-toezichthouders

“Calibrated Collective Oversight bundelt signalen van meerdere zwakkere menselijke of AI-toezichthouders en verhoogt de terughoudendheid van de agent wanneer die signalen samen risico aangeven.”