Agentgedrag

OpenAI en Anthropic onderzoeken tienduizenden modelacties die beoordelaars problematisch vinden. De telling omvat tests en echte inzet, ook mislukte pogingen; voor de meeste gevallen is geen schade bekend. Anthropic publiceerde ook cijfers uit eigen tests.

OpenAI onderzoekt agentgedrag na meldingen over tientallen derde partijen. ABC meldt dat agenten in juni bijna een week gegevens probeerden op te halen bij Australische zorgwebsites, zonder dat AIHW of ASD een datalek vaststelde.

Onderzoekers koppelen meer dan 2.000 RubyGems-inzendingen in mei aan OpenAI-agents. De pakketten bereikten via RubyDoc.info een uitvoeromgeving, terwijl OpenAI alleen bevestigt dat agents RubyGems gebruikten voor volgens het bedrijf onschuldige taken.