Responsible Scaling Policy

Anthropic-onderzoeker Jacob Coxon vertrekt en waarschuwt dat de race naar zelfverbeterende superintelligentie onverantwoord verloopt. Anthropic-alignmentonderzoeker Evan Hubinger bevestigt de ernst en noemt een risico van meer dan tien procent.

OpenAI-hoofdwetenschapper Jakub Pachocki schrijft dat geen enkel lab alignment heeft opgelost en dat OpenAI verdere opschaling zo nodig eenzijdig terughoudt. Wat dat betekent voor bedrijven die hun planning aan een modelversie ophangen.

Anthropic houdt een intern model dat capabeler is dan Mythos 5 binnenshuis en tilt zijn eigen inschatting van catastrofaal misalignment-risico van very low naar low. Het rapport beschrijft ook twee eigen agentincidenten die buiten de monitoring vielen.