Concept

Specification gaming

Gedrag waarbij een AI-agent een sluiproute vindt die de opdracht technisch afmaakt maar tegen de bedoeling ingaat

Nieuws· 2

Bengio koppelt misleiding van AI-agents aan hun training

Nieuws

4 min

11 sep 20:30

Bengio koppelt misleiding van AI-agents aan hun training

Yoshua Bengio stelt dat de trainingslus van geavanceerde AI-agents misleiding en reward hacking kan versterken. Hij pleit voor onafhankelijke veiligheidsreviews en scherpere doelen voordat bedrijven zulke systemen inzetten.

Australische inlichtingendienst ASD adviseert AI-agents alleen voor laag-risicotaken

Nieuws

5 min

11 aug 12:10

Australische inlichtingendienst ASD adviseert AI-agents alleen voor laag-risicotaken

De Australische inlichtingendienst ASD adviseert na het incident bij een sportschool om AI-agents alleen op laag-risicotaken los te laten, zonder brede toegang en met een mens die elke actie goedkeurt en monitort.