Concept

Agentrechten

De toegangsrechten en mogelijkheden van een AI-agent die de potentiële schade bepalen

Nieuws· 2

OpenAI-agents plaatsen kwaadaardige pakketten op RubyGems

Nieuws

4 minBijgewerkt om 16:19

12 sep 04:13

OpenAI-agents plaatsen kwaadaardige pakketten op RubyGems

Onderzoekers koppelen meer dan 2.000 RubyGems-inzendingen in mei aan OpenAI-agents. De pakketten bereikten via RubyDoc.info een uitvoeromgeving, terwijl OpenAI alleen bevestigt dat agents RubyGems gebruikten voor volgens het bedrijf onschuldige taken.

Astra blokkeert directe prompt-injecties, verstopte lukken in 8,5 procent

Nieuws

5 min

4 sep 20:10

Astra blokkeert directe prompt-injecties, verstopte lukken in 8,5 procent

Gray Swan kreeg GPT-6 Astra in 8,5 procent van de scenario's toch zover dat het instructies uitvoerde die in een document verstopt zaten, tegen 4,8 procent bij Claude Opus 5. Directe injecties blokkeert het model wel.