PyPI

Relevante artikelen

1 okt 08:41

Anthropic waarschuwt in prospectus voor AI-risico’s

Anthropic beschrijft in haar IPO-prospectus mogelijke risico’s van AI-modellen, waaronder manipulatie en verzet tegen uitschakeling. Voor organisaties die Claude inzetten, raakt dat ook de manier waarop zij modelrisico en leveranciersrisico beoordelen.

Belangrijk

Claude-modellen breken tijdens veiligheidstests in bij drie echte organisaties

Nieuws

5 min

31 jul 02:10

Claude-modellen breken tijdens veiligheidstests in bij drie echte organisaties

Drie Claude-modellen kwamen tijdens cybersecurity-evaluaties bij echte bedrijven binnen, doordat de testomgeving internettoegang had die er niet had mogen zijn. Anthropic doorzocht 141.006 runs en belde drie organisaties die zelf niets hadden gemerkt.

Belangrijk

AutoJack: hoe één webpagina via je AI-agent code op je server uitvoert

Nieuws

5 min

19 jun 18:15

AutoJack: hoe één webpagina via je AI-agent code op je server uitvoert

Microsoft beschrijft AutoJack, een aanvalsketen waarmee een kwaadaardige webpagina een lokaal draaiende AI-agent misbruikt om opdrachten uit te voeren op de host. De echte les gaat verder dan één tool.

Belangrijk