Fireworks meldt datalek met klantdata en onvolledige modelgewichten

Fireworks meldt op 9 november dat aanvallers via een R&D-ontwikkelomgeving account- en factuurgegevens konden bereiken, plus bij een beperkte groep secrets, datasets en onvolledige modelgewichten.

Voor klanten verandert vooral de vraag welke informatie zij bij Fireworks hadden opgeslagen en welke sleutels of bestanden volgens hun accountmelding zijn geraakt. Dat raakt organisaties die daar modellen trainen of datasets klaarzetten voor batch inference. De extra toegang liep via een ontwikkelomgeving, terwijl Fireworks vooralsnog geen impact op de Inference-dienst heeft vastgesteld. De openbare melding noemt geen klantnamen of aantallen.

De extra toegang liep via Fireworks’ R&D-machines

Op 6 oktober ontdekte Fireworks ongeautoriseerd gebruik van interne toegangsgegevens. Secrets uit evaluatietaken, waaronder API-sleutels en tokens, waren in een beperkt aantal klantaccounts ingezien. De eerste bulletin van 9 oktober meldde dat Fireworks toen geen aanwijzingen had voor toegang tot klantmodellen, datasets, trainingsdata, prompts, uitvoer of persoonsgegevens binnen de eigen platformomgeving.

De update voegt een tweede toegangspad toe. Een niet nader genoemde cloudleverancier die Fireworks’ R&D-machines hostte, kreeg op 23 oktober zelf een beveiligingsincident. De volgende dag gebruikte een onbevoegde partij die omgeving om Fireworks-ontwikkelmachines te bereiken en een ongeautoriseerde workload te starten. Fireworks zegt dat die activiteit tot extra impact op klantdata leidde. Fireworks ontdekte dit op 24 oktober en sloot bekende kritieke kwetsbaarheden.

Fireworks meldt dat het op 25 oktober geen verder bewijs van geslaagde toegang tot het klantplatform had gevonden. Het bedrijf noemt de hostingpartij en het aantal accounts niet. Het onderzoek loopt nog, dus de huidige afbakening kan veranderen.

Factuurgegevens, datasets en secrets vragen elk om een andere controle

De getroffen interne toepassing gaf toegang tot resourcegegevens zoals identificatienummers, namen, beschrijvingen en aanmaaktijdstippen, plus factuur- en verzendadressen, betalingsgeschiedenis, openstaand saldo en verbruikte credits. Fireworks zegt dat het geen betaalkaartnummers bewaart en dat die dus niet zijn geraakt.

Voor bepaalde klanten is ook een deel van datasets en onvolledige modelgewichten benaderd. In de update noemt Fireworks daarnaast secrets voor een beperkte groep accounts. Het bedrijf specificeert niet welke datasets, modelversies of secretwaarden dat zijn. Fireworks zegt klanten van wie data is geraakt rechtstreeks te informeren met accountgebonden details en aanbevolen acties.

Bij een eerdere AI-dienstmelding konden provider-API-sleutels van OpenCode Console mogelijk zijn ingezien terwijl misbruik niet was bevestigd. Fireworks meldt nu daadwerkelijk toegang tot bepaalde opgeslagen gegevens, maar publiceert de omvang per klant niet. De eerste Fireworks-bulletin vraagt direct aangeschreven klanten om genoemde sleutels bij de uitgever in te trekken en te vervangen. Ook moeten zij gebruikslogs en resources controleren. Alleen een secret uit de Fireworks-omgeving verwijderen maakt de sleutel bij de oorspronkelijke provider niet ongeldig, zo staat in dezelfde bulletin.

Fireworks ziet vooralsnog geen impact op drie diensten

Fireworks zegt vooralsnog geen impact te hebben vastgesteld op Inference, Training SDK en Nexus. Deze diensten gebruiken volgens het bedrijf standaard zero data retention. Voor de Training SDK betekent dat volgens de update dat trainingsdata niet blijvend wordt opgeslagen. ZDR slaat hier op die productdiensten. Dezelfde update meldt resource- en factuurinformatie in een interne toepassing en toegang tot bepaalde datasets en modelgewichten.

Tijdens het onderzoek heeft Fireworks zelfbedieningsuploads en downloads van datasets voor Batch Inference en datasetgebaseerde training uitgezet. De Training SDK blijft beschikbaar met zero data retention. Training via Fireworks Lab draait volgens het bedrijf in een geïsoleerde omgeving met extra netwerk- en opslagbeveiliging. Organisaties die datasets via de geblokkeerde overdrachtsroutes in hun werkproces gebruiken, kunnen daardoor hun invoer of uitvoer tijdelijk niet via die functies verplaatsen.

Die verschillen zijn relevant bij het nalopen van een accountmelding: een dienst kan buiten de tot nu toe gevonden impact vallen, terwijl data voor een andere trainingsroute wel is opgeslagen. Fireworks zegt dat de conclusies gelden op basis van het onderzoek tot nu toe en dat later meer informatie kan volgen.

LLMjacking maakt modeltoegang ook een kostenrisico

Fireworks zegt dat het bewijs wijst op een financieel gemotiveerde groep die ongeautoriseerde toegang tot grote taalmodellen via illegale routeringsgateways wil verkopen. Het bedrijf noemt die praktijk LLMjacking. Google Threat Intelligence Group en Mandiant beschrijven een vergelijkbaar verdienmodel in hun onderzoek van 2 november: bij afzonderlijke incidenten liepen ongeautoriseerde cloudkosten boven $100.000 op één dag uit en bereikten cumulatieve kosten bij sommige organisaties $1 miljoen voordat toegang werd ingetrokken.

Hetzelfde onderzoek noemt een illegale gateway, Jet Night, die meer dan 500.000 modelverzoeken in minder dan acht uur verwerkte. De grafiek toont een piek van circa 1.100 verzoeken per seconde. Mandiant beschrijft LLM Mixers die gestolen sleutels bundelen, verzoeken doorsturen en de herkomst verhullen.

Die bedragen komen uit andere onderzochte incidenten. De Fireworks-update noemt geen vergelijkbare klantrekening en bevestigt niet dat tokens uit deze inbraak zijn doorverkocht. De vergelijking plaatst dit incident in de context van gestolen modeltoegang, maar bepaalt niet welke schade Fireworks-klanten opliepen.

De update laat zien dat een incident bij de ontwikkelketen van een AI-leverancier kan doorwerken naar opgeslagen datasets en onvolledige modellen. Fireworks zegt getroffen klanten rechtstreeks te informeren en het onderzoek voort te zetten, zonder een datum voor de volgende update te noemen. Welke accounts en bestanden zijn geraakt, blijft daarmee afhankelijk van de individuele klantmelding en het vervolgonderzoek.