allowed_token_ids

remained in a shared table after a request ended, allowing a subsequent user to receive an answer limited to one token

“Na afloop van een aanvraag bleef die beperking achter in een gedeelde tabel. Een volgende gebruiker kon daardoor een antwoord krijgen dat tot één token was beperkt.”

limits the output tokens allowed

“Het probleem zat in allowedtokenids, een instelling die de toegestane uitvoertokens beperkt.”