ZenDNN 6.0

targets MoE, attention and quantization for inference on fifth-generation EPYC

“MoE, attention en quantisatie zijn bedoeld voor inferentie op de vijfde generatie.”

targets FP16 paths at sixth-generation EPYC

“De FP16-paden zijn gericht op de zesde generatie EPYC”

adds FP16 paths for MatMul, BatchMatMul and Embedding and names fused MoE operations, attention kernels and quantization

“ZenDNN 6.0 voegt FP16-paden toe voor MatMul, BatchMatMul en Embedding en noemt gefuseerde MoE-bewerkingen, attention-kernels en quantisatie”