GPUベンチマーク

LLM

GLM-5.3 Flashの3ビットと4ビットを比較：RTX PRO 6000 Max-Q×2、llama.cppの速度と回答品質

RTX PRO 6000 Blackwell Max-Q 96GB×2で、GLM-5.3 Flashの3ビット・4ビットをMTPなし／ありで実測。生成速度、25.8万トークンの長文処理、同じ16問の回答品質を比較します。