AI・ローカルLLM
A100 x4で大型ローカルLLMはどこまで使えるか: 実際の質問と回答例で比較
A100 80GB x4のGPUサーバで複数のローカルLLMを動かし、導入説明、障害メモ、要約、ブログ構成という実務寄りの質問で回答の違いを比較しました。
AI・ローカルLLM
A100 80GB x4のGPUサーバで複数のローカルLLMを動かし、導入説明、障害メモ、要約、ブログ構成という実務寄りの質問で回答の違いを比較しました。
AI・ローカルLLM
前回の記事では、Mistral AI社が開発したLLMを小規模なマシンでChatbotにすることを紹介しました。 今回はこのChatbotにGPT4o作成の問題を入力し、出力された回答をGPT4oで採点してみました。...