構築・運用
IPMI（BMC）のパスワードがわからない、または忘れた場合の対策
IPMIのパスワードがわからない、または忘れた場合は、ipmitoolを使って新しいパスワードを設定するのが最短の対策です。 sudo ipmitool user list を実行します。ipmitoolがインストールされていない場合は、sudo apt install ipmitool...
Kenetsu Hanabusa
AI・ローカルLLM
大規模言語モデルMistral-NeMoにGPT4o作成の問題を回答させ、GPT4oで採点してみた
前回の記事では、Mistral AI社が開発したLLMを小規模なマシンでChatbotにすることを紹介しました。 今回はこのChatbotにGPT4o作成の問題を入力し、出力された回答をGPT4oで採点してみました。...
AI・ローカルLLM
大規模言語モデルMistral-NeMoの推論能力を試す
GeForce RTX 4080 Super *2のマシンにMistran AI社のMistral-NeMoをインストールしてChatbotを動作させ、その能力を試しています。 今回は推論能力を試してみましょう。前回と同様、GPT4oで問題を作成し、採点もGPT4oで行いました。...
AI・ローカルLLM
GeForce RTX 4080 Super * 2のワークステーションにMIstral-NeMoをインストールしてChatを楽しむ
MIstral-NeMoはMIstral AI社が開発した12Bの大規模言語モデル（パラメーターの数が120億個）です。多言語で訓練されていますので、日本語でのやりとりも問題ありません。比較的入手が容易でそこまで高価でないGeForce RTX 4080...
HPC・科学計算
今年４月にリリースされたubuntu 24.04 LTSを使いHPC Clusterを構築する
この記事は未完成です。完成まで少しお待ちください。 今年４月にリリースされたUbuntu 24.04 LTSを使いHPC Clusterを構築します。この記事を書くに至った理由は次のとおりです。 私のお客様でHPC Clusterをお使いの方は何人かいらっしゃいますが、その中にCentOS 6.3の時代にHPC...
HPC・科学計算
SlurmをインストールしてGPU使用のジョブをスケジューリングする
以前の記事ではGPUがない場合の、Slurmのインストールと設定と使用方法を解説しましたが、この記事では8GPUのサーバーにSlurmのインストールと設定を行います。設定ファイルの自動生成のスクリプトの紹介も行っていますので、これを使えばGPUサーバーでのSlurmの設定も簡単に行うことができます。その後、tf...
ベンチマーク・検証
RTX4090を4枚でgpu burnした時の消費電力とSmart Power
消費電力が最大級のgpu、RTX4090を4枚でgpu burnすると消費電力はどのくらいになるのかIPMIから確認してみました。 使用したマシンはSupermicroのSYS-741GE-TNRT、CPU: 2 * Intel Xeon Silver 4110T TDP 150W、Memory : 16 *...
構築・運用
IPMIについて
IPMIとは IPMI（Intelligent Platform Management...
構築・運用
Desktopの解像度を上げる
最近のサーバーでオンボードVGAを使用した場合、解像度が1024x768以上に上らない場合があります。これでは不便なので、解像度を上げる方法を試してみます。
HPC・科学計算
JOB Scheduler Slurmのインストールと使い方
JOB Schedulerの中でHPC環境で非常に人気のあるSlurmのインストールlと設定を行い、Intel MPIのジョブを流してみます。OSはUbuntu...
GPUサーバー・ハードウェア
8GPUサーバー(4th Gen Intel® Xeon® Scalable processors 2CPU)の紹介
前回も8GPUサーバーの紹介をしましたが、今回は4th Gen Intel® Xeon® Scalable processorsを2CPU搭載する8GPUサーバーを紹介します。CPUコア数は最大112、メモリスロット数は32で、128GB DIMMを搭載すると4TB実装可能です。M.2 SSDが2枚、2.5"...
GPUサーバー・ハードウェア
RTX4090 8GPUサーバーの紹介
GeForce RTX 4090はRTX A6000などと比較して、物理的サイズが非常に大きく、かつ消費電力も450Wと大きいため、RTX4090を8GPU搭載可能なサーバーの構築は困難と考えられますが、この記事では弊社が販売しているRTX4090を8GPU搭載可能な、AMD Epyc Genoa...