HOT ! P40 24Gカスタムファン付/40b以下LLM動作確認済/ローカルLLM最適 NVIDIA P40とWindows 11非対応のPCでLLMする (備忘録) #AI - Qiita

NVIDIA P40とWindows 11非対応のPCでLLMする (備忘録) #AI - Qiita。006_l.png。001.png。ご覧いただきありがとうございます。グラフィックボード・グラボ・ビデオカード GTX780+GTX760。【実測パフォーマンス（GGUF形式 / 8bit精度）】Qwen 2.5 32b クラス： 10〜13 tps（実用的な読解スピード）Gemma 3 12B クラス： 30 tps 前後（瞬時に回答が生成されます）2枚差し運用： 70Bクラスの大型モデルも3〜5 tpsで動作可能です。ELSA RTX 2060デュアルファン グラフィックボード。ケースファン等は付属のSATA/大4ピン変換アダプタへ逃がしてください（ご希望の変換タイプを取引メッセージでお知らせください）。アースソフト PT3 Rev.A VA4M6JC2103。予備のCPU電源端子がある場合は、ファンユニットを外して直挿しも可能です。Palit GeForce RTX 2070 Dual 8GB 動作品 グラボ。CPUの内蔵グラフィックス（iGPU）または別のビデオカードと併用してください。グラフィックボード・グラボ・ビデオカード MSI GeForce RTX 2060 VENTUS XS 6G OC。推奨電源：650W以上。自社サーバーでのLLMに挑戦！ローカルLLM＋RAG環境を構築してみた。この度、V100水冷コンピューティングドックへのシステム移行に伴い、これまでメイン機で愛用していた調教済みの Tesla P40 を数枚出品いたします。個人でローカルLLMを動かしたい方、コスパ良く大容量VRAMを確保したい方に最適なセットです。【ジャンク】GeForce RTX 2080 SUPER VENTUS XSOC。Intel Arc A580 グラフィックボード。1. 使用していない専用の「高圧デュアルファンユニット」を付で発送します。温度目安（室温21℃）：Turbo（4500回転）：待機時38℃ / 演算時50℃前後Full（6000回転）：さらに強力に冷却可能注意点：ファンはマザーボード経由での制御を推奨します。【2ヶ月半のみ使用】MSI GEFORCE RTX 5060 本体。グラフィックボード・グラボ・ビデオカード PNY GeForce RTX 4070 Ti Super 16GB。2. 電源供給について本カードの端子は CPU 8ピン（EPS） です。一般的な電源のPCIe 8ピンから変換できる「専用変換ケーブル」を同封します。【RTX4070】GeForce RTX 4070 OC 12G NVIDIA。グラフィックボード・グラボ・ビデオカード ASUS PHOENIX GTX 1660 SUPER 6GB。3. ECC機能とVRAM表示ストレージ占有型ECCのため、OS上の認識は 22.5GB となりますが、仕様通り24GBの物理メモリをフル活用しています。4. 映像出力について計算専用カードのため映像出力端子はありません。グラフィックボード・グラボ・ビデオカード MSI GeForce GTX 1660 SUPER AERO ITX。ASUS GTX1050Ti 4GB PH-GTX1050TI-4G 動作品。【BIOS設定のポイント】導入時、マザーボードのBIOSで以下の設定を必ずご確認ください。Above 4G Decoding： 「Enabled（有効）」Re-Size BAR Support： 「Enabled（有効）」CSM Support： 「Disabled（無効 / UEFIモード）」※これを設定しないとWindowsで認識されない場合があります。Palit RTX 3080 GamingPro 10GB【動作良好】