はじめに 近年、生成AIや大規模言語モデル（LLM）の活用がビジネス・研究・開発の現場でも急速に進んでいます。しかし、「実際にどう使えばいいのか分からない」「技術的なハードルが高そう」「セキュリティ上のリスクが高い」「回答の確からしさが保証できない」と感じている方も多いのではないでしょうか。  本記事では、LLMの概要からセキュリティ・カスタマイズ性に優れたローカルLLMの実践、RAGの実装までを解説します。  大規模言語モデル（LLM）とRAG （Retrieval-Augmented Generation）とは 大規模言語モデル（LLM）は、膨大な量のテキストデータを学習することで...

今回は、Samsung製のデータセンター向けM.2 SSD「PM9A3」の検証内容についてまとめました。 概要 前回の記事(※)に引き続き、お客様からのM.2 SSDに関する要望が増えていることを受け、各種M.2 SSD製品の検証を進めています。今回はその中でも、エンタープライズ向けに展開されているSamsung製「PM9A3(M.2)」を取り上げ、実際に性能検証を行いました。PM9A3は、データセンター用途などを目的に設計されたSSDであり、信頼性や安定性を重視した製品です。  本記事では、その特性をコンシューマー向けのM.2 SSD「980PRO」と比較しながら、性能面や使用感の違い...

今回は、ASUS製のM.2 SSDマウントPCIeカード「HYPER M.2 X16 GEN 4 CARD」の検証内容についてまとめました。 概要 昨今、HPC系アプリケーションを利用されるお客様からM.2 SSDを利用したいとの声が大きくなってきました。 しかしHPC用マシンは、大型GPUや水冷機構が搭載されるため、マザーボード上のM.2スロットへM.2デバイスを装着する方法ではアクセス性や保守性が大きく損なわれることがあります。 この問題の解決策の一つに、PCIeカード上にM.2 SSDを搭載することで、着脱を容易にしつつ、高い拡張性を確保する方法が挙げられます。 本記事では...

Winmostar開発元の株式会社クロスアビリティ主催で Winmostar TechDay 2025 が 2025年6月2日(月) に開催されます！ Winmostar は弊社の（オンプレミスの）お客様にWindowsワークステーションにおける計算化学GUI として多用されているほか、弊社サイエンスクラウドへのリモートGUIクライアントとしても利用実績があり、定評があります。 このイベントでは、原子スケールのシミュレーション環境を提供する統合GUIソフトウェアであるWinmostarのユーザ様および導入検討中の方向けに、Winmostarおよび計算化学技術の最新情報が提供...

今回は、弊社が提供している拡張スロットを11スロット搭載した産業用コンピューター「IPC-C621ASM-R4」に、実際に11枚の拡張カードを装着し、動作検証を行いました。  IPC-C621ASM-R4の製品情報はこちら 11スロット搭載「IPC-C621ASM-R4」の特徴 一般的なPCには、機能拡張のためにPCIeスロットなどの拡張スロットが備わっています。現在の主流はPCIe（PCI Express）スロットですが、産業用途ではいまだにPCIスロットも現役で使用されています。古くは、Windows® 95時代のISAスロットなども存在しました。 本製品 IPC-C621AS...

HPCシステムズ CTO事業部では、恒温恒湿槽試験機を使用した環境試験を実施しています。本ブログではその概要を分かりやすくご紹介します。 今回の試験目的 特定のお客様向けのオリジナルシャーシに、弊社製コンピューターを組み込んだ場合を想定し、温度検証を行います。過酷な温湿度環境下における各パーツ（CPU / GPU / SSDなど）の性能を確認します。 使用する試験機 試験には、恒温恒湿槽試験機「EC-86MHPE」（日立ジョンソンコントロールズ空調製）を使用します。恒温恒湿槽試験機とは、温度と湿度を自由に調整できる装置です。これを使えば、極寒や高温多湿など、さまざまな環境を再現でき...

ここでは、Supermicro社が提供するサーバー監視アプリ「SuperDoctor 5」のログファイル出力を制御する方法について解説します。 SuperDoctor 5 (SD5)とは？ SuperDoctor 5 (SD5) は、Supermicro社が提供するハードウェアモニタリングおよび管理ツールです。同社製サーバーやマザーボードのリモート管理を効率化するために設計されています。 このツールは、システムの健康状態やパフォーマンスを監視し、迅速な問題解決やシステム管理の補助をします。例えば、CPU温度や各ファンの回転数、各電圧などのステータスを確認できます。 詳細については以下の...

前回の技術ブログでは、Windows環境でOpenVINO™を試しました。 Intel OpenVINO™でAIを加速させよう！ インストール編 | HPCシステムズ Tech Blog 今回はUbuntu環境でOpenVINO™にチャレンジします。 使用したマシンは、残念ながら販売終了となってしまった産業向けワークステーション「IPC-R790PA-TR5」です。 CPU：Intel Core i9-14900K GPU：SPARKLE Intel Arc A310 ECO というハードウェア構成です。 なお、本ブログで紹介する動作環境の構築は、インターネット接...

目的 ローカルLLMを用いた生成AI活用に向けて、推論を中心としたパフォーマンス（体感速度、同時アクセス数）を明らかにすべく、ベンチマーク検証を行いました。 ハードウェアの決定のために最低限必要な情報は「どのGPUを何枚で」どのモデルが動くかです。 対象モデルは、現状精度の高い Llama 3.1 8B、Llama 3.1 70B、Gemma 2 9B、Gemma 2 27B としました。 検証・結果 ユーザーの体感速度 検証方法 各条件で1つのRequestを処理した際の、Throughput (token/sec) を計測 対象モデル：Llama 3.1 8B, ...

概要 深層学習にGPUが好適とよく言われていますが、比較的安価なGPUからハイエンドのものまで様々なGPUがある中で、深層学習計算の高速化にどのようなハードウェア構成が適しているのでしょうか。GPUのスペックを見ると、理論性能値に加えてGPUメモリ容量、GPUメモリ帯域幅も様々ですし、複数GPU間の高速通信を可能とするNVLinkもあります。これらの選択肢がある中で、どの指標を優先的に考慮すべきなのでしょうか。 本稿では、DNNの学習計算について、ベンチマーク結果からその答えを導いてみます。 ベンチマーク環境 本稿で用いるデータは弊社内で過去に取得したベンチマークからとなりますため、2...

インテル Core Ultra シリーズ 2 「Arrow Lake」が発売開始 CPUの性能向上はマルチコアやマルチスレッドなどの技術導入により多角的に進化しています。本記事では、インテルのCPUを対象に実測値に基づく性能比較を行い、IPC（Instructions Per Cycle）の向上や各世代のベンチマーク結果を解析します。CPUアーキテクチャの進化とその実際の性能を深掘りすることで、次世代のコンピューティングの方向性を見据え、システム選定に役立てることを目指しています。 インテル Core Ultra (シリーズ 2) 「Arrow Lake」を追加しました。（更新：2024/...

インテル® Z790チップセットを搭載している「IPC-R790PA-TR5」をご紹介します。このモデルで採用しているマザーボード「ASUS ProArt Z790-CREATOR WIFI」は、ASUS社の動作保証OSがWindowsのみとなっており、Linux系OSの対応は明記されていません。そこで、人気の高いLinux OS「Ubuntu 20.04 LTS」と「Ubuntu 22.04 LTS」の2パターンで検証を行いました。

はじめに 「Windows Updateの自動更新を止めたい。」 このようなお客様のニーズに応えるため、Windows Updateの自動更新を停止する方法をまとめました。 お客様との信頼関係を大切にし、共に情報を収集しながら、実機で確認した内容を基にご紹介いたします。 Windows Updateの自動更新とは Windows Updateは、Microsoft社が提供するデバイスを安全かつ最新の状態に保つための仕組みで、更新プログラムを自動的にダウンロードし、インストールします。 非常に有益な機能ではありますが、アップデート時に発生するダウンタイムを避けたいアプリケーションを運...

8/21開催の弊社ワークショップ に聴講をお申込みいただいたお客様の中には、「GRRM20 with Matlantis でどんなことが出来るんだろう？」「性能がどの程度なんだろう？」などとGRRM20 with Matlantisが気になってお申込みになられた方もいらっしゃるかもしれません。 そのような方に朗報です！ GRRM20 with Matlantis を実際に使って検証を行える有償PoC（Proof of Concept ; 概念検証）を受け付けています！ １か月と３か月のPoCプランをご用意しております。PoC用途の期間限定のGRRM20 with Matlantisを購入...

ベンチマーク報告書(PDF)のダウンロードはこちらからどうぞ！ 概要 2023年12月14日（日本時間15日）、第5世代 インテル🄬 Xeon🄬 スケーラブル・プロセッサー（開発コード名：Emerald Rapids）がリリースされました。「Intel 7」製造プロセスにより微細化されており、1ソケットに最大64コアを搭載可能になったことに加え、CPU間のUPI接続速度が20 GT/sに向上しました。また、コア間で共有されるLast Level Cacheの容量が320MBに拡大し、メモリアクセスを多用するAI・HPCワークロード向けに機能強化されています。さらに、新たにDDR5-5600...

CPUの性能向上はマルチコアやマルチスレッドなどの技術導入により多角的に進化しています。本記事では、IntelのCPUを対象に実測値に基づく性能比較を行い、IPC（Instructions Per Cycle）の向上や各世代のベンチマーク結果を解析します。CPUアーキテクチャの進化とその実際の性能を深掘りすることで、次世代のコンピューティングの方向性を見据え、システム選定に役立てることを目指しています。 2024年11月公開「「IPC」で見る！最新インテル Core Ultra シリーズ 2 「Arrow Lake」の実測データを公開」はこちら CPUアーキテクチャーの進化 かつては動作...

●はじめに サーヴァンツインターナショナル社が取り扱う,PLiOPS Extremデータプロセッサ(XDP)を検証する機会をいただきましたので、ご報告いたします。 ●PLiOPS Extreme データプロセッサ(XDP)とは PLiOPS Extreamデータプロセッサ(XDP)は、PCI-Expressカード型のアクセラレートカードです。SSD 向けデータ保護機能を提供するとともに、RAIDリビルド時間の短縮など、従来の RAID コントローラーの制限を克服し、SSD の耐久性と使用寿命を延ばし、容量を解放します。 ●PLiOPS社とは PLiOPSは 2017 年に設立...

本記事では、最新のDDR5 SDRAMメモリがどのように進化し、DDR4 SDRAMメモリと比較してどのような改良が加えられたかを詳しく解説します。とくに、メモリの高速化、低電圧化、信頼性向上について詳しく見ていきます。 メモリの種類と特徴 メモリはRAM（Random Access Memory）とも呼ばれ、コンピュータが一時的にデータを保管するための重要なパーツです。コンピュータに搭載されるメモリは、大きく以下の3種類に分類されます。 Unbuffered DIMM (UDIMM) 一般的なデスクトップPCで使用されるメモリです。 ECC Unbuffered...

概要 ソースコードで配布されているソフトウェアをコンパイル・リンクして計算機上で問題なく動作可能とする行為を「ビルド」と呼んでいます。 今回、当社がビルドした GAMESS September 30, 2023 R2 について、 どのようなソフトウェア/機能を組み込んだのか どんなテストを行い、その結果はどうだったのか どんなトラブルがあったのか、どう解決したのか をまとめたページを作成しました。こちらです。 ビルドを通じてお客様の力になります C/C++ や Fortran のソースコードを自分でコンパイルしたことのある方にとっては、「わざわざビルドについて...

NVIDIA GH200 の機械学習ベンチマーク報告書をこちらで公開しました。報告書の中では、NVIDIA H100-PCIEと A6000 を加えた計3種のGPUで、機械学習の学習性能を比較評価しています。 ベンチマーク報告書のダウンロードはこちら >> スペック情報 NVIDIA GH200、NVIDIA H100-PCIE、NVIDIA A6000 のスペック比較表は次のとおりです。 GPU型番 NVIDIA GH200 NVIDIA H100-PCIE NVIDIA A6000 アーキテクチャ Hopper Hopper Amper...