DL Nemotron 3 Ultraの社内運用始めました
0.はじめに
こんにちは!HPC事業部 技術グループのhinokiharaです。
今年はAIの発展が目覚ましいですね!私もAnthropicのClaude Codeを毎日のように使用しており、働き方が劇的に変わりました。ただ非常に便利な一方で、会社の機密データや大事な研究データを読み込ませられない(読み込ませてしまった)という話もよく聞きます。機密性の高いデータを扱う場合はやはりローカルにLLMをホストしたい。でもローカルLLMはまだ性能が足りない。。。そんな悩みを持つ方は多いのではないでしょうか?
今日はそんな悩みを持つ方々に、「ローカルLLMはここまで来たぞ」という話をしたいと思...
