生成AIの本格的な業務活用に向け、「業務特化型LLM構築・運用サービス」を提供開始

株式会社日立製作所（以下、日立）は、お客さまの生成AI活用を試行段階から本格的な業務適用フェーズへの移行を加速するため、「生成AI活用プロフェッショナルサービス powered by Lumada*1 」を拡充し、専門的な業務に適したLLM*2の構築や継続的な改善を支援する「業務特化型LLM構築・運用サービス」と、実行環境の構築・運用を担う「生成AI業務適用サービス」を10月1日より提供開始する。これらのサービスは、業務レベルの回答精度を得る上で課題となる生成AI技術者の確保や大規模な学習環境への投資、実行環境の整備・運用といったお客さまの負荷を低減する。
「業務特化型LLM構築・運用サービス」では、日立が、お客さまの業務や生成AI適用の目標のアセスメントを基に、企業が持つ固有のデータ（手順書や対応記録など）の選定や抽出を行い、業務知識として汎用LLM*3に学習させることで、その業務に適した規模・精度のLLM構築と、継続的な改善を行う。また、構築したLLMと生成AIアプリを組み込んだ実行環境を、「生成AI業務適用サービス」により、ニーズに応じた場所で構築・運用する。特に、高い機密性が求められる場合には、お客さまのオンプレミス環境で運用することにより、安心して生成AIを業務に活用できる。
この一連のプロセスには、お客さまとともに業務への理解を深めながら、試行錯誤を繰り返すアプローチと、データエンジニアリング、AIのモデル学習、生成AIの環境構築など高い技術力が必要であり、日立がLumadaで培ってきたDXノウハウや、データサイエンティスト、LLMエンジニア、GPUエンジニア*4といったプロフェッショナル人材など日立の強みを生かして対応する。
今回、第一弾として、専門性の高い金融分野の業務や、コンタクトセンターの複雑な問い合わせ対応など、汎用LLMとRAG＊5だけでは専門知識の活用が難しい業務向けに提供を開始する。今後、製造業や交通インフラなど日立が深いドメインナレッジを有するOT（制御・運用技術）領域へも拡大し、現場の障害対応や生産工程の高度化などフロントラインワーカーの業務へも順次適用していく予定である。
日立は、お客さまの生成AI適用の戦略策定から本番運用まで伴走し、DX実現による生産性向上・競争力強化や持続的な成長を支援するとともに、労働人口の減少といった社会課題の解決を通じて、サステナブルな社会の実現に貢献する。

現在、多くの企業が生産性向上や顧客体験の改善などを目指して生成AIの活用を試行している。しかし、一般的な生成AIでは専門性の高い業務に必要なレベルの回答が得られない場合が多く、業務適用には専門知識を学習させるための高度な技術やノウハウが必要である。また、ビジネス環境の変化や技術の進歩に対応するためには、継続的な学習が不可欠であり、そのための生成AI基盤の整備や専門人材の確保など、投資負荷が非常に大きいことが生成AIの業務適用の障壁となっている。日立は、このような課題を解決するために、Generative AIセンター*6を中心として社内外で取り組んできた50件以上の業務適用検証プロジェクトや、生成AI共通基盤の構築で培ったノウハウを活用し新サービスを提供する。

お客さまの業務手順書や業務記録など、学習に必要な知識データの選定から日立のデータサイエンティストが支援する。これらのデータは、社内関係者向けに特有の言い回しがある、紙で管理されているなど、そのままでは学習させることが難しいケースが多い。そこで、日立はお客さまとともに、これらのデータをLLMに取り込みやすい形に加工し、効果的なモデル学習を進める。また、LLMエンジニアが、適切な汎用LLMの選定を行い、それをベースに、過学習による正答率の低下を防ぎながら専門知識を学習させる。さらに、回答精度を評価する技術や、LLMとRAGを適切に組み合わせる技術を駆使して、適切な規模と回答精度のLLMを構築する。

 学習済データの機密性やセキュリティポリシーに応じて、LLMと生成AIアプリを組み込んだ実行環境の導入先を選択できる。例えば、NVIDIAの最新AI機能と日立ストレージを搭載したHitachi iQ with NVIDIA DGX*7に業務特化型LLMを組み合わせて、お客さまのオンプレミス環境に導入することで、企業独自の業務ノウハウである学習済みの専門知識を保護しながら活用できる。また、日立が生成AIの本格的な活用を通じて得たノウハウをもとに、生成AIアプリの開発・運用や、汎用LLMと業務特化型LLMの使い分けや組み合わせをガイドできるため、お客さまは業務適用を円滑に推進できる。今後、オンプレミスとクラウドにまたがったハイブリッド環境で、お客さまがデータの所在を意識せず、生成AIを自在に活用できるAIソリューションの実現を目指している。これにより、お客さまは膨大なデータ処理に耐えられる大規模な学習環境や生成AI技術者を確保する必要がなくなるため、投資を抑制できる。

*1：ニュースリリース(2024年7月22日発表)「 生成AI活用プロフェッショナルサービス powered by Lumada」を提供開始」
https://www.hitachi.co.jp/New/cnews/month/2024/07/0722.html
*2： LLM：Large Language Models(大規模言語モデル)
*3：汎用LLM：公開データを中心に学習された言語モデルのこと。
*4：GPUエンジニア：GPUインフラの特性を理解し生成AI基盤の構築・運用のノウハウをもつ専門技術者のこと。
*5：RAG : Retrieval-Augmented Generationの略。LLMに、外部情報の検索を組み合わせることで、回答精度を向上させる技術のこと。
*6：ニュースリリース(2023年5月15日発表)新組織「Generative AIセンター」により、生成AIの社内外での利活用を推進し、Lumada事業での価値創出の加速と生産性向上を実現https://www.hitachi.co.jp/New/cnews/month/2023/05/0515.html
*7：ニュースリリース(2024年7月29日発表) 「日立ヴァンタラが、企業のAI対応を支援する「Hitachi iQ」を販売開始」https://www.hitachi.co.jp/New/cnews/month/2024/07/0729.html

*8： 2024年7月時点

* as a Service型の提供はEverFlex from Hitachiで行う。