
エッジデバイスで動作する製造業向け言語モデル
三菱電機株式会社は、エッジデバイスで動作する製造業向け言語モデルを開発しました。当社AI技術「Maisart(R)(マイサート)(※1)」の開発成果である本言語モデルは、当社事業に関するデータを用いて製造業ドメインに特化した事前学習をさせており、製造業におけるさまざまなユースケースへの適用が可能です。さらに、独自に開発した学習データ拡張技術により、ユーザーの用途に最適化した回答生成を実現します。
近年、生成AIの普及を背景に、大規模言語モデル(LLM)の活用が拡大する一方で、LLMの利用には莫大な計算コストとエネルギーを要することから、それらの削減が社会課題となりつつあります。また、データプライバシーや機密情報管理の観点から、オンプレミス(※2)環境下での生成AIの利用ニーズも増加しています。
今回、当社は、公開されている日本語継続事前学習済みのベースモデルに対し、当社が保有するFA(Factory Automation)事業などのさまざまなデータを用いたドメイン特化型の学習を行うことで、製造業に特化した言語モデルを開発しました。また、独自の拡張技術で生成した学習データを用いることにより、効果的なタスク特化学習を可能としました。開発した言語モデルは限られたハードウェアリソースの中でも動作可能なサイズで、エッジデバイスなど計算リソースに制約のある環境や、顧客情報を扱うコールセンターなどのオンプレミス環境下における生成AI運用に貢献します。
なお、本言語モデルは、アマゾン ウェブ サービス ジャパン合同会社が提供する「AWSジャパン生成AI実用化推進プログラム(※3)」に参画し、同社のサポート(言語モデルの学習に必要なGPU(※4)やAWS Trainium(※5)などのコンピューティングリソースの調達支援、分散トレーニングの環境構築支援、AWSクレジットの提供、AWS生成AIイノベーションセンター(※6)による科学的観点からのアドバイザリーなど)のもと開発したものです。
■開発の特長
1.製造業ドメインに特化し、エッジデバイスへの実装が可能な言語モデルを開発、製造業ユーザーのAI導入を支援
・当社も参画するLLM勉強会(※7)が公開しているオープンなモデルをベースモデルとし、製品マニュアルやコールセンター応対履歴など、当社が独自に保有する権利的・倫理的に問題のないデータで学習することで、製造業ドメインに特化した言語モデルを開発
・モデル圧縮技術(※8)により言語モデルを軽量化することで、メモリ不足により実行不可能だったエッジデバイスにおいても動作可能であることを確認。低遅延かつプライバシーに配慮した処理が可能となり、スマートファクトリーやエッジロボティクス、エネルギー制御など多様な分野において、ユーザーの生成AI運用にかかる各種コスト削減に貢献可能
2.効果的なタスク特化学習を可能とする独自の学習データ拡張技術を開発、ユーザーの用途に最適化した回答生成を実現
・問い合わせや文章生成指示などの入力内容に対して「望ましい回答」が紐付けられた用途別学習用データから、正しい回答例文とテキストの類似性は高いが、入力された問いに対する回答としては正しくない回答テキストを抽出。これを同一入力に対する「望ましくない回答」と見なすことで、ある入力に対する「望ましい回答」と「望ましくない回答」のペアを疑似的に自動生成し、望ましい表現を出力しやすい言語モデルの学習用データを充実化させる「データ拡張技術」を開発(特許登録済)
・製造業のユーザーが個別に保有する用途別データを用いた追加学習も可能で、これによりユーザーごとに異なる用途に最適化した回答生成が可能な言語モデルを構築することができるため、個別のドメインやタスクなどを考慮した細かいニーズにも対応可能
・当社FA製品に関する知識の正誤を問うタスクで評価を実施。ドメイン・タスク特化学習により、75%を超える正解率を達成

FAドメイン・質問応答タスクにおける評価結果
■今後の予定・将来展望
2026年度中の製品適用を目指し、産業機器やロボットなどのデバイス上で言語モデルを動作させるユースケースの検討および社内外での実機実証を進めていきます。
■ 商標関連

■特許関連

■三菱電機グループについて
私たち三菱電機グループは、たゆまぬ技術革新と限りない創造力により、活力とゆとりある社会の実現に貢献します。社会・環境を豊かにしながら事業を発展させる「トレード・オン」の活動を加速させ、サステナビリティを実現します。また、デジタル基盤「Serendie(R)」を活用し、お客様から得られたデータをデジタル空間に集約・分析するとともに、グループ内が強くつながり知恵を出し合うことで、新たな価値を生み出し社会課題の解決に貢献する「循環型 デジタル・エンジニアリング」を推進しています。1921年の創業以来、100年を超える歴史を有し、社会システム、エネルギーシステム、防衛・宇宙システム、FAシステム、自動車機器、ビルシステム、空調・家電、デジタルイノベーション、半導体・デバイスといった事業を展開しています。世界に200以上のグループ会社と約15万人の従業員を擁し、2024年度の連結売上高は5 兆5,217 億円でした。詳細は、www.MitsubishiElectric.co.jpをご覧ください。
※1 Mitsubishi Electric’s AI creates the State-of-the-ART in technologyの略。
全ての機器をより賢くすることを目指した当社のAI技術ブランド

※2 企業や組織が自社の施設内にサーバーやネットワーク機器などのITインフラを構築し、管理・運用する形態で、インターネットを経由するクラウド型と区別される
※3 https://pages.awscloud.com/jp-genai-accelerator-program-reg.html
※4 Graphics Processing Unit:画像処理や並列計算を高速に行うために設計されたプロセッサで、並列処理能力によりLLMの学習時間を大幅に短縮することが可能
※5 AWSが独自開発した機械学習向け特化型チップ。AIモデルのトレーニングに最適化されており、高いコスト効率と性能を実現する
※6 https://aws.amazon.com/jp/ai/generative-ai/innovation-center/
※7 さまざまな研究機関や企業から研究者が集まり、LLMの研究開発について定期的に情報共有を行う組織で、国立情報学研究所 大規模言語モデル研究開発センターが運営。モデル構築に関するソースコードや学習データのすべてを公開している
※8 モデルのパラメータをより少ないビット数で表現する「量子化」など、モデルの精度を保ったままデータサイズを削減する手法
※9 Microsoft Azure OpenAI Serviceが提供するGPT-4oモデルと比較
<お客様からのお問い合わせ先>
三菱電機株式会社 情報技術総合研究所
〒247-8501 神奈川県鎌倉市大船五丁目1番1号
https://www.MitsubishiElectric.co.jp/corporate/randd/inquiry/index_it.html
企業プレスリリース詳細へ
PRTIMESトップへ