クラウドAIとローカルAI、正解は“適材適所の使い分け”｜セキュリティと業務変革を両立させるハイブリッド戦略とは

1. 生成AI利用の現状とリスク

LLMをベースにしたクラウドAIは、電子メールの起草・会議議事録作成・企画立案・市場調査など、幅広い業務で劇的な生産性向上をもたらしています。しかし、クラウドAI利用に関するセキュリティ規定やガバナンスが徹底されていないと、会社が承認したサービスに不満を持つ従業員が無認可で他のサービスを使用する「シャドーAI」のリスクが高まります。
そうしたシャドーAIのリスクには以下の5つがあります。

① データの管理・ガバナンスの喪失と外部LLMへの学習転用
第1のリスクは、重要情報（機密データや個人情報）の外部流出と、社外のLLMによる再学習への転用です。クラウドAIに入力したデータは、サービス提供者のインフラへ送信され、品質改善を名目にLLMに取り込まれます。その結果、将来的に競合他社向けの出力に転用されるリスクがあります。
また、そのクラウドAIがエージェント型である場合、人間の意思を介在させずにデータを誤送信したり、意図しないシステム操作が自動発生したりする可能性もあります。
このように、自社のデータの所在や保存期間・再利用範囲が把握できない状況は、ガバナンスの喪失であり、情報漏洩のリスクを高めます。

② ハルシネーションによる業務品質の低下と社会的信用の失墜
第2のリスクは「ハルシネーション対策」の緩みです。今日のAI推論モデルでは、正しい答えを出すための情報が不足しているときに、勝手な判断によって「もっともらしい虚偽情報」を作り上げてしまうハルシネーションのリスクがあります。そして、シャドーAIが社内に広がると、AIによる出力が正しいか否かを判断できない従業員、あるいはハルシネーションへの警戒心が低い従業員が、虚偽の出力をそのまま業務で使ってしまう可能性が高まります。結果として、業務の品質低下や取引先・顧客からの信用失墜につながります。
このリスクを低減するには、AI出力の信頼性・正確性を人間が入念にレビューする体制が必要とされますが、シャドーAI環境下ではそうした確認プロセスが機能しません。

③ 著作権侵害と法規制におけるコンプライアンス懸念
第3のリスクは、コンプライアンス違反です。クラウドAIが生成したコード、画像が第三者の知的財産権を侵害している場合、商業利用時に差し止め請求や損害賠償が生じます。また、経済産業省（以下：経産省）の「AI事業者ガイドライン（※1）」などに反する利用は、規制の厳しい金融・医療分野での企業信頼を損ないかねません。

④ 未承認のサービスがもたらすエンドポイントの脆弱性
第4のリスクは、従業員が無断でインストールしたWebブラウザの拡張AI機能やAIプラグインがセキュリティ上の脆弱性をもたらすリスクです。市場には、正規のAIツールを装いつつ、不正アクセス用のマルウェアが仕込まれているものがあります。それを従業員が不用意に自身の端末にインストールしてしまうと、端末がランサムウェア攻撃などの悪質な侵入口となり、社内ネットワークにセキュリティ侵害の被害をもたらすリスクがあります。

⑤ ログの欠如に伴うインシデント対応コストの増大
第5のリスクは、インシデント対応コストの増大です。IT部門による管理・監視の対象外にあるシャドーAIが引き起こしたセキュリティ侵害は、侵害の痕跡（ログ）がしっかりと残されていないことがあります。ゆえに、サイバー攻撃がどのような経路をたどって侵入し、データの流出、あるいは破壊に至ったのか、あるいは、被害がどのシステムにまで及んでいるかを特定するのに多大な時間を要し、インシデント対応のコストが増大します。

以上のようなリスクを回避するには、セキュリティ基準やガバナンスの徹底によってクラウドAIの利用に規制をかけなければなりません。ただしこれは、ルール順守を全ての従業員に徹底してもらうという人依存の施策であり、完全性の確保には限界があります。また、規制の強化は、優れたクラウドAIの素早い導入や、ビジネス現場のアイデアを活かした自由なAI活用を制限し、生産性向上や変革を阻害しかねません。そこでIT部門には、安全にAIを活用できる「代替環境」と「実践的なガバナンスルール」の整備が求められます。

※1 参考：経済産業省「AI事業者ガイドライン」

2. クラウドAIとローカルAIの違いと選定基準

シャドーAIのリスクを抑えながら現場主導の業務変革の勢いを増すための手段として、昨今では、
企業による「ローカルAI」の導入が活発化しています。これは、小規模言語モデル（SLM）を社内のローカルな環境に配備し、クラウドAIを介した機密情報の漏洩リスクを低減するアプローチです。

ただし、SLMベースのローカルAIには、LLMベースのクラウドAIに比べてできることに限界があります。そのため今日では、両者の特性を把握したうえで、業務要件に応じて使い分ける「ハイブリッドAI戦略」への関心が集まっています。

ハイブリッドAI戦略を成功させるポイントは、ローカルAIとクラウドAIの適切な役割分担にあります。以下の表1は、ハイブリッドAI導入を検討する際に参考にすべき評価軸です。

*a トークン：AIが言語を理解・処理するための言葉の最小単位
*b 推論コスト：AIモデル（言語モデル）による予測・回答処理に必要とされるコンピューティングリソースの使用料
*c パラメータ：AIモデル（言語モデル）内に記憶された調整可能な変数（数値）のこと。言語モデルの規模を表す単位として使われる

表1：クラウドAIとローカルAIの比較

また、ハイブリッドAIの導入にあたっては、適用対象の業務について「扱うデータの機密性」と
「求める知能の汎用性・推論の複雑度」の2軸で利用モデルを検討する必要もあります。
例えば、「市場動向の調査・分析」「複雑なプログラムコードの生成」「多言語翻訳」といった業務には、クラウドAIが適しています。一方、機密性の高いデータを扱う場合や医療・法律・金融といったクローズドな専門領域の閉じた知識が必要とされる場面ではローカルAIの使用が適しています。

コスト面でいえば、クラウドAIは基本的に従量課金の料金体系を採用しており、トークンの数量に応じて費用が青天井で増加します。一方のローカルAIでは、必要なハードウェアへの初期投資を行ってしまえば、推論コストが追加で発生することはありません。そのため、全社員がAI処理を数多く繰り返すケースでは、ローカルAIの活用によって中長期的なAIコストを大幅に削減できる可能性があります。

3. クラウドAIの活用シーン

クラウドAIの最大の強みは、大規模な設備投資なしで世界最高水準のAIエンジンをオンデマンドで
活用できることです。これにより、非常に高度な推論が可能になるほか、テキスト・画像・音声・動画・コードを統合処理することも実現可能です。

そんなクラウドAIの主たる活用シーンは大きく以下の3つに分けることができます。

活用シーン① 汎用的なナレッジワーク：多言語翻訳・技術論文要約・企画アイデア出し・カスタマー対応・契約書レビュー支援、など

活用シーン② 市場動向分析とレポート生成：社内外のデータを使用した大規模なデータ分析・精緻な売上予測・役員会向け市場動向レポートの自動作成、など

活用シーン③ ソフトウェア開発支援：プログラムコードの自動生成・整理・改善・脆弱性検知、など

ただし、機密性の高いドキュメントや顧客情報を扱う場合は、「通信経路の暗号化」はもとより、「（サービス提供者との間で）入力データの再学習利用を禁じる契約の締結」「アクセスログ管理の徹底」といったセキュリティ対策が必須になります。加えて、AI事業者ガイドラインや個人情報保護法との整合性確認も求められます（図1）。

図1：クラウドAIの活用シーンと導入時の留意点

4. ローカルAIの活用シーン

ローカルAIが普及した背景には、AI処理に特化したプロセッサ（NPU：Neural Processing Unit）や、言語モデルの軽量化技術である「モデル量子化」などの進化があります。なかでも、NPUの進化によって40 TOPS（Tera Operations Per Second：1秒間で何兆回の演算を実行できるかを表す単位）以上の処理性能と、数十億パラメータ規模の言語モデルを高い性能のもとで安定運用できるハードウェアが安価に、かつ省スペースで導入できるようになったことは大きな進展です。
これにより、音声の文字起こしや要約、翻訳、さらには高解像度グラフィックの自動生成など、ローカルAIの適用範囲が広がっています。

ローカルAIを使う最大のメリットは、セキュリティの確保と低遅延レスポンスの実現にあります。
ローカルAIに入力したデータが社外に出ないため、新製品の設計情報・営業情報・顧客情報・従業員の個人情報・開発中のプログラムコードなど、秘匿性の高いデータを安心してAIに入力できます。

また、ローカルAIのレスポンス性能は、インターネットなど、パブリックな外部ネットワークの混雑状況に影響を受けません。加えて、AI PCなどのエンドポイント、あるいはエッジデバイスで処理を完結させれば、社内ネットワークの影響も受けず、地下倉庫・製造現場・海外出張中など、電波が不安定な環境でも常に安定したAI処理が実行できます。さらに、高品質なデータによるファインチューニングや継続事前学習を適用することで、汎用LLMを超える専門領域の回答精度も実現できます。

そうしたローカルAIの主な活用シーンは、機密文書の社内での一次要約や社内ユース限定のFAQシステム、監視カメラ画像を用いた製造設備のリアルタイムな異常検知、コンタクトセンターにおける通話の即時分類・要約などが挙げられます（図2）。

図2：ローカルAI（SLM）の活用シーンと導入時の留意点

5. ローカルとクラウドの利点を融合するハイブリッド戦略のポイント

ローカルAIの可能性は広がりつつあるものの、実現できることには限界があります。その限界を、
セキュリティを担保しながら、クラウドAIに補完させるのがハイブリッド戦略です。この戦略は
「ハイブリッド・バイ・デザイン」の設計思想のもと、業務用途や扱うデータの機密性に応じてローカルとクラウドに処理を自動的に振り分けるアプローチを基本としています。

この戦略を支える中心的な技術は「機密情報マスキング」と「逆マスキング（動的復元処理）」とを連携させる仕組みです。以下は、同技術による連携プロセスの一例です。

① 従業員が機密情報を含むプロンプトをAI PCに入力する

② ローカルAIが入力テキストを高速スキャンし、機密情報（例えば、個人の氏名・電話番号・メールアドレス、取引先の情報、など）をダミーデータや伏せ字に転換して匿名化する

③ 上記のマスキング処理によって機密情報が排除されたデータをクラウドAIに送信して高度な処理を実行させる

④ クラウドAIからの回答をローカルAIがマスキング前の情報と照合して当該データの差し替えを行い、元の情報に復元して表示する

以上のようなプロセスにより、外部への機密情報の流出リスクを低減しながら、クラウドAIの能力を最大限に活かすことが可能になります。

また、ハイブリッドAIの導入は、経産省のAI事業者ガイドラインに準拠した4つのステップで進めるのが適切です。

ステップ 1. 目的定義とKPIの設定
テクノロジー導入を目的化せず、労働時間削減率・売上寄与度・品質向上など、各部門のユースケースに即した具体的なKPI（重要業績評価指標）を初期段階で明確に定義します。

ステップ 2. 業務の棚卸しと役割分担の明確化
全社の業務を「機密性」「処理量」「リアルタイム要件」の3軸で分類し、複雑な市場分析・多言語翻訳はクラウドAIに担わせ、機密情報のマスキング処理・工場の異常検知・大量の定型タスクはローカルAIにルーティングするといった役割分担を明確にします。

ステップ 3. ガバナンス構築と自社向け利用規定の作成
経産省のAI事業者ガイドラインに基づきながら、自社専用の「AI利用規定」を作成します。
この規定には、入力禁止の機密情報の範囲を明記するのと併せて、推奨業務の例示や効果的なプロンプトテンプレートを豊富に盛り込み、AIの使用を活発化させます。ここで禁止事項を羅列するだけでは現場は萎縮し、シャドーAIへの逆戻りを助長しかねません。

ステップ 4. 教育制度の確立とリテラシー向上
ハルシネーションへの対処法や出力の確認ルール、著作権・データ管理に関する従業員教育のプログラムを定期的に実施し、組織全体のAIリテラシーを継続的に高めていきます。

6. まとめ

AIが社会・産業に深く浸透しつつある近年においては、「AIの地産地消」や「ソブリンAI（データ主権）」の重要性が増しています。自社の管理下にあるオンプレミスのローカルな環境において、専門知識を学習させたAIを構築・運用することは、海外のメガプラットフォーマーへの過度な依存・地政学的リスク・価格変動リスクを回避する経営戦略でもあります。

しかも、今後10年以内にAGI（人工汎用知能）・ASI（人工超知能）の登場も予想されています。
そうなれば、AIエージェントの適用範囲が想像をはるかに超えるスピードで広がり、AI活用を前提に業務の在り方そのものを根底から変えなければ、市場での企業競争力を維持するのが困難になるかもしれません。そうした近未来に備える意味でも、ローカルAIの配備を推し進めて、ハイブリッドAI基盤をいまから整備することが不可欠といえるでしょう。

CTCでは、こうした喫緊の課題にお客様が対応できるよう、ハイブリッドAIの構想策定から実装・保守・運用までを一気通貫でサポートしています。お気軽にご相談ください。