AI エージェントが台頭し、企業内のプロセスに革命を起こす大きな可能性を秘めている。しかし、適切な監視がなければ、これらのデジタル・ワーカーはあっという間に貴重な資産から重大な負債へと移行してしまう可能性があることを認識することが極めて重要である。
AI 行動する準備
2023年、多くのジェネレーティブ・プロジェクト(AI )は、効果的なAI 運用を可能にするために不可欠な高品質のデータという重大な見落としによって妨げられた。その結果、組織は、データのプライバシーに関する懸念、AI モデルにおけるバイアス、誤解を招くAI 出力(幻覚として知られる)のリスクなど、重大なハードルに遭遇した。これは、特にAPJ地域では驚くべきことではない。例えばオーストラリアでは、シーゲイトの調査「Rethink Data:シーゲイトの調査 "Rethink Data:Put More of Your Data to Work From Edge to Cloud"によると、オーストラリアでは企業データの68%が未使用のままである。
2024年が近づくにつれ、企業はAI 。これらの戦略には、Responsible and EthicalAI のフレームワークの開発、強固なデータガバナンスと管理手法の確立などが含まれる。例えば、オーストラリア赤十字社は、AI ガバナンス・フレームワークを導入し、AI の新たな取り組みに対する信頼とコンプライアンスのバランスをとった。
APJ地域の多くの国も、AI ガバナンス・イニシアチブを開始し、一般的に個人情報の悪用リスクを最小化することに重点を置き始めた。こうした取り組みには、シンガポールの国家戦略(NationalAI Strategy)やスマート・ネイション2.0、オーストラリアの自主的ガイドライン "10AI Guardrails"などがある。
AI 展開の成功は強力なデータガバナンスに依存しており、組織は他の重要な課題にも取り組み始めた。これには、多様なソースからのデータへのシームレスなアクセスと分析を意味するデータの流動性の確保や、レガシーシステムが正確性を損なうことが多いデータ品質の維持などが含まれる。AI アプリケーションのデータ準備におけるデータ統合の重要な役割を認識し、Boomi は Rivery を買収し、これらのAI アプリケーションに情報を提供するデータが最新であることを保証し、あらゆるデータ変更を大量かつ迅速に提供できるようにした。
その結果、2025年には、多くの組織が、ジェネレーティブなAI 、潜在的にAI エージェントによって、競合他社を凌駕し、パーソナライズされた顧客体験を提供し、革新的な製品の発売を加速させながら繁栄していくことになるだろうと私は考えている。このような焦点の転換は、成果を上げるための戦略的なビジネス目標に合致し、リスクを軽減するために綿密に計画され、誇張されたマーケティングの主張のノイズから解放された、実用的なAI アプリケーションを優先することに気づくだろう。
AI エージェント次の進化
AI イノベーションのペースは急速に加速しており、この進化の次の段階としてAI エージェントが登場している。バーチャル・アシスタントの役割を果たすこれらのエージェントは、私たちと一緒に働くように設計されている。いつかは自律的に動作するようになるかもしれない。
その普及が進むにつれ、AI エージェントの効果的な管理とガバナンスが不可欠になる。それがなければ、こうしたデジタル・ワーカーは資産から負債に変わりかねない。オーストラリアではすでに、ロボデット・スキャンダルのように、監視や監督なしにテクノロジーを走らせることで起こりうる問題を目の当たりにしている。
MIT Technology Review Insightsとの提携により作成されたBoomi のレポート「A Playbook for CraftingAI Strategy( 戦略を策定するためのプレイブック)」によると、組織の45%がガバナンス、セキュリティ、プライバシーの問題を、AI の迅速な展開の大きな障壁と考えていることが明らかになった。
Boomi Boomi Enterprise Platform 内のタスクを自律的に実行する 7 つの Boomi AI エージェントをリリースし、開発者の統合と自動化を簡素化および加速しています。また、当社のエージェントは、ユーザーが パートナーのネットワークから、または 自ら作成したエージェントから 機能をインストールして使用できるようにする機能も提供しています。Boomi AI AI
ガバナンスと監督
AI エージェントはいずれ、現在のツールでは効果的に監視できない規模で運用されるようになるだろう。2025年には、AI ガバナンス・プラットフォームが導入され、組織がAI システムの運用面を一元的に監督できるようになると予想される。
これらの高度なツールは、AI エージェントが透明かつ責任を持って使用されることを保証するためのポリシーの確立、管理、実施に役立ちます。これらのツールは、モデル構築、データ利用、およびその出力の背後にある理論的根拠に関する洞察を提供しながら、これらのエージェントのライフサイクル(配備から廃止まで)を監視する。現在、多くのユーザーがAI システムに対して不信感を表明していることを考えると、強固なガバナンスを通じて透明性を醸成することは、これらのテクノロジーに対する信頼を回復する上で極めて重要である。
AI ガバナンス・プラットフォームは、Gartner「2025年の戦略的技術トレンドトップ10」の一部でもあり1、「2028年までに、AI ガバナンス・プラットフォームを使用している企業は、そのようなシステムを使用していない企業と比較して、AI 関連の倫理的インシデントが40%減少するとともに、競合他社よりも30%高い顧客信頼度と25%高い規制遵守スコアを達成する」という仮定がある。
効果的なガバナンスのための能力
AI ガバナンス・プラットフォームの最初のユースケースは、組織内で活動するすべてのAI エージェントを特定し、登録することである。これは、シームレスなコミュニケーションを促進し、必要な登録情報を収集するための標準化された方法を提供するAPIによって、効果的に達成されうる。既存のAPI management コンセプトは、AI ガバナンスに適合させることができ、開発者が API 対応のAI エージェントを発見し、アプリケーションに統合することを可能にする。
さらに、AI エージェントカタログは、認証されたAI エージェントの権威ある情報源として機能し、API インターフェースを通じて収益化を可能にする可能性がある。これらのAI エージェントが特定され登録されると、専用ポータルがその活動を追跡し、ガバナンスと責任ある利用を保証することができる。運用機能には、アクセス制御、ポリシー管理、リスク管理、および透明性を確保し、信頼と説明責任を構築するためのその他の措置とともに、活動ログを維持し、AI エージェントが行った意思決定に関する洞察を提供することが含まれる可能性がある。
セキュリティとコンプライアンス
規制の厳しい環境では、コンプライアンス能力も重要な役割を果たすだろう。例えば、2025年2月に施行が予定されているEU法(AI )である。この法律は、全世界の売上高の最大7%の制裁金を課すもので、EU域内で事業を展開する場合、AI システムの「プロバイダー」または「デプロイ業者」として特定されるAPJ組織に追加義務を導入する可能性がある。このような規制は、リスクを軽減するためにAI ガバナンスを提供するテクノロジーへの投資をさらに促進するだろう。
マルチエージェントシステムの導入が一般的になるにつれ、関連するセキュリティリスクも増大する。これらのシステムはAPIを通じて通信するため、悪意のある行為者に悪用される可能性がある。したがって、強固なセキュリティ監視も、AI ガバナンス・プラットフォームの不可欠な一部となり、企業がエージェントの有害な行動を制限または停止できるようにしなければならない。
人間の要素
AI ガバナンスもまた、テクノロジーだけでは対処できない障害に直面している。組織は文化的な抵抗に取り組まなければならず、すべての利害関係者の支持を得るには、新しいテクノロジーに対する文化的な認識を理解し、それをうまく利用する必要がある。これは、多様で分断された環境の中で、AI ガバナンスの慣行を標準化するために極めて重要である。
AI-レディネスにおけるテクノロジーの重要性
AI エージェントに関連するリスクを効果的に管理するためには、AI ガバナンスを強化するテクノロジーの活用が不可欠である。組織はまた、AI ガバナンスに対するガイドラインやアプローチの進化にも留意しなければならない。中小企業は、リソースが限られているにもかかわらず、テクノロジー・プロバイダと提携することで、強固なAI ガバナンスを確立することができる。
さらに、データ・ガバナンスを見落とさないことが肝要である。データ・ガバナンスは、データ・ソースの透明性を促進することによって、AI モデルにおけるバイアスを最小化する上で重要な役割を果たす。AI システムを高品質で代表的なデータに基づいてトレーニングすることは、情報に基づいた意思決定をサポートする公正で正確な推奨を生み出すために極めて重要である。このアプローチは透明性を促進し、最終的には利害関係者との信頼関係を構築する。
あなたのような企業がどのようにAI 採用の旅を進めているかについての洞察は、「A Playbook for CraftingAI Strategy」をお読みください。
---
1.Gartner Top 10 Strategic Technology Trends for 2025, Gene Alvarez, 21 October, 2024https://www.gartner.com.au/ja/articles/top-technology-trends-2025