「AI TRiSM」とは？ DX推進における最新トレンドについて わかりやすく解説！

日本でもようやくDX推進へと取り組む企業が増えてきているなか、押さえておくべき技術トレンドのひとつとして、「AI TRiSM」が登場しています。AIの運用にあたって考える必要のあるフレームワーク「AI TriSM」について、まだまだ知識が浸透していないというのが現実ではないでしょうか。
 
本記事では、AI TRiSMについて、意味や重要性などの基本的な知識をご紹介します。

AIとは、“Artificial Intelligence”の頭文字をとった略称で、日本語では人工知能と訳されます。AIは人間の脳の一部を模倣したシステムで、認知、学習、判断などの機能を持ちます。
 
昨今、業界を問わず推進すべきとされるDXとは、デジタルテクノロジーやデータを活用して、ビジネスにおけるさまざまな要素を変革し、新たな価値を創出することで市場競争力の向上をめざすことを指します。
 
DXの目的は厳しい市場競争に打ち勝つことにあるため、企業は目まぐるしく変化する市場ニーズをいち早く察知し、迅速な商品・サービスの改善に努めなければなりません。そのためには、膨大な量のデータから必要なデータを、素早く正確に抽出・整理・分析することが求められます。
 
DX推進に必要とされるテクノロジーにはさまざまな種類がありますが、ビッグデータを高速かつ正確に処理することができるAIは、ぜひ取り入れたいテクノロジーのひとつです。
DX推進のため、今後いっそう幅広いシーンでのAI活用が予測されており、その信頼性を担保する必要が生じています。そこで、AIの信頼性を高めるための有効な取り組みとして注目されているのが、「AI TRiSM」です。

AI TRiSMは、"AI Trust, Risk and Security Management"の頭文字をとった言葉で、アメリカの調査会社Gartnerより発表された用語です。
2023年の戦略的テクノロジのトップ・トレンドにおける中心テーマを下記の3つとしています。
 
・最適化(Optimize)
・拡張(Scale)
・開拓(Pioneer)
 
ここでいう「最適化」は、組織がテクノロジーを使って、信頼性・リスク・セキュリティ管理の観点から、AIの活用を最適化するための枠組みを意味します。
AI TRiSM は、AIのリスクに対応し、AIの信頼性を高めるための取り組みです。AIの運用における、信頼性や公平性、有効性、プライバシー、データ保護などをサポートする手法やツール、プロセスといった枠組みを総称する造語です。

AI TRiSMは、大きく分けて次の4つの柱で成り立っています

AIには、その行動の解釈や判断に至ったプロセスついて説明できる能力が求められます。説明可能な設計のAIモデルの構築が、AIの信頼性を高めます。

ModelOpsとは、開発されたAIモデルが、開発、検証、テスト、業務実装、本稼働の工程を円滑かつ効率的に実行できるようにするための手法です。AIの有効性を維持するためには、適切なマネジメントやガバナンスが必要となります。

外部からの敵対的攻撃に脆弱では、AIの信頼性を維持できません。不正なアクセスや改ざんなどのデータ異常を検知し、敵対攻撃に対する耐性を持つことで信頼性・安全性を保ちます

プライバシー保護は、データを扱う際にもっとも重要視すべき要素です。不正なアクセスやデータの盗難から保護することだけでなく、内部からのデータ持ち出しや破損などに対する対応も必要です。

AIは今後よりその必要性が高まり、複雑性も増していくことが考えられますが、それによるセキュリティリスクの増大が懸念されます。
 
Gartner社の調査によると、AIのプライバシー侵害やセキュリティインシデントを経験したことのある組織の割合は41%にのぼっています。その一方で、「AIのリスク、プライバシー、セキュリティを積極的に管理している組織は、AIプロジェクトの成果を向上させている」こともわかったとしています。
 
AIの信頼性を維持・向上させるには、プライバシー侵害も含めて想定されるリスクに対し、しっかりとしたセキュリティ対策が重要であることがわかります。
 
AI TRiSMに取り組むためには、AIにおけるリスク、プライバシー、セキュリティとは具体的にどのようなものかを理解することが必要です。

今まで人の手で行っていた作業をAIが代替することで、作業の効率化や人件費の削減などの大きな恩恵が得られます。そのためAIは、自動車の運転、製造の自動化、医療現場などのさまざまな場所で活用されています。しかし、AIが万一不具合を起こすと、その影響は一個人一企業にとどまらず広範囲におよび、社会全体に甚大な損害が生じるおそれもあるのです。
 
そのため、AIに対するあらゆるリスクを想定し、再現性やその対策を講じなければなりません。また、AIを取り巻く環境は刻一刻と変化しています。AI導入時にリスク対策を講じて終わらせるのではなく、運用中も継続的に見直す必要があります。運用開始後もAIモデルの監視・更新を怠らないことで、AIモデルの陳腐化を防ぐことも重要です。

AIは個人のプライバシーを侵害する危険性を持ちます。AIは必要となるデータを収集し、そのデータに基づき解析を行い、解析結果を活用するかたちで最終的なアウトプットを行います。
 
個人のプライバシーに関するデータが収集される工程では、個人のプライバシーに関するデータが収集されるため、個人の承諾なく利用されてしまう危険性があるのです。例えば、次のような行為は、プライバシー保護の観点から問題があるでしょう。
 
商品の購入履歴を収集することで、個人が知られたくない趣向や関心が推定される
行動履歴を収集することで、個人の行動パターンが知られる
収集した個人情報から、差別的な判断や予測がされる
また、どれだけ高精度のAIモデルでも、収集したデータから推定したプロファイリングについての正確性は保証できません。もし、個人や企業などに対して誤った評価を出してしまうと、訂正が困難となり、最悪の場合、見分けられない偽情報が流出する可能性もあります。これも大きなプライバシーの侵害です。
 
AIによるプライバシーの侵害リスクは、ほかにもさまざまなケースが考えられます。あらゆるリスクを想定し、対策を練る必要があります。

外部からの攻撃に対する耐性もAIには欠かせない要素です。AIには多くのデータが収集されており、外部から攻撃を受ければ、多くの重要なデータを紛失するだけでなく、盗用される可能性もあります。また、AIのアウトプットに対して手を加えられることで、誤ったアウトプットを出力されるリスクも考えられます。AIのセキュリティ管理を確実に実施し、信頼性の高いモデルにしなくてはいけません。

今回はAI TRiSMについてご紹介しました。技術の進歩に伴い、AIの社会での活用や導入が増えていく中で改めて生じ得る様々なリスクを見直し、それにどう対応し運用していくべきか考える必要があります。そこでAIの信頼性を高める取り組みであるAI TRiSMは、AI活動全般を継続的に最適化するために活用されるのです。DX推進に向けて、 AI TRiSMについて正しく理解したうえで、積極的に取り組むことで、現在、そしてこれから未来のビジネスにおける、さまざまな要素を変革し、新たな価値を創出する突破口となるでしょう。
 
 
参照先：
https://usknet.com/dxgo/contents/dx-technology/what-is-ai_trism/
 
https://www.internetacademy.jp/it/programming/programming-basic/what_is_ai_trism.html
 
https://www.dx-digital-business-sherpa.jp/blog/what-is-ai-trism