経済産業省と総務省は、最近の技術の急速な進化やAIの普及に対応するため、関連する既存のガイドラインを統合・更新し、「AI事業者ガイドライン（第1.0版）」をまとめました。
AI技術は日々進化し、産業や個人生活に革新をもたらしています。しかし、新たなリスクも増えており、その安全な利用のためにガイドラインが策定されました。
ここでは『AI事業者ガイドライン（第1.0版） 』を忙しい人のために分かりやすくまとめます。
省略している情報がありますので、経済産業省のホームページからガイドラインを実際に読むことを強くおすすめします。
AIドリブン経営 人を活かしてDXを加速する
ガイドラインの基本構成
できるだけシンプルにまとめると、ガイドラインは以下の構成になっている。
- 第1部: 用語の定義
- 第2部: AIの活用による社会目標や基本理念を述べ、リスク管理の重要性を強調
- 第3部〜第5部: AIを活用する3つの主体に関する（2部で触れられない）留意点を詳細に説明
ガイドラインの登場人物（3つの主体）
AI開発者（AI Developer）
AIシステムの開発を行う事業者。AIモデルやアルゴリズムの開発、データの収集や前処理、モデルの学習と検証を担当。
AI提供者（AI Provider）
AIシステムをアプリケーションや製品、既存のシステム、ビジネスプロセスなどに組み込んだサービスを提供する事業者。
AIシステムの検証や他のシステムとの連携の実装、AIサービスの提供、AIシステムの運用サポートを行う。
AI利用者（AI Business User）
事業活動においてAIシステムやAIサービスを利用する事業者。
AI提供者が意図した適正な利用を行い、AIシステムの正常稼働を支援する役割を担う。業務外利用者に影響を与える場合は、不利益の回避や便益最大化を図る。
Amazonで「実践 生成AIの教科書 ――実績豊富な活用事例とノウハウで学ぶ」を見る
第1部：用語の定義
AI
現時点では、確立された定義はなく、広義の人工知能を厳密に定義するのは難しい。ガイドラインでは、AIは「AIシステム」そのものや、機械学習を行うソフトウェアやプログラムを含む抽象的な概念とされる。
AIシステム
機械やロボット、クラウドシステムなど、様々なレベルの自律性を持ち、学習するソフトウェアを要素として含むシステム。
高度な AI システム
最先端の基盤モデル及び生成 AI システムを含む、最も高度な AI システム。
AI モデル（ML モデル）
AI システムに含まれ、学習データを用いた機械学習によって得られるモデルで、入力データに応じた予測
結果を生成する。
AI サービス
AIシステムを用いた役務。AI利用者に対する価値提供全般を指し、技術だけでなく、人間によるモニタリングや適切なコミュニケーションなど、非技術的アプローチも含まれる。
生成AI
文章、画像、プログラム等を生成できる AI モデルにもとづく AI の総称。
AI ガバナンス
AIの利用によるリスクを管理し、同時にポジティブな影響を最大化するための、技術的、組織的、社会的なシステムの設計と運用。
図解即戦力 AIのしくみと活用がこれ1冊でしっかりわかる教科書
第２部：AI により目指すべき社会及び各主体が取り組む事項
基本理念
- 人間の尊厳が尊重される社会（Dignity）
- 多様な背景を持つ人々が多様な幸せを追求できる社会（Diversity and Inclusion）
- 持続可能な社会（Sustainability）
原則
各主体が取り組む事項
各主体は、「基本理念」に基づいてAIの価値を最大化し、人間の尊厳を守りながら社会課題を解決する。
そのため、社会的リスクを減らし、安全性や公平性を確保し、プライバシーやセキュリティを保護する。
透明性を高め、アカウンタビリティを果たすために、適切な情報を提供する。
AIアーキテクチャの変化に備え、連携し合って品質を向上させ、リスクを最小限に抑えながら最大の利益を得ることが期待される。
社会と連携した取組が期待される事項
AIの社会的利益を最大化し、基本理念を実現するためには、個々の主体だけでなく、政府、自治体、コミュニティと積極的に協力する。
各主体は社会と連携し、分断を避け、全ての人々にAIの利点を享受できるよう教育やリテラシーを提供する。
さらに、公正な競争を確保し、イノベーションを促進することで新たなビジネスやサービスを生み出し、持続的な経済成長や社会問題の解決に貢献することが期待される。
共通の指針
人間中心
①人間の尊厳及び個人の自律
個人の尊厳と自律を尊重すべき。特に人間の身体とAIを連携させる場合には生命倫理の議論を考慮する。
地理的な法令遵守や個人情報、知的財産権の保護も重要。
②AI による意思決定・感情の操作等への留意
個人の意思決定や感情を不当に操作せず、バイアスやフィルターバブルなどのリスクに注意する。特に社会的な影響が大きい場合には慎重に扱う。
③偽情報等への対策
AIによる偽情報や誤情報への対策をする。
④多様性・包摂性の確保
多様性と包摂性を確保し、情報弱者や技術弱者が取り残されないように配慮する。
⑤利用者支援
AIシステムやサービスの利用者支援をする。適切な情報提供やサポートが提供されないといけない。
⑥持続可能性の確保
AIの持続可能性も考慮し、地球環境への影響を検討する。
安全性
① 人間の生命・身体・財産、精神及び環境への配慮
AIシステムやサービスの信頼性と堅牢性を確保し、人間がコントロールできる制御可能性を確保するため、適切なリスク分析を行い、必要な対策を講じる。
人間の生命・身体・財産、精神、環境に危害を及ぼす可能性がある場合は、関連する情報を提供し、対処方法を整える。
② 適正利用
AIシステムやサービスの開発・提供・利用では、主体のコントロールが及ぶ範囲内で、本来の目的を逸脱した提供や利用による危害を防ぐために注意する。
③適正学習
AIシステムやサービスの特性や目的に応じて、学習に使用するデータの正確性と最新性を確保する。また、データの透明性を確保し、法的な規定に遵守するために適切な法的枠組みを整備する。
AIモデルの更新を合理的な範囲で行い、常に最新の情報を反映させる。
公平性
①AI モデルの各構成技術に含まれるバイアスへの配慮
不適切なバイアスを回避するために、学習データ、AIモデルの学習過程、プロンプト、推論時の情報、外部サービスなど、様々な要素を検討し、公平性に関わる可能性のあるポイントを特定する。
AIシステムやサービスの特性や用途によって潜在的なバイアスが生じる可能性も考慮する。
②人間の判断の介在
公平性を確保するために、AIの出力結果に人間の判断を介在させる方法を検討する。また、バイアスが生じていないかを透明で明確な方法で分析し、対処するためのプロセスを導入する。
無意識のバイアスや潜在的なバイアスに留意し、多様なステークホルダーとの対話を通じて方針を決定する。
プライバシー保護
①AI システム・サービス全般におけるプライバシーの保護
関連法令の遵守やプライバシーポリシーの策定・公表を通じて、ステークホルダーのプライバシーを尊重し保護する。個人情報保護法や国際的な個人データ保護の基準に基づき、適切な対応策を検討する。
セキュリティ確保
①AI システム・サービスに影響するセキュリティ対策
AIシステムやサービスの機密性、完全性、可用性を維持し、常時安全な活用を確保するために、現在の技術水準に応じた適切な対策を講じる。
AIシステムの特性を理解し、正常な動作に必要なシステム間の接続が適切に行われているかを検討する。
微細な情報が推論対象データに混入することで、意図しない判断が行われる可能性があることを認識し、AIシステムの脆弱性を完全に排除することは難しいことを考慮する。
②最新動向への留意
AI システム・サービスに対する外部からの攻撃は日々新たな手法が生まれており、これらのリスク
に対応するための留意事項を確認する。
透明性
① 検証可能性の確保
AIの判断の検証可能性を確保するために、AIシステム・サービスの開発過程や利用時の入出力などのログを合理的な範囲で記録・保存する。
記録・保存方法や頻度、保存期間などについては、事故の原因究明や再発防止策の検討、損害賠償責任の証明上の重要性を考慮して検討する。
② 関連するステークホルダーへの情報提供
各主体は、AIシステム・サービス全般に関する情報を提供し、以下の項目について説明する。
- AI を利用しているという事実及び活用している範囲
- データ収集及びアノテーションの手法
- 学習及び評価の手法
- 基盤としている AI モデルに関する情報
- AI システム・サービスの能力、限界及び提供先における適正/不適正な利用方法
- AI システム・サービスの提供先、AI 利用者が所在する国・地域等において適用される関連法令等
③ 合理的かつ誠実な対応
②は、アルゴリズムやソースコードの開示を前提としない。プライバシーや営業秘密を尊重しつつ、採用する技術の特性や用途に応じて、社会的に合理的な範囲で情報提供を行う。
公開されている技術を使用する場合には、関連する規定に準拠する。さらに開発したAIシステムをオープンソース化する場合でも、社会的な影響を検討する。
④ 関連するステークホルダーへの説明可能性・解釈可能性の向上
・AI 提供者：AI 開発者に、どのような説明が必要となるかを共有する
・AI 利用者：AI 開発者・AI 提供者に、どのような説明が必要となるかを共有する
アカウンタビリティ
① トレーサビリティの向上
データの出所、AI システム・サービスの開発・提供・利用中に行われた意思決定等について、技
術的に可能かつ合理的な範囲で追跡・遡求が可能な状態を確保する。
② 「共通の指針」の対応状況の説明
「共通の指針」の対応状況について、ステークホルダー（サプライヤーを含む）に対してそれぞれ が有する知識及び能力に応じ、例えば以下の事項を取りまとめた情報の提供及び説明を定期 的に行う。
③ 責任者の明示
各主体においてアカウンタビリティを果たす責任者を設定する。
④ 関係者間の責任の分配
関係者間の責任について、業務外利用者も含めた主体間の契約、社会的な約束（ボランタリ
ーコミットメント）等により、責任の所在を明確化する。
⑤ ステークホルダーへの具体的な対応
各主体は、AIの利用に伴うリスク管理と安全性確保のための方針を策定し、公表する。また、出力の誤りについてステークホルダーからの指摘を受け付け、客観的なモニタリングを行う。
ステークホルダーの利益を損なう事態が発生した場合には、方針に基づいた対応を着実に実施し、進捗状況を定期的に報告する。
⑥ 文書化
上記に関する情報を文書化して一定期間保管し、必要なときに、必要なところで、入手可能
かつ利用に適した形で参照可能な状態とする。
公正競争確保
各主体は、AI を活用した新たなビジネス・サービスが創出され、持続的な経済成長の維持及び社会課
題の解決策の提示がなされるよう、AI をめぐる公正な競争環境の維持に努めることが期待される。
イノベーション
各主体は、社会のイノベーションを促進する責任がある。
- オープンイノベーションを推進し、国際化や産学官連携に努める。
- 自社のAIシステムと他のシステムとの接続性や運用性を確保し、標準仕様に準拠する。
- 自社のイノベーションを損なわない範囲で、必要な情報提供を行う。
図解即戦力 AIのしくみと活用がこれ1冊でしっかりわかる教科書
高度な AI システムに関係する事業者に共通の指針
高度な AI システムに関係する事業者は以下を遵守すべきである。
- AI ライフサイクル全体にわたるリスクを特定、評価、軽減するために、高度な AI システムの開発全体を通じて、その導入前及び市場投入前も含め、適切な措置を講じる
- 市場投入を含む導入後、脆弱性、及び必要に応じて悪用されたインシデントやパターンを特定し、緩和す
る - 高度な AI システムの能力、限界、適切・不適切な使用領域を公表し、十分な透明性の確保を支援する
ことで、アカウンタビリティの向上に貢献する - 産業界、政府、市民社会、学界を含む、高度な AI システムを開発する組織間での責任ある情報共有
とインシデントの報告に向けて取り組む - 特に高度な AI システム開発者に向けた、個人情報保護方針及び緩和策を含む、リスクベースのアプロー
チにもとづく AI ガバナンス及びリスク管理方針を策定し、実施し、開示する - AI のライフサイクル全体にわたり、物理的セキュリティ、サイバーセキュリティ、内部脅威に対する安全対策を含む、強固なセキュリティ管理に投資し、実施する
- 技術的に可能な場合は、電子透かしやその他の技術等、AI 利用者及び業務外利用者が、AI が生成し
たコンテンツを識別できるようにするための、信頼できるコンテンツ認証及び来歴のメカニズムを開発し、導入する - 社会的、安全、セキュリティ上のリスクを軽減するための研究を優先し、効果的な軽減策への投資を優先する
- 世界の最大の課題、特に気候危機、世界保健、教育等（ただしこれらに限定されない）に対処するた
め、高度な AI システムの開発を優先する - 国際的な技術規格の開発を推進し、適切な場合にはその採用を推進する
- 適切なデータインプット対策を実施し、個人データ及び知的財産を保護する
- 高度な AI システムの信頼でき責任ある利用を促進し、貢献する
図解即戦力 AIのしくみと活用がこれ1冊でしっかりわかる教科書
AI ガバナンスの構築
AIの安全かつ安心な活用を促進し、バリューチェーン全体で共通の指針を確立するためには、AIガバナンスの構築が不可欠。特に、「Society 5.0」の実現に向けて、サイバー空間とフィジカル空間を融合させたシステムの社会実装を進める中で、適切なAIガバナンスの確立が重要。
このようなCPSを基盤とする社会は複雑で変化が速く、リスクの統制が難しいため、AIガバナンスも常に変化していく必要がある。
固定されたルールや手続きではなく、多様なステークホルダーが参加し、「環境・リスク分析」「ゴール設定」「システムデザイン」「運用」「評価」といったサイクルを迅速に回転させるアジャイル・ガバナンスの実践が重要。
第３部 AI 開発者に関する事項
AI開発者は、直接AIモデルを設計・変更できるため、AIの出力に大きな影響力を持つ。
イノベーションを牽引し、社会全体に影響を与える役割も担う。したがって、自身が開発するAIがどのような影響を与えるかを事前に検討し、対応策を講じることが重要である。
AI開発の現場では、正確性を追求する中でプライバシーや公平性が損なわれる場合もあるが、経営リスクや社会的影響を考慮し、適宜判断・修正する必要がある。
また、予期せぬ事故が発生した場合、AI開発者は関与した内容について合理的な説明をするために記録を残すことが重要である。
Amazonで「実践 生成AIの教科書 ――実績豊富な活用事例とノウハウで学ぶ」を見る
第４部 AI 提供者に関する事項
AI提供者は、開発者が開発したAIシステムに付加価値を与え、利用者に提供する役割を果たす。
AIの普及と発展に貢献する一方で、社会への影響が大きいため、適正な利用を実現することが重要。
そのため、AIがシステムに適しているかを考慮し、ビジネス戦略や社会環境の変化に応じて適切な管理と維持を行う必要がある。また、開発者が意図した範囲で実装し、正常に稼働させることが重要であり、利用者にはサポートと運用を提供する必要がある。
提供する際には、ステークホルダーの権利を尊重し、社会への不利益を最小限に抑えるように注意し、関連情報を共有して安全で信頼性の高いサービスを提供することが期待される。
AIドリブン経営 人を活かしてDXを加速する
第５部 AI 利用者に関する事項
AI利用者は、安全で信頼できるAIシステム・サービスを提供され、AI提供者が意図した範囲内で適正利用し、必要に応じて運用を行うことが重要。
これにより、業務効率化や生産性向上などAIによるイノベーションの恩恵を最大限受けることができる。また、人間の判断を介在させることで、人間の尊厳と自律を守りつつ予期せぬ事故を防ぐことも可能。
AI利用者は、AIの能力や出力結果に関する説明を求められた場合、AI提供者のサポートを得て要望に応じ、理解を得ることが期待される。さらに、効果的なAI利用のために必要な知識も身につけることが期待される。
Amazonで「実践 生成AIの教科書 ――実績豊富な活用事例とノウハウで学ぶ」を見る
参考文献
経済産業省ホームページ「AI事業者ガイドライン（第1.0版）」
コメント