AIシステムが読み込む画像などの学習データの管理を対象としてシステム監査を実施した。判明した状況のうち、監査人が、指摘事項として監査報告書に記載すべきものはどれか。

  1. AIシステムの学習期間中における学習データの責任追跡性を確保するために、当該データを保管するサーバのアクセスログを取得し、定期的に確認を行っていた。
  2. 学習データが消失した場合、当該データを保管するサーバのバックアップを利用し、AIシステムで学習を再開することを定めていた。
  3. 学習データの機密性の確保に際して、データを保管するサーバでアクセス制御の仕組みを実装していた。
  4. 学習の基礎となるデータの信頼性の確保について、 AI であれば問題ないとの憶測に基づき、実績のないAIシステムに判断させたデータを利用していた。

出典:令和5年度 システム監査技術者試験 午前2 問1




正解:エ
問題のポイント
この問題では、AIシステムが使用する学習データの管理に関する監査の結果について問われています。
監査の観点から、指摘事項として報告すべき不適切な管理があるかを判断する必要があります。

各選択肢の検討
1. 「AIシステムの学習期間中における学習データの責任追跡性を確保するために、当該データを保管するサーバのアクセスログを取得し、定期的に確認を行っていた。」 → 適切

**責任追跡性(アカウンタビリティ)**を確保するために、アクセスログの取得と定期的な確認を実施するのは適切な管理手法。
監査の指摘事項には該当しない。

2. 「学習データが消失した場合、当該データを保管するサーバのバックアップを利用し、AIシステムで学習を再開することを定めていた。」 → 適切

データ消失への対策として、バックアップの利用は適切な管理策。
監査の観点でも、適切なリスク管理が実施されていると評価できるため、指摘事項にはならない。

3. 「学習データの機密性の確保に際して、データを保管するサーバでアクセス制御の仕組みを実装していた。」 → 適切

学習データが機密情報を含む場合、アクセス制御を実装するのは適切なセキュリティ対策。
機密性を確保するための措置として妥当であり、指摘事項にはならない。

4. 「学習の基礎となるデータの信頼性の確保について、AIであれば問題ないとの憶測に基づき、実績のないAIシステムに判断させたデータを利用していた。」 → 不適切(指摘事項として報告すべき)

AIの学習データの信頼性は、AIモデルの精度や公平性に直結する重要な要素。
「AIであれば問題ない」という憶測に基づいてデータを利用するのは、不適切なデータ管理の典型例。
実績のないAIシステムにデータの信頼性を判断させるのはリスクが大きく、監査の指摘事項として報告すべき内容。


結論
✅ 正解:「学習の基礎となるデータの信頼性の確保について、AIであれば問題ないとの憶測に基づき、実績のないAIシステムに判断させたデータを利用していた。」

AIの学習データの信頼性は、AIの出力結果の精度や公平性に大きく影響する。
信頼性が確認されていないデータをAIシステムに判断させるのはリスクが高く、不適切な管理である。
監査の観点から見ても、このような不適切なデータ管理は指摘事項として報告すべき内容に該当する。

ポイントのまとめ
AIシステムの学習データ管理では、責任追跡性・バックアップ・アクセス制御の実装は適切な管理策。
学習データの信頼性を十分に確認しないまま利用することは、重大な問題となる。
監査の指摘事項として報告すべきなのは、「AIに判断を任せ、信頼性を確認せずにデータを利用したケース」。