IPA（情報処理推進機構）は7月4日、「AI利用時のセキュリティ脅威、リスク調査調査報告書」を発表した。
生成AIの登場により、業務でのAI利用機会が増えているが、その一方、AI利用の脅威やリスクについては十分な検討がされておらず、悪用や誤用によるサイバー攻撃やインシデントが懸念されている。本調査は、AIの業務利用の浸透具合やセキュリティ上の脅威・リスクの認識について、企業・組織の実務担当者を対象にWebアンケートを実施したもの。
調査期間は2024年3月18日～21日で、事前調査では4941人、本調査では1000人に対して調査した。
AIの利用状況
2024年3月時点で「AIを利用している」のは16.2％で、「予定あり」を合わせても22.5%（回答者4941人中の1114人）にとどまり、まだ十分には浸透はしていない状況がうかがえる。
AIサービス別の「利用している」割合は、以下のとおりである。
・AIによる翻訳サービス：16.3％
・AIによるチャット・質問回答サービス：16.4％
・AIによるソフトウェア開発支援：12.0％
・AIによる文案作成・文章チェック：15.6％
・AIによる法務文書作成・文言チェック：12.4％
・AIによる仕様書作成支援：12.2％
・AIによる画像生成：11.3％
・AIによる学習支援：11.5％
・AIによる運用監視サービス：10.1％
・AIによるセキュリティ監視サービス：10.6％
・AIによるカスタマサービス：10.7％
・AI による業務効率化・自動化：13.7％
・AIによるリスク分析：10.9％
・AIによるトレンド予測：10.4％
・その他のAIサービス：8.6％
AIサービスの利用（許可）開始は、生成AIの登場（2023年1月～）以降に増えていることがわかる。
またその内訳は、業種共通的に利用可能なサービスから利用が進み、その中でも「チャット・質問回答」といった顧客向けサービス改善に有効と考えられるAIサービスの利用が先行しており、社内業務効率化に有効と考えられる「翻訳や文案作成」などのサービスが続く。さらに「業種・業務の専門性が必要と考えられるサービス」を含むすべてのカテゴリでも同程度に利用率が増加しており、報告書では「今後はさらに利用が加速すると考えられる」と分析している。
AIに関するセキュリティ脅威と対策の重要性
AIに関するセキュリティ脅威については、27.1％が「重大な脅威である」、33.3％が「やや脅威である」と回答し、全体の約6割が脅威を感じている。
セキュリティ対策の重要度については、分類AIおよび生成AIとも3/4の回答者が「重要」と回答している。
AIの導入・利用可否で「非常に重要だと思う」項目のトップは、生成AI・分類AIとも「セキュリティ対策」だったが、「非常に重要だと思う（＝青色）」「やや重要だと思う（＝橙色）」の合計では、生成AIでは「出力の正確性」と「作業効率」が続き、分類AIでは「判定精度」と「作業効率」が2位・3位となった。
AIサービスの利用に関するセキュリティ規則や手順・体制の整備については、企業規模の大と中小で差があり、中小規模企業で遅れている状況が浮き彫りになった。
生成AI利用の課題と対策
生成AIの利用・普及における課題は、「非常に大きな課題である」「やや課題だと思う」を合わせると、最も多いのは「詐欺による金銭被害・情報流出」だったが、いずれの事象も全体の6割以上が課題と考えており、差は大きくない。報告書では、「優先度がつけられてないため対応の遅れが懸念される」と指摘している。
AIサービスを利用しない理由
AIサービスを利用しない理由については、大規模・中小規模企業とも「安全性リスクが懸念される」「セキュリティ・プライバシーリスクが懸念される」が25％前後の回答となった。その一方、「AIを導入するほどITを活用できていない」と「AIに関するエキスパートがいない」は中小規模企業にとってより大きな課題になっている。
・IPA「「AI利用時の脅威、リスク調査報告書」
https://www.ipa.go.jp/security/reports/technicalwatch/20240704.html
［i Magazine・IS magazine］
