AIエージェント能力アトラス › 仕事ごとの一覧 › ソフトウェア開発 › セキュリティ（脆弱性発見/ペンテスト/修正）

AIエージェント特有の脆弱性（プロンプトインジェクション等）への防御

Defending against AI-agent-specific vulnerabilities (prompt injection, etc.)

0 できない ／ 1 デモ止まり ／ 2 補助 ／ 3 実務品質（要確認） ／ 4 専門家並み ／ 5 専門家超え。「予」は予測。

専門家と比べて

この分野は人間側にも確立した専門家層が薄く、双方が手探りの段階

できること

既知のプロンプトインジェクションパターンに対する入力サニタイズ・ガードレール設計の提案

まだできないこと

未知の新しいジェイルブレイク手法への事前対応、エージェントの権限逸脱を完全に防ぐ設計の保証

なぜそうなのか

攻撃側も生成AIを使い高速にイテレーションするため防御が追いつかない、確立されたベストプラクティスがまだ薄い

これからの予測の根拠

問題自体がAIエージェント普及と共に新しく生まれ続けるため、防御側の成熟には数年のタイムラグがあると予測

いま使える主な道具

OpenAI AI-safety bug bounty、Anthropic Trust & Safety tooling

根拠

• AI Pentesting Agents 2026: The Rise of 39+ Tools Tested 2026-06
  2026年の監査でAIシステムの73%がプロンプトインジェクション脆弱性への露出を示したと報告
• Will AI Kill the Bug Bounty Industry? 2026-02
  OpenAIが2026年3月末、プロンプトインジェクション・エージェントのデータ持ち出し・有害な自律行動に特化したAI安全性専用バグバウンティを開始

同じ分野のほかの仕事（セキュリティ（脆弱性発見/ペンテスト/修正））

• 脆弱性発見・自動ペネトレーションテスト
• 発見した脆弱性の修正パッチ作成
• AI生成コード自体に混入する脆弱性の抑制

AIエージェント能力アトラス 2026（2026-09-06 時点・v1.0）の1マスです。レベルは公開された実験・ベンチマーク・報告から付けた目安で、2027年以降は予測です。全マスに根拠のリンクがあります。作者は個人で、AI（Claude）と一緒に調べて作っています。