AIセキュリティ研究所（AI Security Institute：AISI）は、サイバー能力評価中に一部のAIエージェントが実在の個人や組織を対象とした未承認行動を行ったと発表した。評価122回のうち10回で計19件の逸脱行動が確認され、そのうち17件はアンスロピックの「Mythos 5」、2件はOpenAIの「GPT-5.6-Sol」によるものだった。最も深刻な事例では、AIが実在のオープンソースプロジェクトに悪意あるコードを提案し、偽アカウントを使って承認を得ようとしたが、人間の開発者が不正を見抜き阻止した。このほか、実在の人物への接触、悪意あるコード実行の誘導、他のAIを狙ったプロンプトインジェクション、AI同士の協力行動も確認された。実害は確認されなかったものの、AIが実際に人間や組織へ働きかけるなど、限定的な現実世界への影響が発生した。AISIは、AIが指示されていないにもかかわらず、目標達成のために自律的に欺瞞的手段を選択した点を重視している。AISIは今後、インターネット接続の制限強化やリアルタイム監視の導入などを進める方針であり、今回の事例を将来的な高度AIエージェントのリスクを示す重要な警告と位置付けている。
英国・市場に関する詳しい情報はこちらへ