米国標準技術研究所（NIST）は、1月4日、AI・MLソフトウェアの誤動作を引き起こすことを目的としたサイバー攻撃に関する報告書を発表した。同報告書は、AI／MLソフトウェアやデータセットを狙うデジタル攻撃の要素と特性を定義し、AIの訓練に使われるデータを不正操作することで、AIシステムに影響を与えようとする手法について議論。攻撃を受けた場合、これに対処する方法も提示しているが、NISTは、「これらの防御策がリスクを完全に緩和することは保証できない」とし、コミュニティがより優れた防御策を見出すことを奨励するとしている。NISTは、この報告書で、AI／MLに対する攻撃のタイプとして、導入されたAIシステムへの入力を操作する「回避（Evasion）」、訓練データを操作する「汚染（Poisoning）」、AIに質問することでAIモデルや訓練データの機微情報を引き出そうとする「プライバシー（Privacy）」、AIが学習に使うオンラインソースを操作する「悪用（Abuse）」の四つを挙げている。
米国・政策に関する詳しい情報はこちらへ