ICTワールドニュース

欧州議会は、6月14日、世界初のAI規制となるAI法案の交渉マンデートを可決した。これをもってAI法案は三者協議プロセスに入る。AI法案はリスクに基づくアプローチを採っており、リスクの大きさに応じて規制が課される。欧州議会によるAI法案の主な修正点は次のとおり。

＊禁止されるAIの拡大：公共のアクセス可能な空間におけるリアルタイム遠隔生体認証システム、事前承認を経た深刻犯罪の法執行の例外を除く事後の遠隔生体認証、機微な特性（性別、人種、民族性、市民権、宗教、政治的指向）を使用する生体認証分類システム、プロファイリング、位置情報又は犯罪行為歴に基づく予測による警察システム、法執行、国境管理、職場、教育機関における感情認識システム、顔認証データベースを作成するためのインターネットやCCTV映像からの無差別な画像収集
＊高リスクAIの拡大：人々の健康、安全、基本的権利又は環境に対して重大な危害を及ぼすAIシステム、有権者と選挙の結果に影響を与えることに使用されるAIシステム、4,500万人以上のユーザを有するソーシャルメディアプラットフォームで使用されているレコメンダーシステム
＊汎用型AIの義務：健康、安全、基本的権利、環境、民主主義、法治主義に対して可能性のあるリスクの評価及び低減措置、EU市場への公開前のEUデータベースへのモデル登録、生成AIシステムに対する透明性確保（AIにより生成されたことを掲示）、生成された違法コンテンツに対するセーフガードの確保、訓練に使われた著作権を有するデータに係る詳細の開示
＊イノベーションのサポートと権利保護：研究活動及びオープンソースライセンスに基づき提供されるAI要素の例外措置、規制のサンドボックスの推進、市民の苦情申立て及びハイリスクAIに基づく決定に関する説明を受ける権利の強化