Blog EU、AI規制法に関する暫定合意を発表 – EU Announces Provisional Agreement on the Artificial Intelligence Act

2023年12月12日

by Amanda M. Witt , Jon Neiditz , Dr. Siegmar Pohl , Meghan K. Farmer , John M. Brigagliano , Stephen M. Anstey   (和訳:穐場 仁)

2023年12月8日、欧州連合(EU)は、議会(Parliament)と理事会(Council)の交渉担当者は、「人工知能法(Artificial Intelligence Act)に関する暫定合意に達した」と発表した。交渉担当者は、AIの利用に関する包括的な規制について欧州が想定していた国際的な主導権を維持するため、相違点を解決するようプレッシャーを受けていた。2018年から準備がすすめられていた同法がEU法となるためには、欧州議会(Parliament)と理事会(Council)に正式に採択される必要があり、加えて、欧州議会域内市場(Parliament’s Internal Market)と人権(Civil Liberties)委員会は、近日中に開催される会合で合意内容を採決する予定である。提案された規制の多くは、少なくとも今後12-24カ月間は発効しない見込みである。

最終文章はまだ公開されていないが、EU人工知能法(Artificial Intelligence Act)がAIの以下のアプリケーションを禁止することを発表している:

  • バイオメトリクス分類システムにおける影響を受けやすい属性(政治的、宗教的、哲学的信条、性的指向、人種など)の使用
  • 顔認識データベースを構築するためインターネットやCCTV映像から顔画像を無差別スクレイピングすること
  • 教育機関や雇用環境における感情認識の利用
  • 個人的特徴や社会的行動に基づく社会的スコアリング
  • ダーク・パターン(人間の自由意志を回避するため人間の行動を操作するなど)を使用するAIシステム
  • AIを使用する人の弱み(年齢、障害、社会的あるいは経済的状況による)の悪用

同法が最初に提案されて以来、政策立案者は、生成AIのようなAI技術の継続的な進歩に対処する一方で、「基本的人権、民主主義、法の支配、環境の持続可能性」の保護を伴うイノベーションの推進のバランスをとることも模索してきた。政策立案者は、AIの知覚されたリスクをコントロールしたいという願望と、過剰な規制によって欧州のテクノロジー企業が米国企業に追いつくことが更に難しくなるのではないかという懸念とのバランスをとらなければならなかった。EUの発表に先立ち、議員が汎用AIと基盤モデルに関する一定の実質的な問題に関して行き詰っていると報じられていた。今年初めのEUリリースreleaseにあるように、このようなモデルは、「ラベルなしの広範なデータセットで学習されており、最小限の微調整でさまざまなタスクに使用できる」としている。

人工知能法(Artificial Intelligence Act)の暫定合意に関するEUの発表では、禁止されたアプリケーション、法執行の免除、リスクの高いシステムに対する義務、一般的な人工知能システムのガードレール、イノベーションと中小企業(SMEs)を支援する対策、制裁、などの主要なトピックが取り上げられている。同法ではAI規制にリスクベースのアプローチに従うことが予定され、特定の行為が禁止される一方(上記参照)、社会に危害を及ぼすリスクの高い他のAIツールについては、より高いレベルの安全性を要求している。注目すべきことは、発表では、「(健康、安全、基本的人権、環境、民主主義、法の支配に重大な影響を与える可能性があるため)、高リスクに分類されるAIシステムについては、明確な義務が合意された」と述べられている。同法は、AIシステムの実装に人間の監視を要求する可能性が高い。「選挙結果や有権者の行動に影響を与えるために使用される」すべてのAIシステムも、高リスクに分類される。さらに、保険と銀行部門に適用されるものに基本的な権利影響評価の義務化と追加要件が設けられた。

EUの人工知能法(Artificial Intelligence Act)の暫定合意と、最近発表された人工知能の安全、安心かつ信頼できる開発と使用に関する大統領令(US Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)は、教育、刑事司法、公益行政だけでなく、無数の産業分野に影響を及ぼすと思われる広範囲に及ぶAI規制の成文化に関する重要な進展である。

EU一般データ保護規則(General Data Protection Regulation, GDPR)が他のグローバルなプライバシー法の基準をどのように設定しているのかと同様に、人工知能法(Artificial Intelligence Act)が他のグローバルな法律の基礎を形成する可能性が高いため、多くの人が「ブリュッセル効果(Brussels Effect)」が続くと予想している。一般データ保護規則と同様に、人工知能法(Artificial Intelligence Act)に違反した場合、多額の罰則が科せられる可能性がある。同法では、執行の詳細はまだ明らかになっていないものの、違反した場合、違反内容や企業規模に応じて、世界の売上高の7%の3500万ユーロから、売上高の1.5%の750万ユーロの罰金が科される可能性がある。

Click here for the Original English version.

 

Kilpatrick

Kilpatrick – Generative AI

キルパトリック・タウンゼントの生成AI実務は、クライアントと協力して、最も差し迫ったAIの懸念や課題に取り組み、クライアントの全体的なビジネス戦略や目標に沿った結果を達成するお手伝いをいたします。知的財産、プライバシー、サイバーセキュリティ、米連邦法および規制、商取引、紛争解決などの分野を専門とする当事務所のチームは、生成AIに関連するリスク、コンプライアンス要求および有利なチャンスをモニターし、積極的に対処します。詳しくは、弊所ウェブサイトKilpatrick – Generative AIをご覧ください。

Kilpatrick – Cybersecurity, Privacy & Data Governance

キルパトリック・タウンゼントのサイバーセキュリティ、プライバシー&データ・ガバナンス実務は、クライアントが最も重要な情報を、最も現実的で費用対効果が高く、ビジネスに焦点を当てた方法で保護できるよう支援します。弊所チームは、複雑化するプライバシー、データ保護、サイバーセキュリティに関する世界的な規制の枠組みへの対応、あらゆる情報関連リスクの予測と管理、情報の価値の最適化と適切な収益化、インシデントの抑制と迅速かつ効果的な対応、紛争や調査の防止と管理、回収と回復力の最大化などで、クライアントをサポートします。詳しくは、弊所ウェブサイトCybersecurity, Privacy & Data Governanceをご覧ください。

Kilpatrick – Government and Regulatory

キルパトリック・タウンゼントの政府と規制実務は、AI、エネルギー、持続可能性、部族、金融、分散型台帳技術(ブロックチェーンを含む)、デジタル資産(暗号通貨、ステーブルコイン、トークン化および中央銀行デジタル通貨(CBDC))を含む、広範かつ業界特有の事項まで、政策、立法、規則制定、コンプライアンス、規制に関する法的サービスや法的ガイダンスを提供しています。詳しくは、弊所ウェブサイトKilpatrick – Government & Regulatoryをご覧ください。