関連している
今日のデータ主導の世界では、AIは単なる地図上の存在ではなく、最速レーンとなっています。重要な洞察の採掘や規制シフトの追跡から、リスクの予測、従業員の安全衛生指標の監視、報告書の合理化まで、AIはEHS、持続可能性、コンプライアンスの未来に舵を切っています。しかし、専門家がハンドルを握るようになった今、この先にはどのような障害と青信号が待ち受けているのでしょうか。この連載では、EHSにおけるAIの未来をナビゲートします。
欧州は常に規制の最前線にいるため、2021年当時、欧州議会が現行の規則（EU）2024/1689人工知能法（EU AI ACT）の準備を世界初と喧伝したのも不思議ではない。最近では、欧州標準化委員会が人工知能を抑制するための枠組みを起草している。というのも、AIは私たちの生活に急速に入り込み、猛スピードで進化しているからだ。
その結果、規制当局は一度に多くの変数を管理する必要があり、また迅速な変化にも直面することになる。規制当局は、安全上の懸念など特定の分野に焦点を絞ることを余儀なくされている。
著作権の問題、責任の問題など、AIで解決すべき問題は実に多いが、欧州が大胆な動きを見せた。EUデジタル戦略の一環として、欧州委員会は2021年4月、リスクベースのAI分類というEU初の人工知能法を提案した。さまざまな用途に使用できる人工知能システムは、ユーザーに与えるリスクに応じて分析・分類されなければならない。4つの異なるリスクレベルは、厳格に実施されなければならないAIコンプライアンス要件と対になっている。一方、意図しない有害な結果を避けるため、システムは自動制御ではなく人間の監視下に置かれる必要がある。
一見したところ、それはそれほど大きなことではないように思えるかもしれない。正直に言おう。私たちは、より良い医療や職場環境、より効率的な製造、より持続可能なエネルギーなど、私たちに多くの利益を生み出すことができる、安全で適切に規制された人工知能を切実に必要としている。その一方で、悪質なAI詐欺やフェイク動画も増えており、それも残念ながら一部である。規制当局は、活況を呈する人工知能の動向に歩調を合わせるしかない。
EUのAI法、リスクレベルに基づく段階的ルールを設定
長年の議論の結果、AIシステムの利用者に与えるリスクの度合いに応じてプロバイダーに義務を課す段階的な枠組みが導入された。ほとんどのAIアプリケーションは低リスクと考えられているが、すべてのアプリケーションは評価の対象となる。
禁止行為
新規則によると、EUでは「容認できないリスク」をもたらすとみなされるアプリケーションは禁止されている。これには、危険な行動を促す音声対応の子供用玩具のような認知行動操作、行動や社会経済的地位によって人々をランク付けするソーシャルスコアリングシステム、公共空間でのリアルタイムの顔認識を含む生体認証と分類などが含まれる。
法の執行については、限定的な適用除外が考えられる。リアルタイムのバイオメトリクス監視は、狭義の重大事件で許可されるかもしれない。一方、遅延バイオメトリクス識別は、事前の裁判所の承認を条件として、重大犯罪の訴追に使用されるかもしれない。
ハイリスクシステム
安全や基本的権利に影響を及ぼすとみなされるAIは「高リスク」のカテゴリーに属し、主に以下の2つのグループに分類される：
- 玩具、自動車、航空、リフト、医療機器など、EUの製品安全法がすでに適用されている製品に組み込まれているシステム。
- 重要インフラ、教育、雇用、必要不可欠なサービスへのアクセス、法執行、移民・国境管理、法的意思決定など、センシティブな分野における独立型システム。
リスクの高いシステムはすべて、EUのデータベースに登録され、市場参入前にアセスメントを受け、ライフサイクルを通じて監視を受け続けなければならない。ユーザーは各国当局に苦情を申し立てることができる。
限定的／低リスク：透明性と汎用モデル
画像、音声、動画コンテンツ、チャットボットを生成または操作するAIシステムは、最小限の透明性要件で許可されている。これは基本的に、ユーザーがAIと相互作用していることを警告しなければならないことを意味する。これによりユーザーは、そのシステムを使い続けるかどうかを決めることができる。
これらの透明性要件には以下が含まれる：
- コンテンツがAIによって生成されたものであることを明確にする。
- 違法なコンテンツが発生しないようにモデルを設計すること。
- トレーニングに使用した著作権保護されたデータの要約を公開すること。
ChatGPTのようなAIツールは何の義務もなく許可されているが、EU AI法とEU AI事務局は、プロバイダーが自主的な実践規範を作成し、実施するよう促している。
EU、イノベーションの促進とAIスタートアップの支援を目指す
EUのAI法はリスクを抑制するだけでなく、イノベーションを促進し、人工知能における欧州の地位を強化することも目的としている。この法律は、新興企業や中小企業に成長の余地を与えることを目的として、企業が一般公開に先駆けて汎用AIモデルを開発し、テストすることを認めている。
各国当局は、「規制のサンドボックス」と呼ばれる、実社会の状況を再現したテスト環境を提供することが求められる。これらは、急速に拡大する欧州のAI市場において、中小企業がより効果的に競争するのに役立つと議員らは述べている。
施行と実施監督
規則で定められている要件に加え、事業者は、欧州委員会が発行したガイドラインが適切かつ効果的に実施されるよう、必要なあらゆる措置を講じなければならない。これらの措置の違反を防ぐため、加盟国は罰則やその他の執行手段に関する規則を採択する必要があり、これには警告や金銭以外の措置も含まれる。禁止されているAIの慣行には、最高4,000万ユーロ、または企業の全世界の年間売上高の最大7%までの罰金が科される可能性がある。
欧州委員会が新設したAI室は、同法の規定を明確化し、各国の規制当局を指導する任務を負っている。
欧州の標準化団体、AI法支援に向け始動
欧州では人工知能の規制に向けた取り組みが進められているが、それに呼応するように、大規模な標準化作業が進められている。2021年6月に発足した欧州標準化委員会（CEN）と欧州電気標準化委員会（CENELEC）の合同技術委員会21（JTC21）は、20カ国以上から300人以上の専門家を集め、EUのAI法を支える調和されたAI標準を起草している。
使命と役割 – JTC 21委員会の使命は、欧州の市場および社会のニーズを反映し、EUの政策目標に沿った規格を策定し、AI法に基づく法令遵守のための実用的なツールを提供することである。また、他の専門委員会との調整を行い、適切な場合には国際規格を統合する。
AI法への対応 –欧州委員会はJTC21に対し、EUの官報に掲載されれば、企業が法律に「適合していると推定される」整合規格の策定を正式に命じた。これらの基準は、以下の分野におけるリスク管理、透明性、人的監視、サイバーセキュリティ、品質保証をカバーするコンプライアンス・プレイブックとして機能する：
- AI信頼性フレームワーク
- オペレーショナル・リスクに対応するAIリスク管理
- 開発プロセスのAI品質管理システム
- 適合性を検証するAI適合性評価
さらに、データセット、バイアス、コンピュータビジョン、サイバーセキュリティ、堅牢性、ロギング、自然言語処理など、EUのリスクベース体制の実施に不可欠とされる分野に焦点を当てている。
委員会の全作業プログラムは、EUのeNormプラットフォームを通じて入手できる。
