欧州のすべてのチャットボットはAIであることを名乗らなければならない — さもなければ開発者は1500万ユーロの罰金

欧州のユーザーと対話するあらゆるチャットボットやAIシステムは、自らが人工知能であることを明示しなければならない。この要件はChatGPT、Gemini、Claudeを対象とする。自動化されたカスタマーサービスボット、AIライティングツール、人間の会話を模倣するあらゆるソフトウェアにも適用される。違反時の罰金は最大1500万ユーロ、または企業の全世界年間売上高の3％のいずれか高い方である。このルールは提案や試験運用ではない。法律である。

この要件は、2026年8月2日に発効したEU人工知能法第50条に基づく。同条項は3つの明確な義務を定めている。チャットボットはユーザーがAIシステムと対話していることを開示すること、ディープフェイクコンテンツはAI生成であるとラベル付けすること、職場や教育現場で感情を分析するAIシステムはその動作を開示することである。開示は明確で、タイムリーかつ適切でなければならないが、規制は実施形式を企業に委ねている。

適用範囲は聞こえ以上に広い。欧州規制当局は、この法律がEUに本社を置く企業だけでなく、EUユーザーにリーチするあらゆるサービスに適用されることを確認している。つまり、MetaのAIアシスタント、AppleのSiri、LinkedInのAIジョブコーチ、そして欧州の顧客を持つ企業が運用する数千のカスタマーサービス導入すべてが要件の対象となる。1500万ユーロの上限は軽微な違反に適用され、全世界売上高の3％という下限は、企業が大規模で1500万ユーロでは実質的な抑止力にならない場合に発動される。

EUにおける執行は通常、ゆっくりと進む。各国のAI当局は予算が限られているか皆無に等しく、コンプライアンス監視を担当する。2018年に成立した一般データ保護規則（GDPR）は、最初の大規模な罰金が科されるまで約2年間、ほとんど執行されなかった。AI法の執行も同様のパターンが予想される。すなわち、正式な措置の前に各国規制当局からのガイダンスが出される。第50条の透明性ルールは、執行が比較的容易な規定の一つである。コンプライアンスに必要なのはシステムアーキテクチャの監査ではなく、可視的な開示のみだからだ。

強制的な開示が、欧州のユーザーとAIとの関係を有意義に変えるかどうかは、未解決の問いである。クッキー同意バナーを義務付けたGDPRなど、類似の要件に関する研究は、通知がユーザーの行動を変えるよりも法的明確性を向上させることを示唆している。すべての会話を「私はAIです」で始め、その後は人間と見分けがつかないチャットボットは、法的要件を満たすものの、実際に適切なAI透明性とは何かというより深い問いには答えていない。

AI法のより厳しい規定は、依然として保留中である。2026年6月に成立したデジタルオムニバスパッケージは、付属書IIIのコンプライアンス期限—採用、信用スコアリング、生体認証、法執行で使用される高リスクAIシステムを対象とする—を2026年8月から2027年12月に延期した。最も商業的に敏感なセクターの企業には、準備のための猶予がさらに16か月与えられている。第50条は、業界にとって最も重要なルールが待機する中で、発効した消費者向けの層である。

EUは、AIの自己開示を設計上の推奨ではなく法定要件とした最初の主要な法域である。同等のルールはカリフォルニア州と英国で議論中だが、まだ法制化されていない。EU域内の4億5000万人にとって、自分が話している相手が人間か機械かという問いは、今や法的な答えを持つ。その答えがどれだけ一貫して届くかは、まだ始まっていない執行次第である。

タグ: 人工知能, chatgpt, ディープフェイク, EU AI Act, チャットボット, 規制