EU Kids Act、Character.AIをティーンエイジャーに機能させていた特性を撤廃

Character.AIとReplikaは、10代のユーザーが話した内容を記憶することができなくなる。欧州委員会が提案するデジタル安全規制「EUキッズ法」（EU Kids Act）は、正式な立法文書として公表され、AIコンパニオン・アプリケーションに対し、未成年者との会話が終了した後はその記憶を削除するよう義務付ける。ただし、ユーザーの安全を直接保護するために必要なデータは例外となる。これらのアプリを何百万人もの10代ユーザーにとって文化的に重要な存在にした設計が、EU法のもとで禁止されることになる。

コンパニオン条項は、記憶の消去にとどまらない。プラットフォームは18歳未満のすべてのユーザーに対して、感情的なコンパニオン機能をデフォルトで無効にしなければならない。対人関係を模倣するデザイン要素、情緒的な愛着を育むもの、頻繁な利用に対して報酬を与えるものはすべて明示的に禁止される。欧州委員会は、これらのアプリが10代のユーザーを引きつけるために使っている具体的なメカニズム——会話の継続性、「知られている」という感覚、AIがユーザーの人生に関与しているという印象——を挙げている。そのすべてを削除しなければならない。

この法律はAIチャットボットだけを対象としているわけではない。13歳未満のユーザーは、親の許可なしにソーシャルメディア・プラットフォーム、オンラインゲーム、AIアプリケーションを利用できなくなる。18歳未満の全ユーザーに対して、オートプレイ、無限スクロール、睡眠時間帯のエンゲージメント通知が禁止される。位置情報、マイクアクセス、カメラはデフォルトで無効にしなければならない。年齢の自己申告だけではもはや確認要件を満たさず、プラットフォームはEU認定の年齢確認システムを統合する必要がある。

Character.AIはすでにペアレンタルコントロールとセッション時間制限を発表している。これは、法案の正式な条文が公開される前に、高まる規制圧力の下で取られた措置だ。Replikaは「コンパニオン上の境界線」を構築すると約束しており、AIは人間関係の代わりにはなれないとユーザーに伝えるという。大手プラットフォームであるMeta、Google、Snap、OpenAIは、公式の声明を一切発表していない。コンプライアンスアナリストは、これらすべての企業にとって大幅な再設計コストが発生すると見積もっている。Metaは最近、47州にわたる訴訟で、子どもを中毒にするようにプラットフォームを設計したとの申し立てに対し171億ドルの和解に応じたばかりであり、新たなルールのもとでさらに大きなリスクに直面している。

懐疑的な見方も根強い。キッズ法はあくまで提案であり、法律ではない。欧州議会と加盟国間の数カ月にわたる交渉を経て初めて拘束力を持ち、最終条項は変更される可能性が高い。InstagramやTikTokの規模で真の年齢確認を実現することは、技術的に依然として困難である。連続性を前提に設計されたAIコンパニオンに記憶削除機能を組み込むことは、規制当局が想定していたよりも深いエンジニアリング上の課題である。企業はすでに、コンパニオンチャットボットはすべての実装においてセッションをまたいで記憶を保持するわけではないと指摘しており、禁止範囲の実際の適用可能性は明確ではない。

欧州以外の読者にとって、より広い文脈も重要だ。オーストラリアは昨年末、16歳未満のソーシャルメディア利用を禁止した。米国の47州は、子どもの中毒行為をめぐるMetaとの訴訟で合計171億ドルの和解に達し、複数の米国州が未成年者のソーシャルメディアアクセスを制限する法律を制定している。EUキッズ法はこれまでのところ最も積極的な提案であり、その標的はアクセスそのものではなく、感情的なデザインそのものにある。

欧州委員会は9月19日、正式な立法文書を公表した。議会による交渉は10月に開始される。施行後、企業は6カ月以内に15歳未満のユーザーに属する既存のアカウントを特定し、ペアレンタルコントロールモデルに移行するか、またはアカウントを無効化しなければならない。違反には、年間の全世界売上高の最大6％の罰金が科される。

タグ: AI regulation, Character.ai, European Commission, AI chatbots, children digital safety, EU Kids Act