ChatGPTのティーン向けモード登場 — 保護者は制限設定可、会話内容は非公開

ChatGPTは現在、10代のユーザーに対して異なる動作をする。OpenAIは8月18日、10代向けバージョンChatGPT for Teensをリリースした。このシステムは自動的に適用され、13歳から17歳のユーザーには、大人向けデフォルトよりも厳しい制限があらかじめ設定されたバージョンが提供される。10代のユーザー側での操作は不要で、親によるオプトインも必要ない。この機能はその週から全世界で展開が開始され、2週間かけて全市場に展開される予定だ。

ファミリーアカウントを通じて利用できる保護者向けコントロールは、ほとんどのプラットフォームが提供するものよりも考慮されている。保護者は静音時間——1日の特定の時間帯にChatGPTがティーンアカウントで利用できなくなる設定——を設定でき、また音声モード、画像生成、会話の詳細を記憶する永続メモリ機能を個別に無効化できる。これらはすべて独立したトグルスイッチになっている。さらに、OpenAIがティーンの会話を将来のモデル学習に使用することをオプトアウトするオプションもあり、これは標準アカウントではデフォルトで有効になっていない。

保護者ができないこと——それは、子どもがChatGPTに入力した内容を読むことだ。これは実装上の欠落ではなく、意図的な設計判断である。OpenAIの立場は、会話が親と共有される可能性があると疑う10代のユーザーは、実際に助けが必要なことについて製品を使わなくなる——そして、判断を恐れずにAIにセンシティブなことを尋ねることができない10代のユーザーは、このテクノロジーの最も有用な部分を失う——というものだ。コントロールは保護者に時間とモードを制限するツールを提供するが、会話の内容は非公開のままである。

モデル自体には、保護者設定とは無関係に適用される組み込みの制限がある。ChatGPT for Teensは、自傷行為、摂食障害、暴力に関するトピックに対してより厳しい対応を行う。モデルはそれらの話題に対して関与するのではなく、別の方向へ誘導するよう訓練されており、同じ制限が新しい機能Study Modeにも適用される。Study Modeは、直接的な回答ではなく、クイズや練習問題に変換する機能で、宿題を代替するのではなくサポートするよう設計されており、10代のユーザーが情報を単にコピーするのではなく、自ら取り出すことを要求する。

年齢確認の問題は、このシステムの限界が明らかになるところだ。OpenAIは、正式な身元確認ではなく、年齢予測モデルを使用してユーザーを10代に分類している。最初のサインアップ時に偽の生年月日を入力した10代のユーザー——年齢制限のあるプラットフォームではよくある回避策——は、おそらく再分類されない。この展開は、新規アカウントと正しく登録された生年月日を持つアカウントを対象としている。OpenAIは、既存ユーザーベースのうち13〜17歳の層がどの程度の割合を占めるかは開示していないが、研究者は一貫して、このグループが大きく、学術目的でのAIツールの使用が不釣り合いに多いことを発見している。

ここでのより広範な設計論理は、立ち止まって考える価値がある。OpenAIは、親と規制当局を満足させるのに十分な安全性のアーキテクチャと、10代のユーザーにとって真に有用であるのに十分なプライバシーという、二つのことを同時に満たそうとしている。静音時間とトピック制限は前者に対応し、チャットログの共有を拒否することは後者に対応する。そのバランスが正しいかどうかは、合理的な人が意見を異にし得る問題である。注目すべきは、OpenAIがこのトレードオフを明確にしたことだ——彼らは親による監視よりも10代のユーザーの利便性を選び、そう言明した。

ChatGPT for Teensは現在、すべてのプラットフォームで利用可能である。2週間の全世界展開は8月18日に開始された。

タグ: 人工知能, OpenAI, chatgpt, ChatGPT for Teens, ティーン向けデジタル安全, ペアレンタルコントロール