TikTok、おすすめリセット機能の「偽物」を10代に提供か　ニューヨーク州が提訴資料で指摘

ニューヨーク州が同社を訴えた裁判で新たに公開された書面によると、10代や子どもを含む数千人のTikTokユーザーが、おすすめを消去して最初からやり直すボタンを押したものの、実際には何も変わらなかったという。画面にはリセットが完了したとのメッセージが表示されたが、「おすすめ」フィードにはそれまでと同じような動画が流れ続けた。

訴えの中心となっている「Algo Refresh」は、フィードが望まない方向に偏ってしまったときに、TikTokが用意している数少ないリセット手段の一つだ。アカウントを作ったばかりの状態のように、「For You」ページを表示し直すことを目的としている。ニューヨーク州は、この機能を利用した一部のユーザーが、何も変化しないバージョンを使うテスト群に割り当てられた一方、実験に参加していないユーザーには正常に機能するバージョンが提供されたと主張している。

訴状によると、TikTokはその後、両グループのアプリ利用時間と広告収入を比較した。また、社内から異論が出ていたことも記されている。TikTokの「Digital Well Being」チームのプロダクトマネージャーはチャットで、「この機能はアルゴリズムの透明性とユーザーによるコントロールに関するものだ」と述べ、さらに「プラセボ群を設けることは、その目的と完全に矛盾する」と書き込んだ。ニューヨーク州は、正常に機能したリセットでさえ効果は一時的だったとも主張している。

TikTokはこうした説明を否定している。同社の広報担当者はロイターに対し、「新しい製品や機能については、ユーザー体験を検証し、実際の環境でどのように機能するかを把握するため、定期的にテストを行っている」と述べ、訴訟ではAlgo Refreshの仕組みが誤って描かれていると説明した。裁判所に提出した書面では、テストにより「プラットフォームのトラフィックの一部が従来の体験を引き続き受ける場合がある」と認める一方、それによって該当ユーザーの安全性が損なわれたとの見方は否定した。

現時点で分かっていることには、明確な限界がある。これらは修正訴状に記された主張であり、裁判所が認定した事実ではない。これまでに公開された記述にも、プラセボ群に入った人数やテストの実施期間、結果は示されていない。変更を対照群と比較して検証することは、テクノロジー業界では一般的な手法だ。争点は、未成年者向けの安全機能を、そうしたテストの対象にしてよいのかという点にある。この訴訟はニューヨーク州に関するものだが、これまでに報じられた書面には、テスト対象となったユーザーの居住地は記されていない。

現在このボタンを頼りにしている人にとって、実際に押さえておきたい点はもっと限られている。リセットしたからといって、アルゴリズムがユーザーのことを忘れた証明にはならない。TikTokのキーワードフィルター、視聴制限の設定、特定のクリエイターを非表示にする機能は、それぞれ独立した操作項目であり、リセット後も設定は維持される。

書面に記されたテストは、TikTokが「For You」フィードを更新する機能を導入したのと同じ2023年に行われた。ニューヨーク州のレティーシャ・ジェームズ司法長官は、2024年10月に同社を初めて提訴した。プラセボに関する主張は、8月末に非公開で提出され、裁判官の命令で公開された修正訴状に記されている。ロイターは10月7日にこの内容を報じた。

この訴訟で問題となっている実験は、これだけではない。Bloombergは8月、TikTokが米国ユーザーの約10％にあたるおよそ1,500万人に、別の安全機能の更新を提供しなかったと報じた。そのグループに属していたニューヨーク州在住の16歳の少年は、2022年に自殺で亡くなった。裁判所は、少年の死とテストとの関連を認定していない。

米国では20を超える州がTikTokを提訴し、子どもをアプリに夢中にさせる設計をしていることや、安全機能について家庭に誤解を与えていることを問題視している。最初に公判が予定されていたアラバマ州の訴訟は9月に和解し、和解金は最大3億ドルに上る。ニューヨーク州の訴訟については、公判の日程は公表されていない。

タグ: tiktok, sns, ニューヨーク州, 子どもの安全, Algo Refresh, おすすめフィード