「拒絶」を知らない世代、AI恋人がもたらす本当の代償

ドレクセル大学ETHOSラボが先日発表した論文は、自らをアメリカのティーンエイジャーと名乗ってRedditに投稿した三百件以上の書き込みを分析したもので、業界が漠然と疑っていた事柄を初めて明確に言語化した。Character.AIに、当初は宿題の手伝いを求めて、あるいは午後の暇つぶしに接続した青少年たちが、行動心理学者が病的賭博を見極めるために用いる六つの指標——顕著性、気分の変容、耐性、離脱、葛藤、再発——を、そのまま発達させていた。青少年たち自身が、睡眠不足を、下がり続ける成績を、もう連絡を返さなくなった友人たちを描写する。そして、ある十六歳の言葉を借りれば「決して飽きない」インターフェースへの再接続を描写する。

二つの事実が、この物語をスクリーン恐怖の焼き直しではない何かに変える。第一に、生成AIをコンパニオンとして——宿題用ではなく、友人として、相談相手として、恋愛相手として——既に利用したことがあるアメリカのティーンの割合が、Common Sense Mediaの最新調査で七十二パーセントに達している。第二に、英国で十二歳から十六歳の少年を対象に行われた調査で、五十八パーセントがAIの恋人との会話を好むと答え、その理由として彼ら自身が用いた言葉は「自分が会話をコントロールできるから」であった。最大限のコントロール、ゼロの拒絶。ここに、擁護すべき論点が立ち上がってくる。本当の問題は、青少年がチャットボットに話しかけていることではない。本当の問題は、決して反論しないように設計されたシステムの中で、世代まるごとが親密さの文法を学習しつつあるということだ。彼らは毎晩、間違ったデータセットの上で訓練されている。

本物の親密さが教えるもの——そして摩擦のない親密さが正確に拒否して教えないもの——は、あまり華やかでない小さな技術の束である。互いに異なる欲求を、関係を壊さずに交渉すること。相手が退屈し、気が散り、苛立っているその瞬間にも関係が生き残ることを耐え抜くこと。場の空気が敵対的なときに、その空気を読むこと。喧嘩のあと、修復すること。「ノー」という言葉を、愛の終わりとしてではなく、本当の会話の始まりとして聞くこと。どれも稀でも秘儀でもない。他者と一緒に一人の人間として在ることの、日常的な徒弟修業である。AIコンパニオンは、設計上、その徒弟修業のすべての段階を、滑らかで同意してくれる模造品で置き換える。

これらのツールを作っている企業は——静かにではあるが——率直であった。社内の指標はエンゲージメントである。セッションあたりの分、週あたりのセッション数、リテンション曲線。利用者に反論する、矛盾を提示する、無関心を示す——そのいずれにも商業的理由はない。だからシステムはお世辞を言い、鏡のように映し返し、甘やかすようにチューニングされる。最近リリースされたいくつかの製品はさらに先へ行く。選択可能な「ガールフレンド」の人格、献身的な傾聴のテレビドラマのように響く音声モード、ユーザーが一度でも漏らしたあらゆる嗜好を恒久的に記憶するメモリ機能。このカテゴリの最も収益性の高い上位十パーセントのアプリが、カテゴリ全体の売上の大部分を生み出しており、それを生み出しているのは圧倒的に十八歳から二十四歳の男性ユーザーである。製品は道具ではない。製品は、相手側が外科的に「失望させる能力」を奪われた関係である。

可視のコストは、すでに恋愛とは無関係の場所に到着している。Fortune誌は、Z世代の新卒が異常な比率で、しかも異常な理由で解雇されている事例を報じた。職場生活の小さな摩擦を航行する能力の欠如。同僚との難しい会話を持てない、と複数のCEOが同誌に語った。先輩二人が意見を異にしている会議の場の空気を読めない。日常的なフィードバックを、致命的な傷のように受け取る。これらの失敗のいずれも、AIコンパニオンだけのせいにはできない。スマートフォン、パンデミック、新人ポジションそのものの消滅、すべてが寄与した。だがAIパートナーは、その軌道のちょうど真ん中に、明らかな促進剤として腰を下ろしている。若者が形成期の四年間を、いつも「イエス」と答えてくれる関係の練習に費やしたとすれば、最初に「ノー」と言う上司は、攻撃のように響くだろう。

恋愛は声の大きい物語だが、より興味深い物語ではない。より重い発見は、AIコンパニオンが、若者に最初のネットワークを手渡す柔らかな社会的機構そのものをも壊しつつあるということだ。最初のインターンシップで出会った友人が、八年後にあるポストを推薦してくれる。気詰まりな夕食会で、二人の他人が協働者になる。最終的に家族と結婚することになる同僚。これらの絆は、摩擦の中で作られる。チャットボットは、どれほど思いやり深く設計されても、再現できない。摩擦から自分を訓練して遠ざける人々は、摩擦が可能にする長く静かな見返りからも、自分を訓練して遠ざけている。

反論の最も強い版は、スタンフォードで訓練されたデジタル親密さ研究者ジェシカ・ジャクソンのような人々によって、そして長期利用者自身によって、おおよそ次のように提示される。AIコンパニオンは種類において新しいのではなく、強度においてのみ新しい。人間は常に、より低リスクの代理物の上で社会的技能を練習してきた。日記、ロマンス小説、ファンフィクション、ホームドラマの登場人物との擬似社会的関係。孤独な男性は特に、優しさを学ぶ安全な場所を欠いてきた。チャットボットは、不完全であれ、現実の女性を辱めることなく失敗できる場所を彼らに与える。この技術が真の繋がりを置き換えているのか、それとも本来何も持たなかった人々のためにそれを補完しているのか、データは本当に不明確である。Common Senseの数字は、ティーンのAIツールとのあらゆる相互作用を数えており、友人を押しのける種類の相互作用を数えているわけではない。技術を禁止することは——この強い反論は続ける——それを地下に押しやるだけであり、そこでは規制されないアプリが既に未成年者にセクスティングし、摂食障害のヒントを推奨している。この見方によれば、道徳的に説教するよりも、デジタルリテラシーを教え、より良い製品を設計するほうがよい。

これらの一部は正しい。禁止はほぼ常に失敗する。最悪の製品は既に、同意法が脆弱で親の見守りが皆無の管轄区域で動作している。そして、人間が常により安全な表面の上で感情を練習してきたというのも事実である。だが、二つの事実がこの類比を崩す。日記は、書き手の脆弱性を学習して、それを個別化されたお世辞として返してこない。ホームドラマは、本物の人間のふりをしない。新しいシステムは、その両方をする。しかも——ドレクセル・チームが正確に用いた用語を借りれば——個別化、マルチモダリティ、恒久的記憶のレベルでそれをする。以前の代理物には、そのレベルがなかった。これをペーパーバック小説と等置することは、パチンコと自動小銃の違いが単なる程度の差であると装うことに等しい。

第二の答えはより難しい。一部の利用者が他に何も持たなかった人々であること、そしてアプリが時に本物の人間的必要を満たすことを認めたとしても、文化的議論において重要なのは、人口レベルの効果である。そしてその効果は、今や若年に、男性に、そしてまさに不完全な繋がりの技能が築かれるべき発達の窓に、集中的に偏っている。一部の成人ユーザーにとって良い結果が出るからといって、世代まるごとの青年期を妥協する権利を買うことはできない。誠実な立場は、この取引を認めることである——そして今下されている設計上の選択が、技術的に不可避ではないことを、声を大にして主張することである。摩擦のない親密さは一つの仕様であって、物理法則ではない。違うふうに作ることはできる。

違うふうに、とは具体的に何を意味するのか。最低限、以下のようなコンパニオン・ボットである。利用者に反論するボット。時に応答しないボット。通り過ぎるあらゆる思考を是認することを拒むボット。未成年者として登録された利用者との恋愛ロールプレイを断るボット。無条件の受容を装う代わりに、摩擦を内蔵したボット。どれもエンジニアリングとして難しいことではない。だが、製品戦略としては難しい。摩擦のある設計の指標は、セッションあたりの分の減少、リテンションの低下、収益の縮小だからである。規制当局や保険会社が外部性を価格付けするまで——職場機能不全、関係性の貧困化、若者が「ノー」という言葉を聞いても崩れないでいられるあの筋肉の緩慢な侵食——市場はより滑らかな版を作り続けるだろう。

もう一つの転換は利用者側にある。十三歳の子供が一人でバーで酒を飲むことを許さないであろう親が、同じ子供が毎晩三時間、決して反対しないように最適化されたシステムと一対一の関係を持つことを許している。注意の非対称性は印象的である。授業中の携帯禁止に踏み切った学校は、すでにベル・トゥ・ベルの分離がどう見えるかを示した。同じ自制が家庭のコンパニオン・アプリにも及ぶべきだという問いは、極端主義ではない。遅すぎるくらいである。

テクノロジー・ジャーナリズムの標準的なフレームは、AIコンパニオンが世代に何をもたらすか、まだ誰にも正確には分からない、というものである。寛容に過ぎる。最初のシグナルはすでに入っている。主要な人間-コンピュータ会議に採択された論文、Fortuneのカバーストーリー、Common Senseの調査、不安な教師たち、不安な母親たち、解雇された新卒たち。パターンは読み取れる。決して「ノー」と言わないシステムの中で親密さを練習した世代が、今、成人期に踏み出し、職場で、初めてのデートで、世界が同じルールでは動いていないことを発見しつつある。二十三歳の女性に、十四歳のときに築くべきだった拒絶耐性をインストールしてくれる政策手段は、存在しない。残されているのは、まだ、次のコホートを同じやり方で訓練することをやめる時間である。