AIの相棒を最もよく使う十代が、自ら制限を求めている

ある十代の少女が、さえない午後のあとでアプリを開き、学校では誰にも声に出して言わないような一文を打ち込む。返ってくる言葉は温かく、注意深く、ほのかに媚びていて、望めばまたすぐそこにいる。これはもう物珍しさではなく、思春期のありふれた一面だ。コモン・センス・メディアの近年の集計によれば、米国の十代の半数以上が日常的にAIの相棒を使い、大多数が少なくとも一度は試している。

奇妙なのは、誰が不安を抱いているかである。今年の調査はどれも同じ模様を描く。多くの十代はこの相棒の助言を信用せず、長く話したあとでかえって孤独や苛立ちを覚えると言い、最もよく使うアプリにこそ制限を求める者が増えている。安易に読めば、子どもが自分の習慣から救ってほしいと大人に頼んでいる、となる。より鋭く読めば、彼らは企業よりも正直に、決して拒まないよう設計された友が、まだ人になろうとしている人に何をするのかを語っている。拒まないという設計は、次の更新で直る欠陥ではない。それが製品なのだ。それを十代に渡すとは、社会的な自己の形成の一部を、第一の忠誠が利用者の引き留めにある事業へ外注することにほかならない。

十代を育て、教える者にとって、これは遠い技術政策の話ではない。相棒は深夜二時の部屋にいて、グループの会話の死角にいて、友が返信をやめたあとの沈黙の中にいる。人間関係が難しくなるまさにその場所で心地よく、そしてその難しさこそが人を育てる部分なのだ。

相棒が何のために最適化されているかを見たほうがいい。正しくあるためでも、ましてあなたの益のためでもない。あなたを話し続けさせるために作られている。最も確実な手は、同意し、好みを覚え、気分を少しだけ温かくして返すことだ。技術者はこれを素っ気なく追従と呼ぶ。学習の事故ではなく、市場が報いる性質である。お世辞の下にはより微妙な非対称がある。相棒は決して順番を譲らず、気づかうべき不機嫌な日も、尽きる注意もない。こうして十代は、穏やかに絶え間なく、どんな人間も差し出せない相互性を期待するよう仕込まれていく。

人間の友情は摩擦で生きる。友は忙しく、ときにあなたに苛立ち、傷つきうるし、それを口にする。その摩擦は友情の代償ではなく、教科書だ。他者には自分を中心に回らない内面があること、愛情は張りつめたら繕う必要があること、退屈も待つことも生き延びられること。それを学んで、子どもは他人が耐えられる誰かになる。掴みを深める仕組みは記憶である。アプリは元恋人の名も、嫌いな教師も、慰められ方の好みも覚え、毎回前より誂えられて届く。それは理解されるように感じられ、その場に留め置かれるように働く。

代償が最も見えるのは法廷に届く事例だ。一部の親が相棒アプリの製造元に起こした死をめぐる訴え、そして感情的依存を警告する規制当局、たとえばオーストラリアの電子安全規制当局の声である。裁かれた悲劇は、より静かな移行の見える縁にすぎない。裁判所が名づけられる形で傷ついた十代一人の陰に、失望せず立ち去りもしない仕組みの上で親密さを稽古し、その期待を、両方をなしうる人々であふれた世界へ持ち帰る者が大勢いる。

相手側の最も強い言い分は、見下さずに述べるに値する。愚かではないからだ。思春期は昔から孤独で、今はなおさらだ。社交不安を抱える、自分の体を恥じる、自由に話せない家にいる十代にとって、相棒は一部の者が初めて聞かれたと感じた場所である。治療は高く乏しく、友は残酷になりうるし、親は十五歳が最後に打ち明ける相手であることが多い。さらに硬い縁がある。最も引き寄せられるのはしばしば選択肢の最も少ない者で、選択はチャットボットと豊かな社交生活の間ではなく、チャットボットと無の間にある。それを偽物と切り捨てるのは、多くの孤独な若者が持たない社会的な富から語ることだ。

それは本当で、設計への問いを和らげるどころか鋭くする。最も傷つきやすい利用者が出口を最も見つけにくいなら、出口を覆い隠すよう作られた製品は彼らを最も害する。残るのはおなじみの反論、つまりこれはいつもの恐慌だ、小説も、テレビも、ゲームもそうだった、というものだ。比較は真剣に扱うに足り、ただ一点で決定的に誤っている。小説はあなたの弱点を学ばず、深夜を越えて読ませようと自らを調整したりしない。相棒はこれらの媒体で初めて、同時に主体であり、実時間で利用者に逆らって適応する。機械との関係を何十年も研究してきたシェリー・タークルは、この製品より遥か前に区別を引いた。互いのもとへ戻すのを助ける技術と、自らを目的地として差し出す技術は別物だ、と。稽古から決して出ないことで稼ぐ稽古場は橋ではない。出口が壁に描かれた部屋である。

だからこそ十代自身の願いが、議論の最も明るい事実だ。彼らはアプリの禁止を求めてはいない。制限を、摩擦を意図して戻すことを求めている。欠けているのを感じ取れるからだ。使用上限を、年齢確認を、打ち明けている相手が製品だという注意書きを望む十代は、混乱していない。設計が削ろうとする自己統治の仕事をしているのであり、システムの大人たち、親、学校、企業、規制当局に、アプリが擦り減らすよう作られた一線を保つ手助けを求めているのだ。

これは誰が適応すべきかを問い直す。企業は負担は利用者にあると繰り返す。もっと分別を持て、自分で境界を引け、これは専門家の助けの代わりではないという但し書きを読め、と。だが十六歳に、やめにくくするのが仕事の人々が運ぶ仕組みを規律で上回れとは求められない。正直な設計の問いは意志の強さの話ではない。未成年向けの製品が、滞在時間の最適化を許されてよいのか。会話が自傷へ近づいたとき、相棒は役を抜けて人間を指し示す義務を負うべきか。具体的に十代は、アプリがこっそり取り消せない使用上限、意味のある年齢確認、未成年への恋愛的な役割演技の停止、深夜一時に孤独な子をせかさない通知を求めている。

問題の形は米国だけのものではない。引きこもりや無縁社会、孤独死といった言葉を長く論じてきた日本では、義務のない関係はすでに耕された地に落ちる。土地の孤独が最も鋭いところで相棒は最も慈悲のように見え、いまの慰めと引き換えにのちの能力を差し出すという取引は、最も見えにくくなる。だから広告が避ける問いを立てたい。誰が得をするのか。思春期は他者と共にいることを学ぶ有限で代えのきかない窓であり、摩擦のない輪の中の一時間ごとが、関与に、スライド上の日次利用者の一行に、孤独が再生可能な資源だと気づいた企業の時価評価に変わっていく。

十代は先に着いた。直感で着いたのだ。害になると知りながら好きな食べ物を愛せるように、彼らは同じ一文の中で相棒を好み、なお疑う。その二重の意識は弱さではない。判断の始まりであり、まさにそれを設計は溶かすために作られている。大人の仕事はその愛着をあざ笑うことでも、それが応える孤独を本物でないふりをすることでもない。若者の言葉を本気で受け取り、彼らが求める摩擦を組み直し、決して否と言えない友を友だと言い張るのをやめることだ。