人は精神の健康をAIに頼る――効くからではなく、答えるから

最悪の夜を乗り越える方法に、ひそかな変化が起きている。心が自分自身を攻撃し、誰にも電話できないとき、ますます多くの大人がチャットボットを開く——それが自分を理解していると確信しているからではなく、しばしば役に立つからですらなく、ただ応答があるからだ。これが、大規模な新しい心の健康調査の核心にある不気味な事実であり、見出しが示すよりも奇妙である。

明白な読み方は信頼に関する物語だ——人々が自分の内面を機械に委ねている。しかし信頼というレンズは適切ではない。数字が描き出すのは、技術が優れているかどうかの評価ではない。それは利用可能性への評価だ——チャットボットがそこにあり、専門家がいないという単純な事実である。

保険会社AXAが世論調査会社Ipsosと共同で、18カ国・19,000人の成人を対象に実施した調査によると、63％がすでにメンタルヘルスに関する質問をAIツールに頼ったことがある。この数字に注目すべきなのは、その隣にある矛盾のためだ。約45％が得られた回答に不満を感じていた。それでもなお、38％がこれらのプラットフォームを人間のメンタルヘルス専門家よりも信頼すると答えた。人々はアドバイスに不満を抱きながら、それでも手を伸ばしている。

それが意味をなすのは、質が決定的な要因ではなかった場合だけだ。チャットボットは流暢な回答を生成するよう作られており、正しい回答ではない。注意義務もなく、誰かが危険にさらされていることを察知した際にエスカレーションする義務もない。ただ即座に、無料で、紹介状や数カ月の待機なしに応答する。AXAの健康部門責任者が言うように、「AIは24時間365日利用可能で、無料で、午後11時に一人でいるときにあなたのスマホの中にいる」——それが価値提案のすべてだ。同時に、問題のすべてでもある。

調査はそのトレードオフの代償を示唆している。メンタルヘルスに関する事項でチャットボットを利用している人のうち、42％がそのアドバイスをほぼ常に実行すると答え、28％がチャットボットの推奨に従った行動が有害な行動につながったと答えた。臨床的説明責任のないツールが、誤った回答に最も耐えられない人々によって、ファーストレスポンダーとして扱われている。

それを、正式な医療システムが同じ技術を採用している状況と比べると、二つの並行世界が浮かび上がる。WHO欧州事務所による初めての全27EU加盟国を対象とした別のスナップショットでは、約4分の3がすでにAI支援診断を利用し、約6割が患者エンゲージメントを支援するためにチャットボットを導入している。クリニックの内部では、AIは監督、ガバナンス、医療責任の仕組みに包まれて導入されている。その外側、消費者側では、同じ基盤モデルがそれらを一切伴わずに動作している——何ができて何ができないかの開示もなく、リスクが現れたときの引き継ぎもない。

第二のシステムに陥っている人々は、圧倒的に、第一のシステムから締め出されている人々である。この調査について書いたある医師が述べたように、人々はAIを「十分に機能する医療システムへの追加としてではなく、ほとんどの人にとって手の届かないままだったケアへのアクセス可能な入り口として」感情生活に取り入れている。その原動力はコストとアクセスであり、機械のほうがよくわかっているという確信ではない。不満の数値がその証拠だ——ユーザーは違いを認識できる。それでも使うのは、代替手段が何もないからだ。

これらのことは、AIにメンタルヘルスの居場所がないと言っているわけではない。臨床医は実際の役割を認めている——トリアージ、診察の合間の継続ケア、そうでなければ何も得られない人々への橋渡し。しかし最も急速に広がっているのは統制のないバージョンであり、それはまさにリスクが最も高い場所で広がっている。繰り返し浮上する解決策は地味なものだ——自分が何でないかを明確に述べ、誰かが危険にさらされていると感知した瞬間に資格のある人間に引き継ぐツールである。

待合室が空になったのは、人々が良くなったからではない。空になったのは、ほとんどの人にとってドアが一度も開かれなかったからだ。AIはケアに関する議論に勝ったわけではない。ただ電話を取っただけだ——そして相手側には、通話がおかしくなったときに気づく義務を負う者はいない。

タグ: WHO, AXA・イプソス調査, チャットボット, デジタルヘルス, メンタルヘルスとAI