AI

ウェルズ・ファーゴ、AIエージェントのミスは顧客の責任に 新規約で明記

Susan Hill
Googleで追加する

ウェルズ・ファーゴは、同社のアプリとウェブサイトの利用規約を改定し、外部のAIエージェントが顧客の口座内で行った行為はすべて顧客本人の行為とみなす方針を打ち出した。銀行はエージェントの指示を確認せずに実行し、エージェントの動きを監視することもなく、エージェントのミスは顧客のミスとして扱うという。新規約には大文字で「AIエージェントのご利用は、お客様ご自身の責任において行うものとします(Your use of any AI Agent is AT YOUR OWN RISK)」と明記されている。

ショッピングボットや家計管理アシスタントに銀行のパスワードを預けたことのある人にとっては、ソフトウェアが誤作動した際に誰が負担するのかが変わることになる。二重払い、10回重複した注文、細工されたウェブページが引き起こした送金といった事態は、法律に別段の定めがない限り、銀行ではなく口座名義人の負担となる。署名は不要で、変更後もオンラインバンキングを使い続けた顧客は、同意したものとみなされる。ブライアント大学で消費者行動を研究するマーケティング学教授のケイシー・キム(Kacy Kim)氏は、Wiredの取材にこう語った。「消費者が許可するのは目的であって、一つひとつのクリックではありません」

定義は幅広い。ウェルズ・ファーゴは、利用者に代わって「自律的、半自律的、または非自律的な行為」を行うソフトウェアをすべて「AIエージェント」と呼んでおり、個人アシスタントとして売られているチャットボットにとどまらない。エージェントが指示を取り違えた場合、誰も頼んでいないことをした場合、「操作された入力」に基づいて動いた場合、与えられた権限を超えた場合のいずれも、そのコストは顧客が負う。顧客が口座へのアクセスを認めた第三者が運用するエージェントも同じ規則の対象で、18歳未満は接続そのものが認められない。

エージェントを停止するのも顧客の役目だ。規約によれば、顧客は自らアクセス権を取り消し、その証拠を保管し、銀行から求められれば提出しなければならない。ウェルズ・ファーゴに伝えるまでは、エージェントの行為について責任を負い続ける。これは、電子資金移動に関する米国の規則「レギュレーションE」の考え方に沿ったものだ。同規則では、カードやログイン情報を渡した相手による送金は、銀行に停止を求めるまで正当な取引として扱われる。

ウェルズ・ファーゴは今もエージェントの接続を認めており、扉を閉ざしつつある業界の中では許容度の高い側に位置する。Wiredによると、JPMorganチェースは顧客の認証情報でログインするサードパーティのエージェントを禁じる形に規約を改め、バンク・オブ・アメリカは顧客にエージェントへログイン情報を共有しないよう警告し、シティバンクとPNCも独自の注意喚起を加えた。Axiosの報道では、モルガン・スタンレーはサードパーティのエージェントを自社プラットフォームから遮断した。ウェルズ・ファーゴは、エージェントが使う接続を遮断する権利や、特定のエージェントを丸ごとブロックする権利を留保している。

こうした反発は銀行業界の外にも及ぶ。アマゾンはMetaのエージェント「Muse」による自社ストアでの購入を阻止し、ユナイテッド航空は個人用ボットが旅行者に代わって航空券を購入することはできないと表明した。Wiredの記事で例外的な存在なのがアメリカン・エキスプレスだ。同社は、商品を多く注文しすぎるといった一部のエージェントのミスについて、小売業者から返金を受けられない場合には、将来的に補償の対象となる可能性があると述べた。

新しい文言が実際にどこまで状況を変えるのかは不透明だ。条項は繰り返し「法令または規制」に従うとしており、顧客が有効にしたエージェントが顧客の意図しないことをした場合に誰が損失を負うのかについて、裁判所の判断はまだ出ていない。利用者の裾野も小さい。「当社のデータはどれも、大半の人はエージェントが何かすら知らず、まして使ってなどいないことを示しています」と、フォレスターのアナリスト、スチャリタ・コダリ(Sucharita Kodali)氏はWiredに語った。銀行もエージェントそのものに反対しているわけではない。バージニア大学で消費者心理とAIを研究するルカ・シアン(Luca Cian)教授は「外部のエージェントには扉を閉ざし、自前のものをつくっているのです」と指摘する。ウェルズ・ファーゴ自身の生成AIアシスタントは、すでに10億件を超えるやり取りをこなしている。

今回の新規約の対象は、ウェルズ・ファーゴの米国内のオンラインバンキングおよびモバイルバンキングの顧客のみで、これまでに名前の挙がった銀行もすべて米国の銀行だ。欧州連合(EU)では、口座情報の読み取りや資金移動を行うアプリについて、共有パスワードではなく銀行が提供する認可済みの接続を使うよう決済ルールがすでに促しており、顧客としてログインするエージェントの入り込む余地は小さくなっている。

改定後のウェルズ・ファーゴの規約は11月24日(火)に発効し、その日以降も同行のウェブサイトやアプリを使い続けるすべての顧客に適用される。JPMorganによる認証情報型エージェントの禁止は10月下旬に始まり、バンク・オブ・アメリカが警告を出したのも同じ日だった。ウェルズ・ファーゴはまた、顧客にエージェントを銀行へ登録させる選択肢も残している。そうなれば、銀行が監視しないとしているボットの一覧を手にすることになる。

タグ: , , , , ,

Googleで追加する

ディスカッション

0件のコメントがあります。