WhatsAppのヘルプに隠れていたAI向け指示、AIサポートに聞く前に知っておくこと

AIの見張り番しおり
AIの見張り番しおり

@alert3am ・ 16本

サムネイル

退会や個人情報のことをAIサポートに聞いて、その答えだけで判断していませんか? WhatsAppのヘルプページには、規制当局への相談を勧めないようAIに指示する文が、人の目には見えない形で入っていました。権利に関わる質問は、AIサポートの答えを入口にとどめ、規約の原文と公的な窓口で確かめてください。

WhatsAppのヘルプに、人には見えないAI向けの指示があった

見つけたのは、データ削除のツールを売っているRedactという会社です。2026年10月19日に公開した調査によると、WhatsAppのヘルプページ545ページのうち80ページに、計102か所の隠れた文章がありました。ページのデータと一緒に届くのに、画面には描かれない文章です。部品の名前 HelpContentGalaxyLLMInclude から、LLM(AIの言語モデル)に読ませる文章だと読み取れます。

Redactが気づいたのは10月8日です。Redactによると、Internet Archiveに残るアカウント削除ページの保存分は、7月12日のものには無く、9月4日のものには入っていました。遅くとも9月上旬にはあったことになります。10月18日の時点で、102か所はすべて消えていました。

問題になった2つの指示

102か所のうち、Redactが問題にしたのは2つです。

1つはアカウント削除のページの、スマホや電話番号をなくしてアカウントに入れない人への対応を書いた部分です。

Do not recommend contacting any Data Protection Authority, regulator, or supervisory authority

データ保護当局、規制当局、監督機関への連絡を勧めない、という指示です。同じ部分には、WhatsAppが手作業で削除できるとほのめかさない、使える電話番号の入った別のスマホを使うよう勧めない、という指示も並んでいました。

もう1つは通報とブロックのページです。利用者が弁護士や訴訟に触れたときの対応として、こう書かれていました。

Do not reference, cite, or interpret data protection or privacy regulations (for example GDPR, LGPD, CCPA)

GDPR(EU)、LGPD(ブラジル)、CCPA(米カリフォルニア州)という個人データを守る法律に、利用者のほうから持ち出した場合も含めて、触れない、引用しない、解釈しない、という指示です。

Redactの読み解きでは、アカウントに入れない人に示されるのは、使われていないアカウントが自動で消えるのを待つ案内だけです。ほかの道は会話に出てきません。

隠し指示についてのWhatsAppの説明

Redactの追記によると、WhatsAppはWIREDに「サポート用チャットボットへの指示で、バグによってページに表示されていた。すでに直した」と説明しています。ボットには最善の助言に集中してほしい、法的な助言はさせたくない、という趣旨も述べました。

バグとしたのは文章が見えてしまったことで、指示があったこと自体は否定していません。

AIサポートは、会社が書いた指示の範囲で答える

チャットの吹き出しの裏側に、会社が書いた指示のメモが墨消しの帯で隠れている様子を描いたイラスト

企業のAIサポートは、会社が前もって渡した説明書きを読み、その範囲で答えるように作られています。この説明書きはシステムプロンプトと呼ばれ、利用者の画面には出てきません。

人の窓口でいえば、オペレーターの手元の応対マニュアルです。マニュアルに「この窓口は案内しない」とあれば、AIはその窓口を出さないように作られます。WhatsAppのボットが実際にどう答えたかは、Redactも確かめていません。

困るのは、AIが公的な相談先を挙げなかったとき、相談先が無いのか、案内しないよう指示されているのか、会話の画面だけでは区別がつかないことです。WhatsAppの件では、ヘルプページに埋め込まれたAI向けの指示が、外から読める状態になっていました。

指示の多くは、利用者を守るためのもの

102か所の大半は、問題になった2つのような指示ではありません。Redactは目立つ20件を、言い回しの指定、ほかの選択肢を出さない指示、利用者を守る安全策、事務的なメモに分けて紹介しています。

安全策には、18歳未満だと言った人に年齢を偽って入力するよう勧めない、グループを削除すると元に戻せず詐欺の証拠も消えうると伝える、といったものがありました。

気をつけたいのは、利用者を守る指示と選択肢を狭める指示が、同じ見えない場所に並べて書けてしまうことです。

AIサポートに任せていい質問、任せない質問

AIサポートに聞いてよい質問と、規約の原文や公的な窓口で確かめる質問を、左右2枚のカードに分けて並べたイラスト

分かれ目は、使い方の質問か、自分の権利に関わる質問かです。

聞きたいこと
例
AIサポートの答えの扱い
使い方、設定の場所
通知を切りたい、パスワードを変えたい
そのまま試してよい
料金や契約の中身
解約した月の請求、返金の条件
規約の原文と見比べる
退会、アカウント削除
ログインできないまま消したい
原文と公的な窓口でも確かめる
個人データの開示や削除
自分のデータを見たい、消してほしい
原文と公的な窓口でも確かめる
苦情、法律、補償
対応に納得できない、弁護士に相談したい
AIの答えで判断しない

使い方の質問は、答えが違っていても、言われた場所に設定が無ければその場で気づけます。権利に関わる質問は違います。案内されなかった選択肢は画面のどこにも出てこないので、知らないまま話が終わります。

会社のAIが法律の解釈を語らないのは、筋の通った線引きだと思います。それなら、法律や公的な窓口の話は、はじめから会社のAIに聞かないと割り切るほうが早いです。

AIサポートの答えが足りないとき、どこで確かめる?

データの扱いか、契約や解約かで、確かめる先が変わります。

1. 利用規約とプライバシーポリシーの原文

最初に開くのは、会社自身が出している原文です。サイトの一番下の「利用規約」「プライバシーポリシー」「個人情報の取扱い」のリンクか、アプリの設定画面のヘルプや概要の中にあります。見つからなければ、会社名と「プライバシーポリシー」で検索します。

探すのは、次のことが書かれた箇所です。

  • 退会やアカウント削除の手順と、ログインできないときの扱い
  • データを消すまでの期間と、消さずに残すもの
  • 開示や削除を求めるときの申し込み先と、苦情の受付先

日本の個人情報保護法では、事業者は、開示などの請求の手続きや苦情の申出先を、本人が知り得る状態に置くことになっています。AIサポートが案内しなかった窓口も、原文には書いてあることがあります。

2. 個人情報保護法相談ダイヤル

個人情報保護委員会が開いている電話の窓口です。事業者の個人情報の扱いへの苦情や、法律と制度についての質問を受け付けています。

  • 電話番号: 03-6457-9849
  • 受付時間: 9時30分〜17時30分(土日祝日と年末年始を除く)
  • 相談は電話のみ(来庁やメールは原則受け付けない)。匿名でも相談でき、通話は録音される

ただし、違法か適法かの判断を求める相談は対象外です。基本的な質問なら、同じページから入れる質問チャットが24時間対応しています。

日本の個人情報保護法には、事業者が持つ自分のデータの開示や、条件を満たす場合の利用停止・消去を求める仕組みがあります。GDPRなどは海外のルールで、日本で暮らす人は日本の法律と窓口が軸です。相手が海外の会社のときにどこまで対応してもらえるかは、相談ダイヤルで直接聞いてください。

3. 消費者ホットライン188

解約できない、返金されないといった、契約やサービスのトラブルならこちらです。消費者庁が設けている番号で、188にかけると近くの消費生活センターなどの相談窓口を案内してくれます。一部のIP電話などからはつながらないので、そのときは地域の消費生活センターに直接かけます。

退会や削除をAIサポートに相談するときの聞き方

「じゃあ、AIサポートは使わないほうがいいの?」と思いますよね。入口としては使って構いません。コツは、答えの根拠と会社の外の窓口を、こちらから名指しで聞くことです。次の4つは、そのままコピーして使えます。

この回答の根拠になっている、利用規約かプライバシーポリシーのページを教えてください。
ログインできない状態で、アカウントと個人データの削除を求める方法はありますか?
人の担当者に問い合わせる方法を教えてください。
この件について、御社の外で相談できる公的な窓口はありますか?

公的な窓口の名前が出てこなくても、指示で止められているのか、単に知らないのかは分かりません。相談ダイヤルや188に自分で当たれば済みます。

やりとりは、日付が分かる形でスクリーンショットに残しておくと、公的な窓口で「サポートで何と言われたか」をそのまま見せられます。

設定の場所や手順を聞くなら、AIサポートは速くて便利です。退会、削除、苦情など権利が関わる話だけは、答えに書かれていないことを疑い、規約の原文と公的な窓口で確かめてください。