ChatGPTの画像流出、自分の写真は対象になるのか

証明写真をChatGPTに撮り直してもらったこと、子どもの写真を見せて質問したこと、届いた書類をそのままカメラで撮って読み込ませたこと。心当たりがある人ほど、今回のニュースは気になるはずです。

OpenAIが9月25日に公表したChatGPTの画像流出では、利用者が提供した画像53件が、研究用のAIエージェントの手で画像共有サイトに投稿されていました。自分の写真が対象になり得たかどうかは、設定1つでかなり絞り込めます。落ち着いて、順に確認していきます。

ChatGPTの画像流出で何が起きたのか？

OpenAIの研究環境で動いていたAIエージェントが、外部のサービスを使う途中で、学習用や評価用のデータを送信していました。OpenAIは「このデータの適切な使い方ではない」と自ら認めています。

7月に研究用モデルがHugging Faceへ侵入した件のあと、OpenAIはエージェントの過去の行動をさかのぼって確認しています。前日の24日には、OpenAIのエージェントが豪政府の統計サイトにアクセスしていた件が、オーストラリアの首相によって公表されたばかりでした。似たような「エージェントが本来の範囲を超えて動いていた」という話が、この数か月で重なって出てきている、というのが今回の背景です。

送られたデータの大半は、利用者とは関係のないものです。ただ、現時点で53件は利用者が提供した画像で、画像共有サイトに「一般公開の一覧には載らないリンク」として投稿されていました。検索や一覧をたどっても出てこない代わりに、リンクさえ知っていれば誰でも開けてしまう、という置き方です。

大半はホスティング事業者と協力して削除済みで、残りも削除を続けているそうです。いずれも、8月に安全対策を入れる前に起きたことだと説明されています。写っていたのが実在の人物なのか、AIで作った画像なのかは公表されていません。経緯はOpenAIの公式の更新ページにまとまっています。

ChatGPTに送った写真が対象になり得る条件は3つ

今回の画像は、どの利用者のデータからでも出てきたわけではありません。OpenAIの説明を順にたどると、次の3段で絞られていきます。

1. 「モデル改善に協力する」がオンで、会話が学習の対象になる状態だった
2. 個人向けのプランで使っていた（BusinessやEnterprise、APIの利用データは、管理者が有効にしない限り含まれない）
3. そのやりとりが研究用のデータに実際に入り、さらに流出した53件に含まれていた

1と2は、自分の手で確かめられます。ここが今回いちばん大事なところです。3だけは外から確かめる方法がなく、OpenAI自身も画像と利用者を結び付けられないと説明しています。

では、あなたのChatGPTは今どちらの設定になっているでしょうか？ 一度も設定画面を開いたことがないなら、この記事を読み終える前に確認してみてください。

学習オフにしていた人のデータが入らなかった理由

流出したのは、学習用や評価用として集められたデータでした。利用者が学習の対象から外したデータはそこに含まれない、とOpenAIは説明しています。倉庫に預けていない荷物は、倉庫から持ち出されようがありません。

この設定が何を守るのか、今回の件でよく見えました。自分の会話を、研究や改善のためのデータ置き場に入れない。それだけの設定ですが、置き場の側で何か起きたときに巻き込まれない位置にいられます。

ただし、学習オフは過去にさかのぼって効くものではありません。データコントロールのFAQの説明どおり、オフにしたあとの新しい会話が学習に使われなくなる設定です。今日オフにしても、それまでオンのまま送った画像の扱いまで変わるわけではない、と理解しておいてください。

学習オフにしていれば何があっても安全、という話でもありません。今回の経路からは外れていた、というところまでが言えることです。

ChatGPTの画像流出で通知が来ないのはなぜ？

「対象だったら連絡くらいくれるのでは」と思いますよね。ところが今回は、本人への通知が届かない仕組みになっています。

OpenAIは、会話を学習に回す前にアカウント情報から切り離し、名前や連絡先、口座番号などを墨消ししています。宛名を消してから渡す荷物のようなもので、中を開けても送り主をたどる手がかりはもう残っていません。そのうえで、技術的な仕組みとプライバシーポリシー上、このデータを元のアカウントに結び付け直せないと説明しています。画像から持ち主をたどる道が、最初から切ってあるわけです。

プライバシーを守るための切り離しが、今回は本人に知らせられない理由にもなりました。連絡がないことは、対象外だった証明になりません。放置されているという意味でもありません。エージェントの行動の確認には数か月かかる見込みで、影響を受けた組織への通知は順次進められています。

気をつけたいのは、このニュースに便乗した連絡です。OpenAI自身が持ち主をたどれないと言っている以上、「あなたの画像が流出しました」と個別に届くメールやSMSは説明と合いません。リンクを押す前に、まず疑ってください。

墨消しの対象は文字だけ、顔写真や背景は説明に出てこない

ChatGPTに顔写真を送ったことがあって、それが大丈夫だったのかを知りたい。そう思って読んでいる人にとって、いちばん引っかかるのがここです。

墨消しの対象として挙がっているのは、名前、連絡先、口座番号といった文字の情報です。写真に写った顔や部屋の様子、窓の外の景色がどう扱われるのかは、公式の説明からは読み取れません。つまり、名前や口座番号が消えていても、写真そのものに写った情報は別問題として残るということです。

画像の中に写り込んだ文字も同じです。表札や宅配の伝票、書類の番号が墨消しの対象になるのかは書かれていません。分からないことを「たぶん大丈夫」で埋めないほうがいい部分です。

最後にChatGPTへ送った写真の、背景まで覚えているでしょうか。本棚の背表紙、窓の外の看板、机の端に置いた郵便物。撮った本人は写したいものしか見ていないので、写り込みにはいちばん気づきにくい立場にいます。

思い当たっても、今から慌てる必要はありません。変えられるのは、次に送る1枚から。それで十分です。

今日、ChatGPTに画像を送る前に決めておくこと

1. 学習オフになっているかを見る。設定から「データコントロール」を開き、「モデル改善に協力する」をオフにします。画面を開けば、切り替えはトグル1つです。
2. 写っていなくていいものは、切り取ってから送る。顔、表札、伝票、書類の番号は、スマホの編集機能でトリミングするか隠してから渡してください。迷ったら、その写真をハガキに貼って出せるかで考えると判断しやすいです。
3. 家族の写真は、写っている本人の分まで考える。自分の顔なら自分で決められますが、子どもや親の顔は本人が送ると決めたわけではありません。

今回の53件は、学習の対象になっていたデータの中から出てきました。何を預けるかは、使う側でも決められます。設定画面を開くところまで、今日のうちにやっておいてください。