Jon Reed（CNET News）
翻訳校正： 編集部2025年07月28日 10時30分AIチャットボットに心の闇や秘密をすべてさらけ出すのはやめたほうがいい。
それは私の個人的意見ではなく、今もっとも注目される生成AIモデル「ChatGPT」を世に送り出した張本人の懸念でもある。OpenAIのCEOであるサム・アルトマン氏は、ポッドキャスト『This Past Weekend』に出演し、司会のシオ・ヴォン氏と対談する中でこの問題に踏み込んだ。
アルトマン氏は、AIとのやりとりにも医者や弁護士との会話と同じレベルのプライバシー保護が必要だと強調した。
ヴォン氏はAIツールを使うことへのためらいを口にし、「自分の個人情報がどこへ流れていくのか、まったくわからないから」と話した。
これを聞いたアルトマン氏は、「それは当然だと思う。AIを本格的に使う前に、プライバシーや法的な保護について明確にしておきたいと考えるのは、すごく自然なことだよ」と返している。実際、いま多くの人が、AIチャットボットをまるでセラピストや医師、あるいは弁護士のように扱い始めている。
だが、これが大きなプライバシーの問題を生み出している。
AIとの会話には法的な守秘義務は一切なく、話した内容が実際にどのように取り扱われているのか、その仕組みも驚くほど不明瞭だ。さらにAIを相談役として使うことには、別のリスクもつきまとう。
たとえば、AIが思わぬ悪いアドバイスをしたり、偏見やステレオタイプを知らず知らずのうちに広めたりすることがあるからだ。
（筆者の同僚は「ChatGPTに頼ってはいけない11のこと」をまとめている）アルトマン氏自身も、ユーザーがAIに頼りすぎる状況に多少は心を痛めているようだ。
「特に若い人がAIをセラピストやライフコーチのように利用し、『恋愛がうまくいかないんだけど、どうしたらいい？』といった相談まで持ちかける」とアルトマン氏は指摘。
「今のところ、そういった問題についてセラピストや弁護士、医者に話せば、そこには法的な特権がある」とも述べ、AIにはそれら保護が存在しないと示唆した。この問題が話題に上がったのは、「AIにもっと厳格な規制を設けるべきか」という議論の最中だった。
しかし、AI企業やテクノロジーの発展を妨げるような規制が今のワシントンで受け入れられる見込みは低い。
今週発表されたトランプ政権の「AIアクションプラン」でも、AIに対する規制は強めるのではなく、むしろ緩めていく方向性が示されている。
ただし、利用者を守るための規制ならば、むしろ歓迎される可能性がある。アルトマン氏が特に懸念しているのは、プライバシーに関する法整備が不十分なせいで、自社を含むAI企業が、ユーザーの極めて個人的な会話を訴訟時に提出させられる可能性があることだ。
実際、OpenAIは著作権侵害をめぐるニューヨーク・タイムズとの訴訟において、ユーザーの会話データの提出を求められ、それに異議を申し立てている。アルトマン氏はこう語る。
「もし誰かがChatGPTにとてもデリケートな話を打ち明け、それが裁判沙汰になったとしたら、私たちはその会話の内容を法的に提出させられる可能性がある。
こんな状況は本当におかしい。
AIとの会話にも、セラピストなどと話すのと同じようなプライバシーの権利が当然あるべきだ」。AIに秘密を打ち明けるときは慎重に
あなたにとって問題なのは、OpenAIが訴訟で会話の提出を求められるかどうかではない。
「秘密を誰に託すのか」という信頼の問題だ。カーネギーメロン大学の研究者ウィリアム・アグニュー氏は、AIチャットボットがセラピー的な相談にどの程度適切に答えられるかを評価した研究チームのメンバーだ。
同氏は最近、「AIツールに個人的なことを打ち明ける際、最も重要になるのはプライバシーの問題だ」と語った。
AIモデルが具体的にどう機能しているかはっきりしないこと、そして自分の会話が他人のチャットに漏れない仕組みが不透明なことを考えるだけでも、利用に慎重になる理由として十分すぎるという。「企業があなたのデータを慎重に扱おうとしているとしても、これらのモデルが情報を再吐き出しすることはよく知られている」ともアグニュー氏は指摘する。
もしあなたがChatGPTなどのAIツールに、セラピーや医療相談の内容を打ち明けたとしよう。
仮に保険会社や、あなたの個人的な事情に興味を持つ第三者が、後になって同じツールにあなたのことを質問すれば、その秘密が再吐き出しされるリスクがあるのだ。「人々はAIに情報を提供する際、もっとプライバシーを意識するべきだ。
チャットボットに打ち明けることのほとんどは『秘密』として守られる保証がないと心得ておいたほうがいい」とアグニュー氏は警鐘を鳴らす。
「AIに与えた情報は、予想もつかないあらゆる形で利用される可能性があるのだから」
