OpenAIのProject Lily、ChatGPTの私的に見える会話の背後に人間のレビューを配置
OpenAIのProject Lilyは、1対1のチャットボット画面が生み出す私的な雰囲気にもかかわらず、実際のChatGPT会話をレビューするために数百人の契約スタッフを起用していると報じられている。レビュアーはモデルの応答評価を支援するが、一部の会話には自動フィルタリングで除去されなかった個人情報が含まれているという。
このプログラムの存在は、社内ガイド、職場での議論、評価資料、実際のプロンプトに基づく9月14日の調査で詳述された。元の調査報道によると、レビュアーには文脈のない単独の質問ではなく、会話全体が渡される場合がある。
中心的な論点は、人間が人工知能に貢献すべきかどうかではない。人間からのフィードバックは長年にわたり主要な言語モデルを形作ってきた。より鋭い問題は、消費者向けの開示が、機密に感じられるやり取りを契約スタッフが読む可能性について利用者を十分に準備させているかどうかだ。
Googleはすでに、訓練を受けたサービス提供者がGemini会話の一部をレビューすると明示している。Project Lilyに関する報道によれば、Anthropicも対象となる会話に人間のレビューを用いることを認めている。この慣行は1社に限られないように見えるが、OpenAIはいま、通知、データ最小化、そしてプライバシーフィルターが十分な保護を提供しているかについて直接的な問いを受けている。
OpenAIのProject Lilyレビュアーが見るとされるもの
Project Lilyは、選ばれた消費者の会話を、人間のレビュアー向けの構造化された評価タスクに変換する。
報じられたワークフローは、実際のChatGPTプロンプトから始まる。契約スタッフはユーザーの依頼を読み、見受けられる意図を要約し、モデルが生成した複数の回答を評価する。レビュアーには4つの候補回答が提示され、1から7の尺度で採点するとされる。
このプロセスは、サムズアップのアイコンを選ぶだけよりはるかに複雑だ。レビュアーは回答内の長所と短所を特定し、その判断理由を説明し、応答がOpenAIの望ましい振る舞いを満たしているかを判定しなければならない。
評価指示は内容と語調の両方を扱うとされる。レビュアーは正確性、関連性、適切な書式、ユーザーの依頼への準拠を確認する。また、生成文を機械的あるいは操作的に感じさせうる習慣も減点対象となる。
そうした習慣には、不要なチェックマーク記号、煩雑な書式、主に利用継続を引き延ばすために設計された結びなどが含まれるという。レビュアーは、チャットボットが個人的な経歴を持つ人物であるかのように振る舞うなど、人間としての経験を主張する表現にもフラグを付けるよう指示されている。
もう一つの対象は迎合性、すなわちモデルがユーザーに過度に同意したり、ユーザーの枠組みを補強したりする傾向だ。迎合的なアシスタントは支援的に聞こえる一方で、不合理、誤り、または危険な前提に疑問を投げかけないことがある。
こうした欠点は文脈に大きく左右されるため、ここでは人間の判断が重要になる。硬直的な自動評価指標では、有益な共感と無責任な肯定を常に区別できるとは限らない。親しみやすい回答が、いつ媚びへつらうものや欺瞞的なものになるかを判断することにも苦労する。
これは、モデル開発者がコンピューティング基盤と自動評価に多額の投資をしても、依然として人を必要とする理由を説明している。回答は文法的に正しく、事実としてもっともらしくても、なお回避的、見下したよう、あるいは不気味なほど同意的に感じられることがある。
しかし、レビュアーが応答を判断する助けになる同じ文脈が、プライバシー上のリスクも高める。単独のプロンプトで明らかになることは少ないかもしれない。会話全体では、人間関係、健康上の懸念、職場の紛争、経済的問題、あるいはその他の識別可能な詳細が露わになりうる。
一部のレビュアータスクでは、会話の上部にユーザーメモリーの要約が表示されるとされる。ChatGPTのメモリーは、以前のやり取りから有用な詳細を保存し、後の応答をよりパーソナライズされたものにできる。その要約は、本人の職業、居住地、関心、状況に関する追加の手がかりにもなりうる。
レビュアーにはChatGPTのユーザー名は提供されないとされる。OpenAIも、会話はレビュアーに届く前にPrivacy Filterと呼ばれるシステムを通過すると述べている。この自動モデルは、個人情報を特定して除去することを目的としている。
ただし、アカウント名を削除しても、詳細な会話が必ず匿名化されるわけではない。特徴的な職業、珍しい病歴、名前のある地域コミュニティ、具体的な家族の出来事は、組み合わさることで個人を特定しうる。各断片は別々に確認すれば無害に見えるかもしれない。
したがって、報じられたChatGPTの人間レビューのプロセスは、2つの不完全な安全策に依存している。1つ目は自動的な編集・削除だ。2つ目は、有意義な評価を行うために十分な文脈を必要とする契約スタッフに対する組織的な管理である。
二次報道は、数百人の契約スタッフがこのプロジェクトに参加していると説明している。報道では、この業務がMercorおよびCrossing Hurdlesと関連づけられているが、OpenAIは完全な運用説明を公表していない。
この調査は、Project Lilyに入る会話の総数、サンプリング方法、レビュー担当者がアクセスできる期間を明らかにしていない。また、結果として得られたフィードバックを受ける具体的なモデルバージョンも特定していない。
こうした空白は重要だ。「人間がChatGPTのチャットを読む」という表現は全面的な監視を示唆するが、入手可能な証拠はそれを裏付けていない。「匿名化されたサンプルがモデルを改善する」という表現は安心感を与えうるが、会話全体とメモリー文脈が見られると報じられている事実を過小評価している。
擁護可能な結論は両者の間にある。選ばれた会話は人間による評価パイプラインに入るとされ、OpenAIはレビュー前にプライバシー保護を適用している。だが、これらの保護策は、すべての機微な詳細が消えることを保証するものではない。
ChatGPTの人間レビューが同意の問題を生む理由
最も強いプライバシー上の懸念は、正式なデータ管理と、会話型製品が生み出す期待との隔たりにある。
多くの人は、公開投稿が見知らぬ人に読まれる可能性を理解している。チャットボットは異なる心理的環境を提示する。空のテキストボックス、即時の返信、目に見える人間の聴衆がいないことを特徴とする。
そのインターフェースは情報開示を促す。人々はChatGPTを使って機密メールを推敲し、医療用語を解釈し、人間関係について話し、独自コードをデバッグし、職場の問題を考え抜く。日記や感情面の相談相手として扱う人もいる。
そのためユーザーは、データがサービス改善に役立つことを理解していても、契約スタッフが本文を確認する可能性までは想像しないかもしれない。モデル訓練は計算処理のように聞こえる。人間による評価は対人的に聞こえる。
OpenAIは、消費者向けコンテンツがモデル改善に役立つ可能性を開示している。同社の公開説明によれば、訓練前に個人情報を減らす措置を講じつつ、一定のやり取りデータを保持する。また、モデル改善ポリシーでは、消費者向け製品とビジネス向け製品を区別している。
Project Lilyは、読者がこうした開示をどう解釈するかを変える。「モデルを改善する」には、選ばれた会話を人が読み、要約し、批評し、採点することが含まれるとされる。この仕組みは、インフォームド・コンセントの意味に影響するため、より明確な注意を払うに値する。
OpenAIは調査を行った媒体に対し、機微な詳細がフィルターを通過する可能性があると語った。自動編集システムは、特に識別情報が間接的に現れる場合、難しい言語上の問題に直面する。
フィルターは、メールアドレスよりも、小さな町と組み合わされた珍しい職業を認識しにくい。一般的な形式の電話番号は削除できても、特殊な形式で書かれた識別子を見逃すことがある。曖昧な言及はさらに難しい。
文脈は基本的な技術上のトレードオフも生み出す。より強い編集はプライバシーを保護するが、レビュアーが必要とする資料を損なう可能性がある。弱い編集は評価価値を維持するが、露出を増やす。
例えば、ユーザーが職場での紛争後に上司へ送る返信文の作成をChatGPTに依頼したとする。名前を削除しても基本的なタスクは維持できるかもしれない。しかし、業界、役割、申し立て、以前のやり取りまで削除すると、その回答を適切に評価できなくなる可能性がある。
同じ緊張関係は、健康や人間関係に関する会話にも当てはまる。回答が適切に慎重なのか、危険な肯定に当たるのかを判断するには、レビュアーに文脈が必要だ。その文脈には、やり取りの中で最も機微な部分が含まれる可能性がある。
メモリーは情報をセッションをまたいで蓄積できるため、この問題を強める。1つの詳細だけでは個人を特定できなくても、繰り返し現れる詳細を構造化して要約すると、候補を絞り込める。
これが、プライバシーが従来型の個人識別情報だけに依存できない理由だ。効果的な匿名化では、組み合わせ、推論、連結可能性を考慮しなければならない。名前のない会話でも、極めて個人的なままでありうる。
報道はまた、ユーザーが自分のやり取りを誰かが分析していると想像しているとは思えない、と疑問を呈した契約スタッフの発言も引用している。この観察は、ユーザー認識を科学的に測定したものではない。しかし、製品設計上の問題を捉えてはいる。
OpenAIは有効な設定と正確なプライバシーポリシーを示すことができる。それでもユーザーは、インターフェースから実質的に異なる期待を抱く可能性がある。両方の主張は成り立ちうる。
この問題は脆弱なユーザーにとって特に重要だ。チャットボットに秘密を守るよう頼む人は、その会話的な返答を守秘の約束と解釈するかもしれない。モデルはその回答を通じて、OpenAIのバックエンドにおけるデータ運用を変えることはできない。
チャットボットは、セラピスト、弁護士、医師、あるいは守秘特権を持つ専門的助言者ではない。しかし、そのインターフェースは忍耐強く、パーソナライズされた会話をますます模倣している。この類似性は、弱い、あるいは目立たない形で提示されたプライバシー説明の代償を高める。
連邦取引委員会は、AI提供事業者に対し、プライバシーと守秘に関する約束を守るよう警告している。AIプライバシーに関するガイダンスは、モデルサービスに提出される機微な情報と、明確な通知の重要性を特に強調している。
Project Lilyに関する報告は、OpenAIが法律に違反したことを立証するものではない。ただし、人間によるアクセスと契約スタッフのレビューについて、現在の開示が十分に明確かを問う試金石にはなる。
埋もれたポリシーでもデータ処理を正確に説明できるが、製品が作り出した期待を修正することはできない。したがってOpenAIにかかる圧力は、漏洩した1つのプロジェクト名を超える。
同社は2つのメッセージを整合させなければならない。ChatGPTはより個人的で文脈を理解するものになりつつある一方、会話は人によってレビューされる訓練材料にもなりうる。
より良い応答は文脈に依存し、文脈はリスクを高める
Project Lilyは難しいトレードオフを浮き彫りにする。ChatGPTを改善するうえで最も有用な資料は、匿名化が最も難しい資料でもありうる。
モデル開発者には、実際の利用に似た事例が必要だ。合成プロンプトは既知のシナリオをカバーできるが、数百万件の本物の会話にある混乱、曖昧さ、感情的な質感を再現することはめったにない。
実際のユーザーは方向を変え、文脈を省き、自らを矛盾させ、複数のタスクを混在させる。また、モデルの以前の表現にも反応する。会話全体をレビューすることで、評価者はChatGPTが混乱を引き起こしたのか、あるいは誤った前提を強化したのかを把握できる。
そのフィードバックは、ベンチマークのスコアでは見落とされる問題に対処できる。モデルが事実テストには正しく答えていても、繰り返される免責表現によってユーザーを苛立たせる可能性がある。別のモデルは思いやり深く聞こえる一方で、有害な信念を肯定してしまうかもしれない。
人間のレビュアーは、こうした違いを見極められる。その評価は、事前学習済みモデルが幅広い言語パターンを学習した後、その振る舞いを調整するプロセスであるポストトレーニングを支援できる。
報道によれば、Project Lilyの指示の一部は、ChatGPTを過度に迎合的でなくし、人間らしい自己表現に陥りにくくすることに重点を置いている。これらの目標は単なる文体の問題ではなく、安全性とユーザーの信頼に直結する。
レビュー前にあらゆる個人的な手がかりを取り除くと、この評価の質を損なうおそれがある。センシティブな助言を判断する評価者は、ユーザーが何を明かし、会話がどのように進展したかを知る必要がある。
ここには不都合な逆転がある。個人的な文脈は、レビュアーが危険な振る舞いを特定する能力を高めるが、同じ文脈があるために人間が内容に接することの影響も大きくなる。
AIアシスタントが記憶機能を獲得するにつれ、この緊張関係はより鋭くなる。記憶システムは、ChatGPTが同じ質問を繰り返すことを避け、その後の回答を個別に調整する助けになる。一方で、散在していた開示情報を永続的なプロフィールへと変換する。
そのプロフィールには、日常的な好みと並んで、極めてセンシティブな情報が含まれ得る。直接的な識別子がなくても、その組み合わせからユーザーのおおよその居住地、職業、家族構成、継続中の問題が明らかになる可能性がある。
これは、記憶機能や人間による評価をなくすべきだという主張ではない。文脈データを、設計段階からセンシティブなものとして扱うべきだという主張である。
最も安全なモデル改善パイプラインでは、各レビュアーに見せる情報を最小限に抑え、本人性とコンテンツを分離し、アクセスを制限し、すべてのやり取りを記録し、短い保存期間を徹底するだろう。また、言語や一般的でない識別子が異なっても、匿名化処理が一貫して機能するかを検証する必要がある。
OpenAIは、こうした統制を評価するのに十分なProject Lilyの詳細を公表していない。報道では、ユーザー名は伏せられ、Privacy Filterが会話を処理するとされる。しかし、独立したセキュリティ監査や、測定された失敗率は示されていない。
こうした詳細がないことを、失敗の証拠に変換すべきではない。未解決の検証ギャップとして扱うべきである。
契約事業者の体制は、関与する組織や作業者の数を増やすため、とりわけ厳しく検証する必要がある。アクセス地点が一つ増えるたびに、研修、監督、端末の安全性、複製、保存、インシデント対応に関する運用上の疑問が生じる。
契約事業者が厳格なルールに従っていても、作業に必要なセンシティブな情報を見ることはあり得る。プライバシーリスクは、不正行為がなくても発生する。認可されたアクセス自体が、ユーザーの期待と衝突し得るからだ。
この区別は、消費者プライバシーを巡る議論ではしばしば見落とされる。セキュリティは、権限のない人物がデータを取得したかを問う。プライバシーはさらに、認可された利用が適切な範囲か、理解可能か、収集時の文脈と整合しているかも問う。
OpenAI Project Lilyは、正当な評価作業を通じてモデル品質を向上させるために設計されているように見える。論争の焦点は、データパイプラインが製品体験の親密さに見合っているかどうかだ。
個人にとって、これはナレッジマネジメントの問題でもある。下書き、調査メモ、職場の詳細は、別々に保存される場合よりも、組み合わせることで多くを明かし得る。プライベートなAIナレッジベースには、ソース資料がどこへ移動するかについて明確な境界が必要だ。
ユーザーは、名前を削除すればプロンプトが安全になると考えるべきではない。専有コードから企業が特定されることがある。契約書の抜粋は、日付や義務を通じて当事者を特定し得る。医療に関する記述は、まれな状況を通じて本人を露出させる可能性がある。
よりよい原則は、送信前のデータ最小化だ。作業に必要な詳細だけを提供し、識別子はローカルで置き換え、適切な統制なしに消費者向けツールへ秘密情報を貼り付けない。
このアプローチは、不明瞭なプラットフォーム開示を正当化するものではない。自動化されたプライバシーフィルターは、慎重な製品設計やユーザーの判断を完全に代替できないことを認めるものだ。
OpenAIのプライバシー管理は重要だが、限界もある
ユーザーは新しい消費者向け会話がモデル改善に使われるのを防げるが、その選択によってあらゆる形態のレビューや保存がなくなるわけではない。
OpenAIの現行ChatGPTプライバシー管理には、直接的なオプトアウトが用意されている。ログイン済みのユーザーはSettingsを開き、Data Controlsを選択して、「Improve the model for everyone」を無効にできる。
公式のdata controls guideによれば、この設定を無効にしても会話はチャット履歴に表示されたままとなる。新しい会話はChatGPTのトレーニングには使用されない。
この設定は、同一アカウントであればデバイス間で適用される。OpenAIは、サポートまたはプライバシーフォームを通じて以前に提出されたオプトアウトの要請も引き続き尊重するとしている。
新規データと既存データのこの違いは重要だ。モデル改善をオフにすると、今後の会話の扱いが変わる。ユーザーは、この切り替えによって、すでに処理済みまたはトレーニングワークフローに組み込まれた情報が遡及的に削除されると考えるべきではない。
Temporary Chatは別の境界を提供する。OpenAIによれば、保存されない一時会話は履歴に表示されず、新しい記憶も作成せず、モデル改善にも利用されない。
同社は、安全性の目的でコピーを最長30日間保存する場合がある。OpenAIは、一時会話が不正利用の監視のためにレビューされる可能性もあるとしている。
つまり、一時的であることは、不可視であること、即時に削除されること、あるいはすべての人間によるアクセス経路から除外されることを意味しない。会話が、より制限的な製品改善および記憶のポリシーに従うことを意味する。
パーソナライズが有効なままであれば、一時会話でも既存の記憶を利用できる。ユーザーは、過去の記憶やカスタム指示を適用したくない場合、パーソナライズされない一時セッションを選択できる。
ユーザーがTemporary Chatを保存すると、それは通常の会話になる。その後は、アカウントのモデル改善およびパーソナライズ設定に従う。
こうした詳細により、ChatGPTのプライバシー管理は有用である一方、誤解されやすいものになっている。関係する概念は3つに分かれる。
モデル改善は、対象となるコンテンツがトレーニングと評価を支援するかどうかを決める。
記憶は、情報が後の会話をパーソナライズできるかどうかを決める。
安全性モニタリングは、不正利用の検出のために限定的な保存またはレビューを認める。
一つを変更しても、必ずしも他を無効にするわけではない。記憶をオフにしたユーザーが、モデル改善も自動的にオフにしたことにはならない。Temporary Chatを選んだユーザーも、安全性レビューを一切受けないという絶対的な保証を得たわけではない。
ビジネス向け製品では、デフォルトが異なる。OpenAIは、組織が明示的にオプトインしない限り、ChatGPT Business、Enterprise、Edu、ヘルスケア向け製品、教員向け製品、またはAPIプラットフォームからの入力や出力でトレーニングを行わないとしている。
この違いは、従業員が社内文書をAIシステムに入力してよいかを判断する企業にとって重要だ。消費者向けアカウントと承認済みのビジネスワークスペースは、同一のデータに関する約束を伴うものではない。
ビジネス向けの保護があっても、ガバナンスの必要性はなくならない。組織は依然として、アクセス、接続されたアプリケーション、保存期間、顧客情報を扱う従業員の対応を管理しなければならない。
個人ユーザーもまた、利便性と機密性を分けて考えるべきだ。チャットボットは、元の氏名、勤務先、住所、口座番号を受け取らなくても、センシティブなメッセージの書き換えを支援できる。
開発者は、デバッグ時に架空の値を使える。研究者は、構造に関するフィードバックを求める前に事例を要約できる。従業員は、承認された職場ツールに従い、制限された情報を個人アカウントへ移さないようにできる。
継続的なプライベート作業では、ローカルファーストのセカンドブレインによって、システム間での不要な複製を減らせる。重要なのは、情報がどこに保存されるかだけではなく、処理中にどのサービスがその情報を受け取るかだ。
Project Lilyは、インターフェースレベルの警告がなぜ重要かも示している。ユーザーは、モデル改善に関する大まかな表現から人間によるアクセスを推測しなければならない状況に置かれるべきではない。
明確な開示では、選択された会話が、自動化されたプライバシー処理の後に訓練を受けた担当者またはサービスプロバイダーによってレビューされる可能性があると説明できる。その説明は、ポリシー文書の中だけでなく、モデル改善の切り替えの近くに表示できる。
インターフェースは、記憶を有効にする前やセンシティブなファイルをアップロードする前にも、ユーザーへ注意を促せる。より細かな管理により、運用上可能な場合には、自動トレーニング、人間による評価、安全性レビューを分離できる。
こうした管理によって、クラウド上のチャットボットが法的秘匿特権のあるコミュニケーションと同等になるわけではない。ただし、境界をより可視化し、理解しやすくすることはできる。
人間によるレビューは業界慣行であり、OpenAIだけの例外ではない
OpenAIが現在注目を集めているが、人間による評価は消費者向けAI開発全体に組み込まれている。
GoogleのGeminiドキュメントは、最も明確な公開比較を提供している。Googleは、低品質、不正確、または有害な応答を特定するため、訓練を受けたサービスプロバイダーが一部のチャットをレビューするとしている。
Googleはまた、レビュー対象のチャットはサービスプロバイダーに届く前にユーザーアカウントとの関連付けが解除されるとしている。Gemini privacy hubでは、レビュアーに見られたくない機密情報を入力しないようユーザーに警告している。
この警告は、人間の役割を異例なほど明示している。Googleによれば、レビューされた会話と関連情報は、ユーザーが関連アクティビティを削除した後でも最長3年間保存される可能性がある。
ユーザーはKeep Activity設定をオフにして、今後のチャットがGoogleのサービス改善に使われるのを止められる。一時チャットもモデル改善から除外されるが、限定的な安全性処理は継続する可能性がある。
Anthropicは404 Mediaに対し、改善設定を通じて対象となった会話に対しても人間によるレビューを利用していると述べた。報道によれば、Anthropicはレビュー前にメールアドレスを含むアカウント識別子を削除している。
これらの比較は、すべての企業が同じ情報を収集している、あるいは同一の統制を用いていることを示すものではない。人間による評価が、OpenAIに固有の一時的な回避策ではないことを示している。
言語モデルは、自動化システムだけでは十分に提供できない判断に依存している。人々は、回答が有用か、正確か、安全か、適切に慎重か、複雑な指示に沿っているかを評価する。
競争上の圧力は明らかだ。企業は、人間のふりをせずに自然に感じられるアシスタントを求めている。反射的な同意に陥らない感情的知性を求めている。許容できないプライバシー露出を伴わないパーソナライゼーションを求めている。
それぞれの目標は別の目標と衝突する。より多くの文脈は関連性を高められる。より多くの保存された文脈はセンシティビティを高め得る。より多くの人間による判断は、繊細な安全性を向上させられる。より多くの人間によるアクセスは、ユーザーの信頼を弱め得る。
業界が好んできた解決策は、匿名化、アクセス管理、契約事業者との取り決め、オプトアウト設定だ。Project Lilyは、アシスタントがより親密になる中でも、これらの措置が説得力を保てるかを試している。
競争圧力は別の問題も生み得る。モデル品質は、実際の利用に関する多様で最新の事例に一部依存する。レビュー用データを厳しく制限するプロバイダーは、新たに生じる失敗についての貴重な証拠を失うかもしれない。
これは、プライバシーと性能が相互排他的であることを意味しない。プライバシーを保護する代替手段には、本格的な投資と測定可能な検証が必要だという意味である。
企業は、合成評価を改善し、オンデバイス分類を利用し、レビュアーに見せる範囲を狭い抜粋に限定し、最もセンシティブな作業には管理された社内チームを活用できる。また、サンプリングや匿名化の性能に関する集計情報を公開することもできる。
独立監査は、実効性の高い保護策と安心感を与えるだけの表現を見分ける助けになる。有用な開示には、レビュー担当者の所在、アクセス期間、匿名化テスト、インシデント発生率、各タスクでメモリー要約が必要かどうかなどが含まれ得る。
OpenAIはまた、会話が無作為に抽出されるのか、自動システムによって選別されるのか、あるいはユーザーがフィードバックを提供したために選ばれるのかを説明できるだろう。仕組みごとに、異なる期待や潜在的なバイアスが生じる。
サンプリング設計はモデル品質にも影響する。ユーザーフィードバックを基に選ばれた会話は、失敗事例や特に積極的なユーザーを過度に代表する可能性がある。無作為サンプルなら通常の利用状況を捉えられる一方、フィードバックを能動的に送信していない人々の内容も露出させる可能性がある。
Project Lilyの報道は、こうした疑問を解決していない。ただし、これまで主に「モデル改善」と説明されてきた領域の背後にいる人々と仕組みを明らかにしている。
人によるレビューが依然として必要であるとしても、その可視化には価値がある。AIサービスを支える労働が技術用語の陰に隠されなければ、消費者はよりよい選択ができる。
同じことは、請負業者の労働環境にも当てはまる。評価担当者は、苦痛を伴う内容、性的な内容、暴力的な内容、あるいは極めて個人的な内容に接する可能性がある。責任あるプログラムには、メンタルヘルス保護、明確なエスカレーション手順、現実的な生産性目標が必要だ。
こうした労働に関する問いは、プライバシー分析を補完すべきであり、それに取って代わるものではない。中心的な対立点は、OpenAIによる管理されたモデル改善という約束と、文脈を伴う人間のアクセスという現実との間にある。
Project Lilyがなお証明すべきこと
次の段階は、情報開示、検証可能なプライバシー性能、そしてレビュー担当者向けインターフェースの変更によって評価されるべきだ。
最初の兆候は、OpenAIがProject Lilyについて直接的な説明を公表するかどうかである。意義ある声明であれば、どの会話が対象となるのか、同意設定がどのように適用されるのか、請負業者が何を閲覧できるのかを説明するはずだ。
報じられたワークフローを認めれば、人によるレビューが消費者向けモデル改善の定常的な構成要素であるという結論は強まる。限定的な否定や大幅な訂正があれば、現時点の説明の一部は弱まる。
沈黙が続けば、証拠は流出資料と匿名の労働者証言に依存したままとなる。これらの資料は重要だが、すべての運用上の疑問に答えられるわけではない。
第二の兆候は、OpenAIがPrivacy Filterに関する測定可能な情報を提供するかどうかだ。ユーザーに必要なのは、トレーニングやレビューの前に個人情報を削減しているという説明だけではない。
有用な証拠には、言語間、珍しい識別子、間接的な言及、長い会話を対象としたエラーテストが含まれる。企業による一般的な説明よりも、独立した評価のほうが重みを持つ。
実証された低い失敗率は、レビュー担当者への露出を実質的に制限しているというOpenAIの主張を裏付ける。一貫しない匿名化の証拠があれば、より限定的なサンプリングと強力な管理を求める声が強まる。
第三の兆候は、レビュー担当者向けインターフェースが変わるかどうかである。メモリー要約は、複数の会話にまたがる詳細を組み合わせ、再識別を容易にする可能性があるため、特に注意を要する。
OpenAIは、真にパーソナライズの文脈を必要とするタスクにのみ、こうした要約を限定できる。レビュー担当者には必要最小限の関連メモリーだけを提供するか、個人的な詳細を抽象的なカテゴリーに置き換えることも可能だ。
ChatGPTのモデル改善設定の近くに、目立つ通知を設けることも重要になる。それには、選ばれた会話がプライバシー処理後に人間のレビューを受ける可能性があることを明確に記載すべきだ。
規制当局は、こうした開示と実際の運用との関係を注視するだろう。FTCはすでに、AI企業はプライバシーに関する約束を守り、二次的なデータ利用を隠してはならないと明確にしている。
ユーザーにとって、直近の対応はよりシンプルだ。ChatGPTのプライバシー管理を見直し、必要に応じてモデル改善を無効にし、安全性に関する例外を明確に理解したうえでTemporary Chatを利用する。
パスワード、金融認証情報、秘密鍵、未編集の医療記録、または雇用主の機密データを送信してはならない。支援を依頼する前に、氏名や識別につながる詳細を置き換えるべきだ。
組織は、従業員が個人用の消費者向けアカウントではなく、承認済みの業務用製品を利用していることを確認すべきである。また、どの情報カテゴリーをAIシステムに入力でき、どの情報を除外しなければならないかも文書化する必要がある。
OpenAI Project Lilyは、すべてのChatGPT会話が請負業者に届くことを証明するものではない。だが、プライベートに見えるインターフェースを私的な部屋と誤解してはならない理由を示している。
人によるレビューは、正確性、口調、安全性を改善できる。一方で、そうした判断を可能にする個人的な文脈を露出させることもある。業界はこの交換関係を、一般のユーザーにも理解できる言葉で説明しなければならない。
次に機微な会話をする前に、現在の設定を確認してほしい。そして、より難しい問いを投げかけてほしい。訓練を受けたレビュー担当者がユーザー名なしでそのプロンプトを見たとしても、それは受け入れられるだろうか。答えがノーなら、識別につながる文脈を削除し、より強力なデータ保護方針を持つ製品を選ぶか、その内容をチャットボットの外に置くべきだ。
