ChatGPTのデータ保護責任者は、「心配している人からの質問がたくさんある」と述べています。

ChatGPTのデータ保護責任者は、「心配している人からの質問がたくさんある」と述べています。

トレーニングデータ内の個人データを削除する一方で、ChatGPTで行われた対話でも個人データを削除するオプションについてはどうですか?

最近までユーザーの削除オプションについては言及されていませんでしたが、今後は少なくとも自分の履歴を削除できるようになります。もちろん、OpenAIに手紙を送って個人データの削除をリクエストすることもできます。しかし、その時に何かが起こるかどうかはわかりません。いずれにせよ、言語モデルの背後にあるニューラルネットワーク内の何かを削除するのはそれほど簡単ではありません。技術分野では「アンラーニング」の手法はありますが、機械学習の分野では依然として研究の必要性があります。あるいは、上流のフィルタをインストールすることもできます。これは削除の問題を解決するものではありませんが、「削除する権利」により検索エンジンに表示されなくなった過去の裁判所の有罪判決など、少なくとも特定の不要なデータが吐き出されないようにすることはできます。

「フィルターが検閲につながった」

ただし、このようなフィルターは間違いなく問題になる可能性があります。

正しい!少なくとも、OpenAIのGPT-4に基づくBing Chatでは、中国国家から迫害され虐待を受けているウイグル人の人権状況に関する情報が提供されなくなった事例を私は知っている。その後、ユーザーは別のことを要求できると言われました。ここでのフィルターは検閲、除外、キャンセルにつながりましたが、これを外部から認識するのは簡単ではありません。これはデータ保護とはほんのわずかしか関係ありませんが、このようなシステムが世界の見せ方も変える可能性があることを示しています。これらは表現の権利、表現の自由、民主主義に関する問題です。これは当社のデータ保護監査をはるかに超えています。

イタリアでも、ChatGPTの禁止は未成年者の保護によって正当化された。

そのとおりです。GDPRは、未成年者に対して特別な保護が必要であると規定しています。たとえば、専門家の間で議論されたシナリオは、ChatGPTが体重40キロの子供に、さらに5キロ体重を減らすためのダイエット計画を提供するというものでした。そうなると、子供は実質的に餓死する可能性があります。年齢確認に関する疑問はまだ解決されていない。実際に、そのようなシステムがユーザーの年齢を知り、そのために大量のデータを収集することを望んでいますか?ここでは、データ保護と児童保護が連携して機能する必要があります。

欧州のデータ保護の利点

欧州のデータ保護の利点

大きな社会変化をもたらす可能性のある ChatGPT などの AI システムが、データ保護を通じて欧州で阻止される可能性があるというシナリオがあります。これは現実的ですか?

データ保護における大きな利点は、ヨーロッパ全土で統一されたルールがあることです。また、法的適合性を考慮して処理を実行するよう当局が命令した場合、単一の当局が検証可能にチェックして問題を特定することで、「すべての人にとって」成功を収めることができることです。調整する必要があります。また、データ保護に関しては、欧州司法裁判所が比較的迅速に決定を下すことができ、その決定がすべての人に適用され、明確になるという利点もあります。他の多くの法律分野では、規制はまだ標準化されていません。すべてのデータ保護に配慮した設計が、AI システムが関与する他の法的分野の要件を同時に満たしているわけではありません。さまざまな分野の専門知識を結集する必要があるため、これが現在の最大の課題の 1 つです。

EU はトレーニング データに個人データが含まれていることを証明する必要がありますか?では、個人データが使用されていないことの証明責任はOpenAIではなくEU側にあるのでしょうか?

デジタルテキストはもちろん機械語学習にも組み込まれています。慎重に選択しないと、多くのテキストに特定の人物への言及が含まれることになります。これにより、個人情報が含まれていることが明らかになります。説明責任要件に従って、そのようなオファーを提供する人は、たとえ匿名化が上流で実行されたとしても、GDPR の要件が満たされていることを証明できなければなりません。以前の GPT-2 バージョンでは、トレーニングが個人データを使用して実行されたこと、およびそのようなデータを抽出する方法があることさえ科学的に証明されています。

このページを評価する

BLOG

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています
ブログ

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています

サイバーセキュリティの現状は脅威であり、「いつでもエスカレートする可能性がある」とフェーザー内務大臣が警告しています。BSIは、国内のさらに多くのシステムをスキャンしたいと考えています。

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです
ブログ

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです

ChatGPT 検索エンジンにはボーナスなし + ISS ミッションは非公開で開始 + アイオワ対 TikTok + インディゲームのトレーラー + フランス対 Yahoo + 現金支払い限定

AIテキストジェネレーターのChatGPTが魅力的である理由
ブログ

AIテキストジェネレーターのChatGPTが魅力的である理由

変圧器ネットワークについて ChatGPTは、OpenAIが2020年に開発したGPT-3という言語モデルを基にしています。GPT-3は、ほぼ完璧な英語でさまざまなスタイルのテキストを生成する能力を持っています。このニューラルネットワークは、いわゆる事前学習を通じてインターネットからのテラバイト単位のテキストデータを学習しました。これが名前に「P」が含まれる理由です。また、生成するテキストがトレーニングデータ(名前の「G」)とできるだけ近くなるように学習しています。