ChatGPT: アルトマンが人工知能のリスク、可能性、そして受容について語る

ChatGPT: アルトマンが人工知能のリスク、可能性、そして受容について語る

「Zeit」誌のインタビューで、OpenAIの責任者はリスクについて警告し、機会について語る。彼はヨーロッパを愛し、撤退する意向はない。

OpenAIのChatGPTがIT界に新たなレベルの厳格な規制が必要であると主張する人もいれば、人工知能と言語モデルはそれほど重要で人生を変えうるものだと見る人もいます。CEOのサム・アルトマン氏は「Zeit」誌のインタビューで、データ保護、AI法、過剰規制のリスクと欧州での活動継続について述べた。

データ保護とAIの受容

サム・アルトマンは、ChatGPTとの「会話」を「非常に個人的なもの」と表現しています。しかし、これはデータ保護規制の対象となる一般的なデータや、弁護士と依頼人間の特権に匹敵する特別な機密情報ではありません。それでも、アルトマン氏はAIとのチャット履歴を他者と共有する意向はありません。例えば自殺に関する投稿など、例外も規定する新たなカテゴリのデータ保護が必要です。

人々がテクノロジーに慣れ、何が起こっているのかを理解するには時間がかかります。政治家やビジネスリーダーも同様です。そのため、ChatGPTを秘密にするのではなく、より「不完全な」バージョン3.5をリリースすることで、GPT-4を直接公開するよりも有益だったのです。「それは大地震になっただろう」とアルトマン氏は語ります。

欧州からの撤退は計画されていません

OpenAIのトップは最近、米国上院でAIの開発に伴うリスクを認めました。技術開発を保護し、社会への将来的な影響を理解するのに何年もかかりました。OpenAIは公開を急いでおらず、他の企業が彼の言語モデルを複製しようとしているとアルトマン氏は言います。完成後、彼と彼のチームは、リリース前にChatGPTの潜在的な危険性に対するセキュリティにさらに8ヶ月を費やしました。

アルトマン氏は、オラフ・ショルツ首相を含む欧州の政府首脳との議論を肯定的に見ています。それぞれが「既に十分な検討をしており」、一般的なAIに焦点を当てており、短期および長期の規制が確実に予見可能だと述べています。アルトマン氏にとって重要なのは、過剰規制によって利点が損なわれないことです。

欧州からの撤退は計画されていません

OpenAIは、「我々はヨーロッパを愛している」と以前脅迫されたようなEUからの撤退を望んでいません。アルトマン氏は、「ガイドラインに従うよう努める」と述べています。それが不可能であれば、法律に違反はしません。ただし、システムはAI法の要件に技術的に準拠する必要があります。計画されている欧州法の争点の一つは責任の問題です。アルトマン氏は、企業がGPTに基づくアプリケーションを開発した場合に生じうる人々への差別の可能性を指摘しました。このような場合、責任はツールではなく会社にあります。

いずれにせよ、OpenAIは危険なモデルを公開することになるでしょうが、それは事後に発見されることです。しかし、同社はトレーニングのためにますます多くのデータを使用しており、将来は依然としてエキサイティングなものになるでしょう。これらは購入した書籍や画像から得られたものです。そしてアルトマン氏は、AlphaGo-Zeroのような自己学習システムとデータから学習するGPTの組み合わせがAI開発の次の大きなステップになるだろうと述べています。一部の科学者が反対する意見にも関わらず、GPTの開発はまだ完了していません。

偽情報の拡散は別の危険を生じさせます。既に、ソーシャルメディアはこの目的に使われていますが、将来的には、より強力な言語モデルがソーシャルメディアに接続された場合、誤情報やヘイトスピーチの拡散が増加する恐れがあります。いずれ、対話相手が人間なのかアルゴリズムなのかを識別することが非常に困難、あるいは不可能になるかもしれません。アルトマン氏は、AIを使って簡単に実行または作成できるサイバー攻撃や生物兵器にも懸念を示しています。

アルトマン氏は、「将来、人間と機械を区別できる『サム・アルトマン・テスト』と、それを明らかにする質問は何か」というディ・ツァイトの提案に対して答えを避けました。「別のテスト」を見つけるのには多くの時間がかかるだろうと彼は言いました。「GPTのようなシステムが実際に世界を理解しているかどうかをどうやって認識できるでしょうか?」

5/5 - (1 vote)

BLOG

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています
ブログ

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています

サイバーセキュリティの現状は脅威であり、「いつでもエスカレートする可能性がある」とフェーザー内務大臣が警告しています。BSIは、国内のさらに多くのシステムをスキャンしたいと考えています。

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです
ブログ

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです

ChatGPT 検索エンジンにはボーナスなし + ISS ミッションは非公開で開始 + アイオワ対 TikTok + インディゲームのトレーラー + フランス対 Yahoo + 現金支払い限定

AIテキストジェネレーターのChatGPTが魅力的である理由
ブログ

AIテキストジェネレーターのChatGPTが魅力的である理由

変圧器ネットワークについて ChatGPTは、OpenAIが2020年に開発したGPT-3という言語モデルを基にしています。GPT-3は、ほぼ完璧な英語でさまざまなスタイルのテキストを生成する能力を持っています。このニューラルネットワークは、いわゆる事前学習を通じてインターネットからのテラバイト単位のテキストデータを学習しました。これが名前に「P」が含まれる理由です。また、生成するテキストがトレーニングデータ(名前の「G」)とできるだけ近くなるように学習しています。