OpenAIの研究者がAIの脅威に警告する

OpenAIの研究者がAIの脅威に警告する

ChatGPTの開発者であるOpenAIの上級研究者が、Secret AIプロジェクトによる人類への脅威について理事会に警告していることが分かりました。

静かなクリスマスの期間にも関わらず、OpenAIには最近多くの不安があります。2023年11月17日、同社は驚くべきことに、同社の共同設立者でありチャットボット開発者のSam Altmanを解放しました。主要な研究者が人工知能分野での重大な発見について理事会に警告したことが現在明らかにされています。ロイター通信が報じているように、従業員からの手紙は「人類への脅威」について語っています。

警告はAltmanの解放に繋がります

ロイターによると、この問題をよく知る2人の情報筋は、以前に公開された手紙が、Altmanを理事会から解除するよう促した不正行為の長いリストの重要な要因だったと述べました。情報筋によると、OpenAIはQ*(キュースターと発音)と呼ばれるプロジェクトに関して、労働力への内部メッセージと理事会への手紙で語っています。同社の広報担当者は、ミラ・ムラティという長年のマネージャーから送られたニュースが、従業員に特定のメディア報道を認識させたと述べました。

AltmanとしてのOpenAIのCEO

人工汎用知能を探求します

一部の従業員によると、Q*は、いわゆる人工汎用知能(AGI)を探求する際に、スタートアップのブレークスルーとなる可能性があります。OpenAIは、AGIを人間を超える最も経済的に価値のあるタスクで自律するシステムとして定義しています。膨大な計算リソースを鑑みて、新しいモデルは特定の数学的問題を解決する能力があります。名前を公表できないという条件で匿名を希望した情報源によると、研究者は理事会への手紙でAIのパフォーマンスと潜在的な危険を指摘しました。しかし、ロイターが言及したセキュリティ上の懸念の具体的な内容は明かされませんでした。

AltmanとしてのOpenAIのCEO

Altmanは、AGIが間近に迫っていることを強調する直前に指摘しました。「OpenAIの歴史で4度、最近では過去数週間にわたり、私たちが知識のベールを剥がし、発見の限界を延ばしたとき、私はそこにいる特権を持っていました。それが私の人生の職業的栄誉です」と彼はアジア太平洋経済協力サミットで述べました。彼の解任は1日後に続きました。しかし、それはもう過去のことです。2023年11月22日、彼はCEOとしてOpenAIに戻りました。同時に、同社は新しい理事会を発表しました。

このページを評価する

BLOG

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています
ブログ

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています

サイバーセキュリティの現状は脅威であり、「いつでもエスカレートする可能性がある」とフェーザー内務大臣が警告しています。BSIは、国内のさらに多くのシステムをスキャンしたいと考えています。

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです
ブログ

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです

ChatGPT 検索エンジンにはボーナスなし + ISS ミッションは非公開で開始 + アイオワ対 TikTok + インディゲームのトレーラー + フランス対 Yahoo + 現金支払い限定

AIテキストジェネレーターのChatGPTが魅力的である理由
ブログ

AIテキストジェネレーターのChatGPTが魅力的である理由

変圧器ネットワークについて ChatGPTは、OpenAIが2020年に開発したGPT-3という言語モデルを基にしています。GPT-3は、ほぼ完璧な英語でさまざまなスタイルのテキストを生成する能力を持っています。このニューラルネットワークは、いわゆる事前学習を通じてインターネットからのテラバイト単位のテキストデータを学習しました。これが名前に「P」が含まれる理由です。また、生成するテキストがトレーニングデータ(名前の「G」)とできるだけ近くなるように学習しています。