「Q*」モデルの超知能に関する誇大宣伝:ChatGPTはついに算数を習得するのでしょうか?

「Q*」モデルの超知能に関する誇大宣伝:ChatGPTはついに算数を習得するのでしょうか?

11月のOpenAIでの劇的な出来事以来、同社の最高科学責任者であるイリヤ・サツケヴァー氏と当時の取締役会の残りのメンバーが、正確にはなぜCEOのサム・アルトマン氏を会社から追い出すことを決めたのかについて、様々な噂が飛び交っています。周知の通り、アルトマン氏は権力闘争を経て復職しましたが、疑問符は残ります。

ReutersとThe Informationは、OpenAIが強力なAIシステムを開発する新しい方法を以前に発見したと報じていました。Q*(「キュースター」と読む)と呼ばれる新しいモデルは、初級レベルの数学の問題を解くことができると言われています。これは、汎用人工知能(AGI)の構築を目指す同社の取り組みにおける画期的な出来事であると言われています。Q*についてはまだOpenAIからのコメントはありません。この報道を受けて、ソーシャルメディアは憶測と誇大宣伝で溢れかえりました。しかし、専門家はこの状況をどう評価しているのでしょうか?MIT Technology Reviewは、この件について著名なAI研究者にインタビューしました。

コンピュータ科学者は、実際には解決するように設計されていない数学的問題を解決するためにAI言語モデルを使用することに何年も費やしてきました。GPT-4とそれに基づくChatGPTはそのようなタスクを解決できますが、あまり優れておらず、信頼性もありません。これまでのところ、生成AIを使用して数学的問題を確実に解決するためのアルゴリズムや適切なアーキテクチャはありません。これはエディンバラ大学のAI講師ウェンダ・リー氏も述べています。深層学習と言語モデルで使用されるトランスフォーマー技術はパターン認識に優れていますが、それだけではおそらく十分ではないと彼女は付け加えました。

リー氏によると、数学は論理的思考の尺度であり、数学について「考える」ことができる機械は、理論的には、既存の情報に依存する他のタスクの実行方法も学習できる可能性があります。これは、たとえば、プログラミングやニュース記事から結論を導き出すことに当てはまります。これらは今日の言語モデルですでに実行可能ですが、常に人々が望む方法で実行できるわけではありません。数学は、AIモデルが論理的に思考し、何を扱っているかを真に理解する能力を必要とするため、リーにとって特に難しい課題です。

小学校の算数から始める

小学校の算数から始める

生成AIシステムが数学を確実に習得できるためには、まず、特定の概念を非常に抽象的な場合がある中で、具体的に定義する必要があります。ケンブリッジ大学の博士課程候補者であり、数学におけるAIを専門とするケイティ・コリンズ氏は、多くの数学の問題には、複数のステップを通じてある程度の計画が必要だと述べています。Metaの上級AIサイエンティストであるYann LeCun氏は、「Q*」はOpenAIが言語モデルに計画的な方法を教える試みであると考えています。

AIが人間に実存的なリスクをもたらすかどうかに関する懸念を持つ人々は、そのような機能が悪意のあるAIにつながる可能性があると懸念しています。コリンズ氏は、これらのAIシステムが独自の目標を設定し、現実の物理世界やデジタル世界と何らかの形で対話できるようになると、セキュリティ上の懸念が生じる可能性があると述べました。皮肉なことに、OpenAIの創設は、そのようなリスクを回避することを目的としていました。

しかし、たとえOpenAIが言語モデルにより優れた数学スキルを教えたとしても、それが超知性の誕生を意味するわけではありません。「これが私たちをすぐにAGIや本当に恐ろしい状況に導くわけではないと思います」とコリンズ氏は言います。それは、AIが解決できる数学の問題の種類によります。小学校の数学をマスターする言語モデルと、フィールズメダリストのレベルで数学の限界を探求することの間には大きな違いがあります。

機械学習の研究はこれまで、単純なタスクを解決することに焦点を当ててきましたが、現代のAIシステムはまだこの課題を完全には克服していません。一部のAIモデルは、非常に単純な数学の問題では失敗することがありますが、より複雑なタスクを解決できることもあります。そのため、OpenAIはカスタマイズされたモデルを実験してきましたが、それらが人間を上回るパフォーマンスを発揮するのは稀です。

AGIについて再び

それでも、数式を解くことができるAIシステムの開発は素晴らしいことです。数学をより深く理解することによって、科学研究や工学に役立つ新たな応用が開かれる可能性があります。そして、学生たちはAIを家庭教師として利用することが増えるでしょう。

ただし、新しい言語モデルがAGIの誇大宣伝を引き起こしたのはこれが初めてではありません。ちょうど昨年、Google DeepMindのGatoについても同様の主張がなされました。Gatoは、Atariビデオゲームをプレイしたり、画像にラベルを付けたり、チャットしたり、本物のロボットアームを使ってブロックを積み重ねたりできる「ジェネラリスト」AIモデルです。当時、AI研究者の中には、Gatoがさまざまな機能を非常にうまく実行できるため、DeepMindがAGIの「先端にある」と主張する人もいました。

このような誇大広告のサイクルは、実際の具体的な問題から目をそらしてしまうため、AIセクターにとって良いことよりも害を及ぼすことになります。強力な新しいAIモデルの噂は、規制を嫌がるテクノロジー業界にとって、大きなオウンゴールになる可能性もあります。EUはAI法の可決に近づいています。現在、議員の間で最も大きな争点の一つは、テクノロジー企業に最先端のAIモデルを自主規制する権限をもっと与えるべきかどうかです。

OpenAIの取締役会は、社内の「キルスイッチ」および有害なテクノロジーの導入を防ぐガバナンスメカニズムとして設計されました。ここ数週間の取締役室でのドラマは、ここでも利益動機が優勢であることを示しています。これはまた、なぜAI企業が自主規制を信頼されるべきではないのかを正当化することをさらに困難にします。政治家はこのことを肝に銘じるべきです。

5/5 - (1 vote)

BLOG

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています
ブログ

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています

サイバーセキュリティの現状は脅威であり、「いつでもエスカレートする可能性がある」とフェーザー内務大臣が警告しています。BSIは、国内のさらに多くのシステムをスキャンしたいと考えています。

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです
ブログ

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです

ChatGPT 検索エンジンにはボーナスなし + ISS ミッションは非公開で開始 + アイオワ対 TikTok + インディゲームのトレーラー + フランス対 Yahoo + 現金支払い限定

AIテキストジェネレーターのChatGPTが魅力的である理由
ブログ

AIテキストジェネレーターのChatGPTが魅力的である理由

変圧器ネットワークについて ChatGPTは、OpenAIが2020年に開発したGPT-3という言語モデルを基にしています。GPT-3は、ほぼ完璧な英語でさまざまなスタイルのテキストを生成する能力を持っています。このニューラルネットワークは、いわゆる事前学習を通じてインターネットからのテラバイト単位のテキストデータを学習しました。これが名前に「P」が含まれる理由です。また、生成するテキストがトレーニングデータ(名前の「G」)とできるだけ近くなるように学習しています。