ChatGPTおよびその仲間たちに意識の兆しはあるのか?

ChatGPTおよびその仲間たちに意識の兆しはあるのか?

学際的な研究チームは、意識を示す特徴のリストを作成し、それに基づいて現行のAIシステムをテストしました。

学際的な研究者チームは、現行の6つの意識理論から導出された意識の14の「指標」を含む論文を発表しました。その結果、DeepMindのGPT-3、Palm-E、AdAなどの現行のAIモデルは、これらの指標のいくつかを含んでいることが示されました。「現行の理論が提唱する意識の条件の大部分または全部が、既存のAI技術を用いて満たされ得るという強力な証拠がある」と著者らは述べています。このチームには、モントリオール大学のディープラーニングの先駆者であるヨシュア・ベンジオも参加しています。

「これは、現行のAIシステムに意識が宿っている可能性があるということを意味するわけではありません。技術を正しい方法で組み合わせているかどうかも問題です」と研究者たちは言っています。しかし、「意識を持ったAIが遠い将来に実現する可能性がある」という兆しも見られます。これは、さらに詳細な調査を強く要求する、興味深い発表です。この論文には、どのような概念やアイディアが含まれているのでしょうか?そして、これは実際に意識がコンピュータ内で生成され得ることを意味するのでしょうか?

意識の問題が解決されるかどうかは議論の余地があります。1974年、哲学者のトーマス・ネーゲルは、「他の生物が世界をどのように経験するか」、つまり「コウモリであることはどのようなものか」を理解することは決してできないだろうと述べたエッセイで、今も広く引用されています。哲学者のデイビッド・チャーマーズは1995年に、主観的経験の科学的説明は「難問」として、決して解決されないかもしれないと表現しましたが、それはやや楽観的な見方に過ぎなかったかもしれません。それにもかかわらず、過去30年間で、意識についてさまざまな抽象レベルで説明しようとする理論がいくつか登場しています。

意識に関する多くの理論があります。

これらの理論の多くは、そして多くの神経科学者の一般的な仮定は、唯物論的な視点から出発します。「神の火花」や「不死の魂」、あるいは「エーテル的なもの」といった概念は存在しません。(これは科学の歴史の中で長らく当てはまるものではありませんでした。何世紀にもわたって、魂と身体が互いにほとんど独立して存在するというデカルトの考えが主流でした。)宇宙は物理的な物質でできており、意識という現象もまた、物理的な物質とその相互作用のみによって関連付けられるものです。しかし、「汎精神論」は、従来の枠組みに全く当てはまらない現代理論の一つです。この考え方の支持者たちは、意識はあらゆる形態の物質の根本的な性質であると仮定しています。

汎精神論と密接に関連しているが、より具体的かつ数学的な理論が、2004年にイタリアの神経科学者ジュリオ・トノーニによって提唱された統合情報理論(IIT)です。IITは、より抽象的なレベルで問題に取り組みます。この理論によると、あらゆる物理システムに意識の尺度を割り当てることができます。この尺度、Φ(ギリシャ文字のファイ)は、0から1の間の値をとり、大まかに言えば、システムが「全体として」生成する情報の量、つまりその個々の部分によって生成される情報量を超えるものを表します。

この概念は非常に抽象的で直感に反するものですが、IITは昏睡状態の患者の意識の有無を測定するための手順を開発しました。いわゆる摂動複雑性指数(PCI)は、患者のEEGからLZW複雑性を計算することによって得られます。この指数は、人が意識を持っているかどうかについての情報を提供することを目的としています。研究者たちは2016年の研究で、健康な被験者と脳に障害のある被験者の意識状態と無意識状態を区別できる閾値0.31も算出しました。これは、これまでに利用可能な最も精密な意識の測定法を表しています。

他の理論は、抽象的な情報処理の側面に焦点を当てています。注意スキーマ理論(AST)は、「メタ認知」(思考についての思考)の概念に基づいています。このモデルは、「身体スキーマが体の動きを制御するのと同様に」、意識は現在の注意の対象に関する情報を表す注意のモデルを構築し、注意の制御に役立つとしています。「意

識的な体験は、注意スキーマの内容に依存します。たとえば、そのスキーマが私が現在リンゴに注目していることを示している場合、私はリンゴを見ていると意識的に感じます。」

「グローバルワークスペース理論」は、1988年に心理学者バーナード・バールズによって提唱され、神経科学者スタニスラス・デハエンによって発展させられました。この理論では、精神的内容(知覚、思考、感情など)は異なる脳領域で自律的に処理され、いくつかの異なる脳領域がこれらの内容に同時にアクセスすることで意識が生じ、その内容は「グローバルワークスペース」で利用可能になります。物体を意識的に認識することで、私たちはその物体を使用した行動を計画したり、実行したりすることができます。この理論は「機能的」な説明を提供し、意識は主にその用途を通じて説明されるべきものとしています。

「予測処理」理論は、脳を自律的に学習する予測マシンと見なし、さまざまな変形があります。この理論では、脳は入力データの原因とその後の経過について常に仮説を立て、仮説と感覚データの差ができるだけ小さくなるようにします。アニル・セスは彼の著書『Being You: A New Science of Consciousness』で、意識はこの比較の結果であり、感覚からの信号に基づいて世界がどのようであるかについての「制御された幻覚」であると述べています。これは、例えばイギリスの神経科学者カール・フリストンの自由エネルギー原理(「自由エネルギーと脳」)によって数学的に説明されます。

さらに、「身体性」、すなわち肉体の存在が重要であるとする理論も多く存在します。例えば、感覚運動理論によれば、意識体験は環境との相互作用から生じます。例えば、頭を動かすことで、物体を異なる視点から見ることができます。同じ物体であっても、見えるイメージは異なります。物体の意識的認識は、異なる視点からの抽象化にほかなりません。これには「エージェンシー」、すなわち環境と物理的に相互作用する能力が必要です。

意識に関する多くの理論があります。

これはこの論文にとって何を意味するのでしょうか?

論文によると、研究者たちは「計算機能主義」の観点を採用しており、「機能主義」とは、意識には機能があり、すなわち特定の目的を果たすことを意味し、この文脈での「計算的」という言葉は、意識の機能が「情報の処理」に由来することを意味しています。普通は感覚的な印象からの情報です。この論文の直接的な意味は、意識は生物学的な脳に限定されるものではないということです。第二の意味は、意識はコンピュータでシミュレート可能であるということです。

よく見ると、著者たちがこの仮説を支持していることはそれほど驚くにはあたらないでしょう。この研究の筆頭著者である哲学者のパトリック・バトリン氏は、オックスフォードにある人類未来研究所のフェローであり、同研究所は長年にわたり人類に対する「存続の脅威」を研究してきました。特に、同氏は「人間と同等の能力を持つAIシステムは社会と人類に大きなリスクをもたらす」として、シリコンバレーの著名人たちに対し、大規模な言語モデルの開発を6ヶ月間停止するよう呼びかける公開書簡を発表しました。

アイデアの発案者であり、この研究の初期の提唱者は、英国の哲学者ニック・ボストロムで、効果的な利他主義を支持する知性の1人です。この理由だけでこの論文を単純に退けることはできません。しかし、この簡潔で必然的に不完全な概要だけでも、意識そのものとコンピュータにおける意識についての議論が、論文で論じられているよりもはるかに複雑で幅広いことがわかります。率直に言って、著者たちは、慎重に選択された質問に対してすでに内在している結果に到達したと言えるでしょう。

このページを評価する

BLOG

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています
ブログ

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています

サイバーセキュリティの現状は脅威であり、「いつでもエスカレートする可能性がある」とフェーザー内務大臣が警告しています。BSIは、国内のさらに多くのシステムをスキャンしたいと考えています。

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです
ブログ

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです

ChatGPT 検索エンジンにはボーナスなし + ISS ミッションは非公開で開始 + アイオワ対 TikTok + インディゲームのトレーラー + フランス対 Yahoo + 現金支払い限定

AIテキストジェネレーターのChatGPTが魅力的である理由
ブログ

AIテキストジェネレーターのChatGPTが魅力的である理由

変圧器ネットワークについて ChatGPTは、OpenAIが2020年に開発したGPT-3という言語モデルを基にしています。GPT-3は、ほぼ完璧な英語でさまざまなスタイルのテキストを生成する能力を持っています。このニューラルネットワークは、いわゆる事前学習を通じてインターネットからのテラバイト単位のテキストデータを学習しました。これが名前に「P」が含まれる理由です。また、生成するテキストがトレーニングデータ(名前の「G」)とできるだけ近くなるように学習しています。