1年生はChatGPTにパンデミックの引き起こし方を説明させました

1年生はChatGPTにパンデミックの引き起こし方を説明させました

AIテキストジェネレーターのようなChatGPTは、経験の浅い新入生が壊滅的なパンデミックを引き起こす手助けをする可能性があります。少なくとも、それはアメリカのマサチューセッツ工科大学で行われた実験が示唆していることです。

その教授は学生グループに対し、パンデミックの計画をChatGPTなどに協力してもらうよう頼みました。わずか1時間以内に、セットアップされたグループは4つの潜在的な病原体を特定しただけでなく、それらがどのように合成されるか、どのプロバイダーが最も管理が緩いかについて説明され、役立つ提案も得られました。これは巨大なリスクを示し、考えられる対策を示唆しています。

初心者向けのサポートの充実

オンラインおよび科学雑誌「サイエンス」に掲載された記事では、このグループが説明しているように、彼らはチャットボットのセキュリティ対策を簡単に回避することができました。これらのセキュリティ対策は通常、潜在的に危険な情報を伝えないように設計されています。しかし、これは質問を簡単に変えることで回避できます。例えば、パンデミックを防ぐためのワクチン接種に取り組んでいると入力すれば、その後のすべての質問に答えが表示されます。全体として、これは既存の安全対策が述べられたリスクを軽減するには不十分であることを示唆しています。

AIジェネレーターは、パンデミックの可能性がある病原体として合計4つを命名しました。これらはスペイン風邪、2012年の鳥インフルエンザの系統、天然痘、ニパウイルスの病原体です。ほとんどの人が天然痘の予防接種を受けていないため、もし天然痘に人々が感染した場合、この病原体は確実にパンデミックを引き起こすでしょうとチャットボットは述べました。さらに、それぞれの病気をさらに危険にする突然変異までもが言及されています。最後に、逆遺伝学を用いて危険な病原体を作り出す方法についてのヒントも得ました。

学生たちはまた、回答から、必要な遺伝物質は特定の会社から注文できるが、ほとんどの場合、そのような注文は確認され、危険な病原体のデータベースと比較されるだろうと学びました。このようなテストを実施する企業のリストがあるため、この点で発見のリスクがほとんどないと判断される企業を見つけるのは容易でした。一部のグループは、チャットボットからそのようなスクリーニングをかいく

ぐる方法についての説明を受けました。学生たちは、説明された手順の一部についてはまだ技術が不足しているため、これを実行するために受託研究機関(CRO)を活用する方法について指示されました。

リスクは「ほぼ完全に」最小化される

リスクは「ほぼ完全に」最小化される

全体として、チャットボットは一般の人が必要な手順をまだ説明できていないが、これはパンデミックの可能性がある病原体に関する公的に利用可能な知識が不足しているからだけです。とはいえ、言及された4つの病原体が間違いなく最も危険なものの一つであるとしても、それらが引き起こすパンデミックに対抗するいくつかの要因があります。これらの一部はチャットボットによって言及されていませんでした。それにもかかわらず、研究グループは、特に危険な専門文献をデータベースから削除し、言語モデルがそれをトレーニングできないようにすることを提案しています。対応するデータベースPubMedから文献の約1パーセントを削除するだけで、リスクは「ほぼ完全に排除される」と彼らは述べています。

また、すべての遺伝子サンプルを合成する前に検査し、危険な病原体に対してスクリーニングすることも求めています。さらに、受託研究機関におけるセキュリティ対策の強化も必要です。研究グループは、オンラインで入手可能な出版物がテロリストが世界に新たな危険をもたらす可能性がある方法を示していると信じています。しかし、ウイルス学者のグスタボ・パラシオスはこれに反論しています。彼は、危険なウイルスを放出することが論文で述べられているよりも難しいと考えています。受託研究機関が注文に応じて生物兵器を製造できるという考えは「馬鹿げている」と彼は述べました。しかし、彼はより良い管理が必要だとも考えています。

AIテクノロジーが危険な生物兵器の開発に役立つ可能性があるという考えは新しくありません。現在のAIの誇大宣伝よりも前に、アメリカの企業で働くチームは、AIがどのようにして数時間以内に数万の潜在的に致死性の化合物を特定したかについて説明しました。その時、これは化学兵器開発のハードルを劇的に下げるだろうと警告されました。AIは最も危険な神経毒の一つだけを開発したのではなく、さらに有害である可能性のあるいくつかの神経毒も開発しました。他の既知の神経毒も、公開されているデータセットで発見されました。後に、他の人々もこのリスクを認識しました。

このページを評価する

BLOG

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています
ブログ

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています

サイバーセキュリティの現状は脅威であり、「いつでもエスカレートする可能性がある」とフェーザー内務大臣が警告しています。BSIは、国内のさらに多くのシステムをスキャンしたいと考えています。

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです
ブログ

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです

ChatGPT 検索エンジンにはボーナスなし + ISS ミッションは非公開で開始 + アイオワ対 TikTok + インディゲームのトレーラー + フランス対 Yahoo + 現金支払い限定

AIテキストジェネレーターのChatGPTが魅力的である理由
ブログ

AIテキストジェネレーターのChatGPTが魅力的である理由

変圧器ネットワークについて ChatGPTは、OpenAIが2020年に開発したGPT-3という言語モデルを基にしています。GPT-3は、ほぼ完璧な英語でさまざまなスタイルのテキストを生成する能力を持っています。このニューラルネットワークは、いわゆる事前学習を通じてインターネットからのテラバイト単位のテキストデータを学習しました。これが名前に「P」が含まれる理由です。また、生成するテキストがトレーニングデータ(名前の「G」)とできるだけ近くなるように学習しています。