ChatGPT: 国家による脅威をもたらすアクターのアカウントが閉鎖されました

ChatGPT: 国家による脅威をもたらすアクターのアカウントが閉鎖されました

マイクロソフトとOpenAIは、ChatGPTを犯罪目的に利用していた疑いのある国家脅威攻撃者のアカウントを閉鎖しました。

OpenAIはMicrosoft Threat Intelligenceのセキュリティ専門家と連携し、所有者が政府の脅威アクターであると特定された5つのアカウントを閉鎖しました。これらのアカウントは、例えばChatGPTを用いて「悪意あるサイバー活動」の準備をするため、または少なくともその機能を向上させるために利用されていました。脅威アクターは中国、ロシア、北朝鮮、イランとの関連が指摘されています。OpenAIとMicrosoftは今週中にその旨を自社のブログ投稿で報告しました。

公表された研究結果は、AI時代における新たな脅威を提示することを目指しています。焦点は、既知の脅威アクターに関連する特定の活動にあります。これには、即時の注入、大規模言語モデル(LLM)の不正利用の試み、詐欺などが含まれます。分析によると、LLMの使用に関する攻撃者の行動は、同様に人工知能をツールとして使用する攻撃者と一致しています。

具体的には、中国に関連する「チャコール・タイフーン」と「サーモン・タイフーン」が脅威とされています。その結果、彼らはOpenAIサービスを利用して、サイバーセキュリティツールの調査、コードのデバッグ、スクリプトの生成、フィッシングキャンペーン用のコンテンツ作成、およびシステム内のプロセスの隠蔽を行ってきました。ロシアと関係のある「森林ブリザード」は主に衛星通信とレーダー技術に関連しており、マイクロソフトによると、これらはウクライナでの軍事作戦に関連する可能性があります。

北朝鮮とのつながりがある「エメラルド・スリート」は、特にアジア太平洋地域の防衛に取り組む専門家や組織を探していました。「クリムゾン・サンドストーム」(イラン)は、マルウェアの検出を回避し、アプリやWeb開発に適したコンテンツを作成することに関心を持っていました。

GPT-4 – 悪意のあるサイバーセキュリティタスクに対する制限機能

GPT-4 – 悪意のあるサイバーセキュリティタスクに対する制限機能

OpenAIによると、全ての活動は外部のサイバーセキュリティ専門家との協力により実施された以前の評価と一致しています。AIを使用しないツールで既に公開されている情報を超えて、「GPT-4は悪意のあるサイバーセキュリティタスクに対して限定的な追加機能しか提供していない」と判明しています。

在米中国大使館の報道官はこの告発を「中国に対する根拠のない中傷と非

難」と批判しました。同時に、AIテクノロジーを「安全で、信頼できる、制御可能な」方法で利用し、「全人類の共通の福祉を促進する」ことを提唱しました。

ロシア、北朝鮮、イランの外交代表はロイターのコメント要請に直ちには応じませんでした。

安全なAIサービスの原則

マイクロソフトとOpenAIは、悪意のある行為者や国家行為者による攻撃など、独自のAIツールとAPIを使用して潜在的な脅威に対処し、リスクを軽減するための原則を導入しました。関連する調査結果が得られた場合、2つのAIパートナーは、対応するアカウントを非アクティブ化し、サービスを終了し、リソースへのアクセスを制限する権利を留保します。さらに、情報やヒントの交換など、他のAIサービスプロバイダーや他の関係者との協力が必要です。MicrosoftとOpenAIは、セキュリティ予防策と透明性の向上のためにさらなる措置を講じていると述べていますが、今回公表された調査結果でそれが明らかになるでしょう。

以前は、ChatGPTの初期バージョンで、特別なプロンプトを使用してセキュリティ対策を回避し、化学兵器などの指示や設計図を受け取ることが可能でした。最近、さまざまな大学とOpenAIの科学者が、緊急時に介入可能な「キルスイッチ」をAIに要求しています。

このページを評価する

BLOG

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています
ブログ

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています

サイバーセキュリティの現状は脅威であり、「いつでもエスカレートする可能性がある」とフェーザー内務大臣が警告しています。BSIは、国内のさらに多くのシステムをスキャンしたいと考えています。

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです
ブログ

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです

ChatGPT 検索エンジンにはボーナスなし + ISS ミッションは非公開で開始 + アイオワ対 TikTok + インディゲームのトレーラー + フランス対 Yahoo + 現金支払い限定

AIテキストジェネレーターのChatGPTが魅力的である理由
ブログ

AIテキストジェネレーターのChatGPTが魅力的である理由

変圧器ネットワークについて ChatGPTは、OpenAIが2020年に開発したGPT-3という言語モデルを基にしています。GPT-3は、ほぼ完璧な英語でさまざまなスタイルのテキストを生成する能力を持っています。このニューラルネットワークは、いわゆる事前学習を通じてインターネットからのテラバイト単位のテキストデータを学習しました。これが名前に「P」が含まれる理由です。また、生成するテキストがトレーニングデータ(名前の「G」)とできるだけ近くなるように学習しています。