ChatGPT: 国の脅威となるアクターのアカウントが閉鎖されました

ChatGPT: 国の脅威となるアクターのアカウントが閉鎖されました

MicrosoftとOpenAIは、ChatGPTを犯罪目的で使用していたと疑われる国家脅威攻撃者のアカウントを閉鎖しました。

OpenAIはMicrosoft Threat Intelligenceのセキュリティ専門家と協力し、所有者が政府の脅威アクターであると特定された5つのアカウントを閉鎖しました。これらのアカウントは、例えばChatGPTを使用して「悪意のあるサイバー活動」の準備、あるいは少なくともその機能を向上させるために使用されました。脅威アクターは中国、ロシア、北朝鮮、イランとの関連があるとされています。OpenAIとMicrosoftは、今週半ばに自らのブログ投稿でこれを報告しました。

この度発表された研究結果は、AI時代における新たな脅威を提示することを目的としています。焦点は、既知の脅威アクターに関連する特定の活動にあります。これには、インスタントインジェクション、大規模言語モデル(LLM)の不正使用の試み、詐欺が含まれます。分析によると、LLMの使用に関する攻撃者の行動は、同様に人工知能をツールとして使用する攻撃者と一致しています。

脅威アクター

脅威アクター

脅威アクターに関して、特に中国に関連する「チャコール・タイフーン」と「サーモン・タイフーン」が脅威であると言われています。結果として、これらのグループはOpenAIサービスを活用し、サイバーセキュリティツールの調査、コードのデバッグ、スクリプトの生成、フィッシングキャンペーン用のコンテンツ作成、およびシステム内プロセスの隠蔽などを行ってきました。ロシアに関連する「森林ブリザード」は、主に衛星通信とレーダー技術に関わり、マイクロソフトによると、これらはウクライナでの軍事作戦と関連がある可能性が指摘されています。

北朝鮮と繋がりがある「エメラルド・スリート」は、特にアジア太平洋地域で防衛に関わる専門家や組織を対象に活動していたとされます。「クリムゾン・サンドストーム」(イラン)は、マルウェア検出を回避し、アプリやWeb開発を含むスピアフィッシングキャンペーンに適したコンテンツの作成を目指していたと考えられています。

GPT-4 – 悪意あるサイバーセキュリティタスクへの機能制限について

OpenAIによれば、全ての活動は、外部のサイバーセキュリティ専門家と連携して実施された先行する評価と一致している。AIを使用しない既存ツールから得られる情報を超えることなく、「GPT-4は悪意のあるサイバーセキュリティタスクに対して限定された追加機能のみを提供する」との結論に至った。

在米中国大使館の報道官は、この非難を「中国への根拠のない中傷及び非難」と批判した。さらに、AI技術を「安全で、信頼でき、制御可能なものとして、全人類の共通の幸福を促進するために」使用することを提唱した。

ロシア、北朝鮮、イランの外交代表は、ロイターからのコメント要求に対し、直ちには返答していない。

安全なAIサービスのための原則

マイクロソフトとOpenAIは、悪意のある行為者や国家による攻撃を含む、自社のAIツールとAPIを利用して潜在的な脅威に対処し、リスクを軽減するための原則を導入しました。関連する調査結果が出た場合、これら二つのAIパートナーは、該当するアカウントを非活性化し、サービスを終了させ、リソースへのアクセスを制限する権利を保持します。さらに、情報やヒントの共有を含む、他のAIサービスプロバイダーや関係者との協力が求められます。MicrosoftとOpenAIは、セキュリティ対策の強化と透明性の向上をさらに推進する措置について言及していますが、今回の公表された調査結果でそれが具体的に示されることになります。

以前には、ChatGPTの初期バージョンでは特定のプロンプトを用いてセキュリティ対策を回避し、化学兵器の製造方法や設計図などの情報を得ることが可能でした。最近では、さまざまな大学とOpenAIの研究者が、緊急時に介入可能な「キルスイッチ」の設置をAIに求めています。

このページを評価する

BLOG

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています
ブログ

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています

サイバーセキュリティの現状は脅威であり、「いつでもエスカレートする可能性がある」とフェーザー内務大臣が警告しています。BSIは、国内のさらに多くのシステムをスキャンしたいと考えています。

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです
ブログ

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです

ChatGPT 検索エンジンにはボーナスなし + ISS ミッションは非公開で開始 + アイオワ対 TikTok + インディゲームのトレーラー + フランス対 Yahoo + 現金支払い限定

AIテキストジェネレーターのChatGPTが魅力的である理由
ブログ

AIテキストジェネレーターのChatGPTが魅力的である理由

変圧器ネットワークについて ChatGPTは、OpenAIが2020年に開発したGPT-3という言語モデルを基にしています。GPT-3は、ほぼ完璧な英語でさまざまなスタイルのテキストを生成する能力を持っています。このニューラルネットワークは、いわゆる事前学習を通じてインターネットからのテラバイト単位のテキストデータを学習しました。これが名前に「P」が含まれる理由です。また、生成するテキストがトレーニングデータ(名前の「G」)とできるだけ近くなるように学習しています。