AI 禁止:開発者プラットフォーム Stack Overflow が ChatGPT をブロックしました。

AI 禁止:開発者プラットフォーム Stack Overflow が ChatGPT をブロックしました。

ChatGPTで作成された回答は多くの場合不正確であり、プラットフォームに溢れているため、Stack OverflowではAIによって生成されたコンテンツの提供を禁止しています。

ChatGPT言語モデルで作成されたコンテンツは、Stack Overflowでは当初からタブーとされています。開発者プラットフォームは、言語モデルからの回答やその他のテキストの提供を禁止する一時的なポリシーを発表しました。Stack Overflowは、ChatGPTが平均して提供する正解の数が少なすぎるという理由で、このようなコンテンツの配布を禁じています。このようなコンテンツを配布することは、サイトとそのユーザーに損害を与える可能性があります。

開発者向けの言語モデルもあります

OpenAIは最近、ChatGPTを一般に公開しました。この対話型言語モデルはGPT-3に基づいており、対話を目的としています。それはフォローアップの質問に対応し、誤った情報の拡散や違法または不適切な活動への支援を防ぐために設計されたいくつかの安全策を提供します。

この公開以来、オンラインで多数の例が公開されており、その中には印象的なものもありますが、弱点も示されています。このシステムは、コードの提案を行うことや、開発者からの典型的な質問に答えることができます。必要に応じて、同じくOpenAIによって開発されたAIシステムCodexに基づくGitHub Copilotと同様に、コードの完全なブロックを出力します。

もっともらしいが欠陥がある

もっともらしいが欠陥がある

Stack OverflowはQ&Aページの投稿で一時的な禁止について説明しています。主な問題は、多くの回答が形式的には一貫しているように見えても、間違っていたことです。もう1つの問題は、答えが簡単に作成できることです。これは、あまりにも多くの人がその言語モデルを使用して過剰なコンテンツを作成し、それを検索エンジンや自分の研究の代わりに無批判に使用することを意味します。

多くのユーザーは、生成された提案を公開する前に確認するために必要な知識や意欲が欠けています。現在、おそらくChatGPTがStack Overflowに投稿した生成された回答が何千もあるでしょう。これでは、コンテンツモデレーターによるボランティアベースの品質管理が圧倒されてしまいます。

結果発表

言語モデルからの大量の投稿に対処するため、Stack Overflowは当初、ChatGPTからのコンテンツの公開を完全に禁止していました。今後、プラットフォーム上で言語モデルからの回答を投稿する人は、制裁を受ける覚悟をしなければなりません。これは不正解の場合だけでなく、正解の場合にも当てはまります。

最終的に、Stack Overflowは、この禁止が回答だけでなく、プラットフォームの全てのコンテンツに適用されることを強調しています。唯一の例外はユーザープロファイルです。ChatGPTからの「About Me」は許可されますが、最終的なガイドラインがどのようになるかはまだ不明です。これはChatGPTだけでなく、類似のAIツールにも適用されます。

賛成と反対

発表された措置は、投稿フォーラムで一般に肯定的な反応を得ています。AI生成コンテンツの永久禁止を求める声もあります。一方で、後で答えを確認し、盲目的にコピーしない限り、AIツールの使用に問題はないと考える穏やかな意見もあります。

正当な疑問としては、他の開発者からの質問をChatGPTに入力し、その回答を投稿する必要があるのかという点が挙げられます。ChatGPTから直接答えを得るのは各個人の責任です。この点で、ChatGPTのようなシステムはStack Overflowにとって深刻な競争相手です。言語モデルが数秒で応答を提供できるのに、なぜ他の人からの応答を待つ必要があるのでしょうか。

Twitterには2つの陣営が存在します。一方ではAIボットを「計算上の手品」と呼ぶ人もいれば、もう一方では既にChatGPTを通じてStack Overflowの廃止を求める人もいます。

Stack OverflowがAIによって生成されたコンテンツをどのように識別し、予告された制裁をどのように実施するのかは依然として不明です。ChatGPTに関する議論はソーシャルネットワーク上で激化しています。多くのユーザーの関心と創造性により、印象的で恐ろしい例がいくつかあります。その優れた組み合わせは、言語モデルが火炎瓶の指示を違法として拒否する一方で、巧みなプロンプトで騙すことができるということです。ChatGPTは適切なPythonコードを問題なく提供します。

このページを評価する

BLOG

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています
ブログ

ChatGPT & Co.: BSIはセキュリティに対する「前例のない課題」を認識しています

サイバーセキュリティの現状は脅威であり、「いつでもエスカレートする可能性がある」とフェーザー内務大臣が警告しています。BSIは、国内のさらに多くのシステムをスキャンしたいと考えています。

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです
ブログ

金曜日:ChatGPTのニュースにもかかわらず、ヨーロッパ人3人がISSミッションに参加している一方、Bingの市場シェアは依然として低いままです

ChatGPT 検索エンジンにはボーナスなし + ISS ミッションは非公開で開始 + アイオワ対 TikTok + インディゲームのトレーラー + フランス対 Yahoo + 現金支払い限定

AIテキストジェネレーターのChatGPTが魅力的である理由
ブログ

AIテキストジェネレーターのChatGPTが魅力的である理由

変圧器ネットワークについて ChatGPTは、OpenAIが2020年に開発したGPT-3という言語モデルを基にしています。GPT-3は、ほぼ完璧な英語でさまざまなスタイルのテキストを生成する能力を持っています。このニューラルネットワークは、いわゆる事前学習を通じてインターネットからのテラバイト単位のテキストデータを学習しました。これが名前に「P」が含まれる理由です。また、生成するテキストがトレーニングデータ(名前の「G」)とできるだけ近くなるように学習しています。