プログラマー向けのQ&AプラットフォームであるStack Overflowのモデレーターらが、同社がAI生成コンテンツのサイト氾濫を許可していることに抗議してストライキを決行

6 月 7 日のニュース Stack Overflow は、Stack Exchange が運営する有名なソフトウェア開発者フォーラムで、ユーザーはプログラミングに関するさまざまな質問と回答ができます。

モデレーターは公開書簡で次のように書いています。「Stack Overflow, Inc. は、AI が生成したコンテンツのいかなる検閲も禁止しました...Stack Exchange ネットワークではデフォルトで許可されています誤った情報 (「幻覚」) と無制限の盗作の出現。これは、プラットフォームとそのコンテンツの完全性と信頼性に対して重大な脅威をもたらします。これと、その他の最近および今後の多くのポリシーおよびプラットフォームの変更に抗議して、私たちはこの決定を行いました。 Stack Overflow および Stack Exchange ネットワークに対して即時に本格的なモデレーターのストライキを開始するよう指示されました。」

モデレーターは人工知能によって生成されたコンテンツを検閲できなくなり、このポリシーは5月末。しかし、モデレータは、AI によって生成されたコンテンツを適切にキュレーションしなければ、Stack Exchange サイト上の情報の品質と正確性が急速に低下すると考えています。

モデレータは、Meta Stack Exchange でその魅力をさらに説明する記事を公開しました。記事にはこう書かれています。「AI チャットボットはオウムのようなものです。たとえば、ChatGPT は、与えられた答えを理解することはできません。与えられたプロンプトとアクセスできる情報に基づいて、合理的と思われる文章を繰り返すだけです。提供された回答が正確であることを確認してください。ChatGPT は、ライター、プログラマー、科学者、物理学者、または当社の Web サイトが依存するその他の種類の専門家ではありません。尋ねられた場合、それはトレーニングのみに基づいています。

この記事では、「これにより、ユーザーは、何を言っているかを理解せずに ChatGPT の回答を言い換えることができ、これは私たちの Web サイトの目的に反します。」とも述べています。高品質の Q&A コンテンツのリポジトリになります。」

モデレーターらは、このポリシーの策定において会社が透明性を欠いていることも問題だと述べています。同サイトは12月、ChatGPTが「一般的に不正確」であり、サイトの引用要件に違反しているため、ChatGPTの使用を一切禁止する一時的な方針を導入したと記事で述べている。このポリシーはボランティアのモデレーターと Stack Exchange スタッフによって支持され、その結果、多くの投稿が削除され、ユーザーが禁止されました。

しかし、モデレータらは5月29日、同社が「AI生成コンテンツに対するユーザーの禁止をただちに中止し、理由を理由にAI生成コンテンツのモデレートのみに基づいて行うこと」を要求する新しいポリシーを非公開で導入したと書いた。翌日、ポリシーの少し異なるバージョンが公開されましたが、そこにはモデレーターにすべての AI コンテンツの制限をやめるよう求める文言は含まれていませんでした。

「新しいポリシーは、コミュニティが到達した合意を、誰とも議論することなく覆しました。」 Meta The Stack Exchange の記事には、「モデレーターと一般の人々の両方に誤解を招くものであり、精査もレビューも不可能なデータ分析に基づく根拠のない主張に基づいています」と Meta The Stack Exchange の記事には書かれています。サイト上の AI 関連の問題「今回のストライキも、主に Stack Exchange 社の最近の行動に関するものです。この行動パターンは、同社が再びコミュニティのニーズと既存のコンセンサスを無視したものである」と記事には書かれています。代わりに、独自のコミュニティマネージャーを犠牲にしてビジネス変革に焦点を当てました。」彼らは、時代遅れであるにもかかわらず何年も放置されていたサイトのチャット機能の例を挙げた。

IT House は、今回のストライキは AI 生成コンテンツのオンライン サイトへの流入に対する最初の大規模な行動であり、他のフォーラムのモデレーターも同様の懸念を抱いていると指摘しました。 Redditのモデレーターの中には、AIが生成した誤った情報を含む多数の投稿に備えている人もいる。 Redditの匿名のモデレーターはマザーボードに対し、Reddit上のChatGPTを利用したボット問題は「かなり深刻」であり、Redditの自動システムがAI生成ボットのコンテンツに対処するのに苦労しているため、数百のアカウントがサイトから手動で削除されたと語った。

モデレーターらは同社に対し、公開版と非公開版の間の不一致を解決するためにAIポリシーを撤回し、修正し、一般に謝罪するよう求めた。 Stack Overflow のコミュニティ担当副社長、Philippe Beaudette 氏は Motherboard に対し声明で、「Stack Overflow ネットワーク上の少数のモデレーター (11%) が、コンテンツのモデレートを含む一部の活動への参加を停止しました。私たちの行動の主な理由は次のとおりです。」 「AI コンテンツ生成検出ツールに対する当社の立場に対する懸念のため。Stack Overflow が分析を実施したところ、モデレーターが以前に使用していた ChatGPT 検出ツールの誤検知率が驚くほど高いことが判明しました。」モデレーターは記事の中で、知っていたと書いています。検出ツール ツールに問題があります。 「私たちはモデレータに以前のツールの使用をやめるよう求めるという決定を支持します」とボーデット氏は続けた、「そして私たちは前進する道が見つかると信じています。事態がこの段階に達したことを遺憾に思っており、コミュニティ管理チームは試しながら状況を評価しているところです」短期間で状況を安定させるためです。」

以上がプログラマー向けのQ&AプラットフォームであるStack Overflowのモデレーターらが、同社がAI生成コンテンツのサイト氾濫を許可していることに抗議してストライキを決行の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。