저자 | Xu Jiecheng
세계에서 가장 인기 있는 개발자 Q&A 포럼 중 하나인 Stack Overflow에서 또 다른 큰 사건이 발생했습니다! 최근 새로운 위기에 빠졌습니다. 최근 700명 이상의 중재자가 인공지능 생성 콘텐츠 규제에 대한 스택오버플로의 새로운 정책에 항의하기 위해 집단 파업을 벌이겠다고 공동으로 발표했습니다.
새 정책 설명에 따르면 대부분의 경우 Stack Overflow 중재자는 더 이상 인공 지능 생성 콘텐츠를 수정하거나 삭제할 권한이 없습니다. 두 가지 주요 모순은 첫째, 중재자가 새 정책의 영향으로 인해 품질 검사 업무를 수행할 수 없다고 느낀다는 점, 둘째, 이 새 정책이 협의 없이 시행된다는 점입니다.
스택오버플로는 공식 문서에서 최근 인공지능 기반 콘텐츠의 심사 방식에 대한 분석을 실시했다고 밝혔습니다. 결과는 AI가 생성한 콘텐츠가 웹사이트에서 올바르게 인식되지 않는다는 것을 보여줍니다. 특히 탐지기 오탐률이 매우 높을 때 웹사이트 콘텐츠에 대한 편견이 발생하고 많은 기여자가 손실을 입을 수 있습니다.
이 문제를 완화하기 위해 Stack Overflow에서는 중재자가 게시물 수정, 삭제 및 사용자 금지를 결정할 때 게시물이 AI에 의해 생성되었는지 여부를 판단하기 위해 매우 엄격한 증거 표준을 사용할 것을 요구합니다. - 중재자 The 글쓰기 스타일과 포럼 행동을 기반으로 한 이전의 관례적인 판단 기준은 더 이상 사용할 수 없습니다. 그리고 GPT 검출기의 오탐률이 너무 높아 판정지표에서 검출기 결과도 제외하기로 결정했다.
요컨대, 새로운 규정에 따라 Stack Overflow는 중재자의 권한에 많은 제한을 두었습니다. 엄격한 검토를 거쳐 게시물에 불법적인 내용이 포함되어 있다는 증거가 있는 경우에만 중재자는 해당 게시물이나 포스터에 개입할 권리를 갖습니다. 그러나 더욱 아쉬운 점은 뉴딜이 더 실현 가능한 평가 제안을 제시하지 못하고, 기존 기준에 전면적인 제한만 가할 뿐이라는 점이다.
이전에는 커뮤니티 콘텐츠의 품질과 정확성을 보장하기 위해 Stack Overflow에서 중재자가 AI 게시가 의심되는 계정을 금지할 수 있는 권한을 부여했습니다. ChatGPT 등 생성된 콘텐츠와 게시물을 삭제할 수 있는 권한. 그러나 이 새로운 정책을 통해 Stack Overflow는 의심할 여지 없이 "말씀대로 갱신"이라는 라벨을 이마에 붙였습니다.
이러한 강제 정책에 대해 많은 스택 오버플로 중재자와 사용자도 불만을 표명했습니다. 일부에서는 새로운 정책의 공포가 단순히 인공 지능에 의해 생성된 환각 정보 및 표절이라고 제안하기도 했습니다. , 사용자가 스택 오버플로를 열면 잘못된 정보가 넘쳐 플랫폼에 대한 오랜 신뢰가 훼손될 것입니다.
Stack Overflow 관계자가 부과한 새로운 정책에 항의하기 위해 일부 중재자와 사용자는 공개 서한을 작성하고 Stack Overflow가 플랫폼의 무결성과 신뢰성을 중시한다는 점을 상기시키기 위해 파업에 돌입하겠다고 밝혔습니다. 그리고 내용.
공개 서한에는 Stack Overflow가 우리에게 부과하는 다양한 정책과 향후 변경 사항에 저항하기 위해 파업을 계획하고 있다고 언급되어 있습니다. 우리는 10년 이상 열심히 투자한 플랫폼을 보호하기 위해 최후의 수단을 사용할 것입니다. Stack Exchange 네트워크의 핵심 임무는 질문과 답변의 형태로 고품질 정보 기반을 구축하는 것입니다. Stack Overflow의 최근 조치는 해당 목표에 해를 끼칠 것입니다.
더 이상 AI 생성 답변 삭제를 허용하지 않으면 환각 정보와 표절이 플랫폼에 확산되어 플랫폼에 대한 사용자의 신뢰가 파괴될 것이며 이러한 정책은 기관 커뮤니티의 합의를 완전히 무시합니다. 따라서 정책이 공식적으로 철회되거나 수정되기 전에 플랫폼의 가치 손실을 방지하기 위한 최후의 수단으로 종합적인 검토 경고를 촉구합니다.
지금까지 이 공개 서한은 700명 이상의 중재자로부터 서명 지지를 받았으며 이 숫자는 계속해서 증가하고 있습니다.
내부자들에 따르면 스택 오버플로가 새로운 정책을 발표한 이유는 매우 복잡하지만, 그 핵심 목적은 결국 웹 사이트의 트래픽을 늘리는 것임에 틀림없습니다. ChatGPT 및 GitHub에 Copilot의 영향으로 인해 웹사이트 트래픽이 지난 몇 달 동안 감소 추세를 보이고 있습니다.
실제로 ChatGPT 출시 후 몇 주 이내에 많은 사용자가 AI 생성 콘텐츠를 Stack Overflow 플랫폼으로 옮기기 시작했습니다. 그러나 ChatGPT에서 생성된 답변은 일반적으로 좋아 보이지만 항상 오류가 발생하고 답변 수가 많아 콘텐츠 조정을 담당하는 자원봉사자에게 큰 부담을 줍니다.
이러한 문제를 해결하기 위해 Stack Overflow는 당시 금지령을 내리고 인공지능으로 생성된 코드 콘텐츠를 자사 웹사이트에 게시하는 것을 금지한다고 발표했습니다. 이는 플랫폼 콘텐츠의 무결성과 신뢰성을 어느 정도 보호하지만. 그러나 ChatGPT, GitHub Copilot과 같은 AI 생성 도구가 계속 성숙해지고 사용자 수가 증가함에 따라 점점 더 많은 사용자가 Stack Overflow를 포기하기 시작했습니다.
이러한 AI 생성 도구에서 반환된 콘텐츠가 때때로 완전히 정확하지 않거나 사용자 요구와 일치하지 않더라도 대답은 일반적으로 매우 유사하며 실행 가능한 솔루션으로 형성되고 조정될 수 있습니다. 이는 Stack Overflow에서 다른 사람에게 질문을 하는 것과 크게 다르지 않으며 기존 Q&A 형식보다 훨씬 더 효율적입니다.
따라서 웹 사이트 콘텐츠 제작의 효율성을 높이고 더 많은 사용자의 참여를 유도하기 위해 Stack Overflow는 감사 표준 개선이라는 이름으로 사용자가 AI 생성 콘텐츠를 암묵적으로 게시할 수 있도록 새로운 정책을 발표할 예정입니다. 플랫폼. 그러나 분명히 이 아이디어는 모든 사람이 인정한 것은 아닙니다. 중재자에게 그들이 투입하는 무급 노동은 웹 사이트의 트래픽 수준이 아니라 플랫폼의 콘텐츠 품질을 향상시키는 것입니다.
Stack Overflow가 발표한 새로운 정책과 대다수 중재자의 파업 및 저항에 대해 많은 네티즌들도 주요 포럼에서 자신의 견해와 제안을 공유했습니다.
fungiblecog라는 이름의 네티즌은 Reddit에 다음과 같은 메시지를 남겼습니다. "사람들은 정책이 무엇이어야 하는지, 플랫폼에 넘쳐나는 AI 생성 콘텐츠를 처리하는 방법이라는 두 가지 다른 문제를 혼동하고 있습니다. 확실한 방법이 없을 때까지 유일한 방법은 콘텐츠 확산으로 인해 폐해가 발생하기 전에 진위 여부를 검증해 별도의 문제로 해결하겠다는 것”이라고 스택오버플로 포럼에 올린 또 다른 네티즌은 “스택오버플로 콘텐츠의 객관성은 답변의 일부가 잘못된 경우를 의미한다. , 이는 객관적으로 잘못된 것입니다. 통일된 표준을 유지하려면 GPT가 웹사이트 사용자에게 답변이 가치 있다는 것을 충분히 확신시키기 전에 정확하고 신뢰할 수 있는 정보 소스를 선택해야 합니다.”
In 또한 일부 네티즌들은 “이제 나는 '신뢰하되 검증'하는 접근 방식으로 스택 오버플로를 사용합니다. AI 생성 콘텐츠에 관해서는 우리가 채택하면 여전히 사용자의 답변을 신뢰할 수 있는 것으로 간주합니다. '불신과 검증' 접근 방식, 왜 여전히 스택 오버플로를 사용해야 할까요?”
5. 마지막에 쓰기: 스택은 더 이상 오버플로가 아닙니다
현재의 인공지능 생성 도구는 환각 문제가 완전히 해결되기 전에 제공할 수 있는 정보가 Stack Overflow의 일관된 기준을 충족하지 못하며, 사용자의 신뢰에 합당한 커뮤니티 환경을 구축하는 데 도움이 되지 않습니다. . , 사용자가 GPT에서 제공한 답변의 정확성을 확인할 수 없는 상태에서 이 정보를 코드에 붙여 넣으면 커뮤니티가 오랫동안 구축해 온 사용자의 신뢰가 깨집니다.
스택 오버플로에 관한 한, 현재 웹사이트의 트래픽과 수익이 생성 AI의 영향으로 영향을 받았음에도 불구하고 사용자 신뢰와 핵심 원칙을 어떤 거래에서도 협상 카드로 사용해서는 안 됩니다. 한 네티즌은 "때때로 Copilot에서 생성된 콘텐츠의 정확성이 확실하지 않을 때 Stack Overflow에 있는 누군가에게 질문을 하곤 합니다. 하지만 앞으로 Stack Overflow의 답변도 AI에 의해 생성된다면 저는 그렇게 할 것입니다."라고 말했습니다. 가야한다 답을 어디서 찾을 수 있을까?
참조 링크:
https://devclass.com/2023/06/05/stack-overflow-volunteer-moderators-down-tools-over-secret-new-policy-that-obstructs-removal-of -ai-generated-content/?td=rt-3a
https://meta.stackexchange.com/ 질문/389582/what-is-the-network-policy-regarding-ai-generated-content
https://meta.stackexchange.com/questions/389811/moderation-strike-stack-overflow-inc-cannot-consilly -무시-학대-an
위 내용은 큰 롤오버! StackOverflow 중재자가 파업을 시작했습니다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!