ICML 논문 요청에서는 대규모 언어 모델의 사용을 금지합니다. LeCun은 다음과 같이 전달했습니다. 중소 규모 모델을 사용할 수 있습니까?

어제 ICML(International Conference on Machine Learning)에서는 2023년 논문 모집을 발표했습니다.

논문 제출일은 1월 9일부터 1월 26일까지입니다.

그러나 이번 회의에서 '윤리적 기준'에 대한 요구 사항은 많은 불만을 불러일으켰습니다.

LLM은 통제할 수 없으니 금지해주세요

학회 정책에 따라 모든 저자와 심사위원을 포함한 프로그램 위원회 구성원은 표준 윤리 원칙을 따라야 합니다.

모든 형태의 표절은 물론, 리뷰어, 지역 의장(AC) 및 고위 지역 의장(SAC)이 특권 정보를 비윤리적으로 사용하는 행위(예: 이 정보를 공유하거나 검토 프로세스 외부에서 사용하는 경우) 다른 목적은 엄격히 금지됩니다.

대규모 언어 모델(LLM)(예: ChatGPT)에서 생성된 텍스트가 포함된 논문은 생성된 텍스트가 논문의 실험 분석의 일부로 제시되지 않는 한 금지됩니다.

모든 의심되는 비윤리적 행위는 윤리위원회의 조사를 받게 되며, 규정을 위반한 것으로 밝혀진 개인은 제재를 받을 수 있습니다. 올해 우리는 이러한 기준을 위반한 것으로 밝혀진 개인의 이름을 수집할 것입니다. 우리는 회의, 저널 또는 기타 조직을 대표하는 개인이 의사 결정을 위해 이 목록을 요청할 경우 이 정보를 제공할 수 있습니다. ​

그 중 "논문을 작성할 때 큰 언어 모델을 사용하는 것을 금지합니다"라는 요청이 네티즌들 사이에서 뜨겁게 논의되었습니다.

이 소식이 나왔는데, 네티즌들은 ICML 트위터에 "왜 대형 언어 모델을 사용할 수 없나요?"

AI 논문은 AI를 사용할 수 없다는 댓글이 달렸습니다. ?

Yann LeCun은 "큰 언어 모델을 사용할 수 없습니다. 이는 중간 및 작은 언어 모델을 계속 사용할 수 있음을 의미합니다."라고 설명했습니다. "맞춤법 검사 때문입니다." 애플리케이션과 텍스트 예측도 언어 모델입니다. "

마지막으로 LeCun은 다음과 같이 말했습니다. "내년 ICML 윤리 강령은 다음과 같습니다. 연구원은 모든 유형의 컴퓨터의 도움 없이 손으로 모든 계산을 완료해야 합니다. 그래픽은 펜과 종이를 사용하여 손으로 그려야 합니다. 오늘부터 ICML의 공식 언어는 스웨덴어(스웨덴:?)입니다. ICML 정책에 대한 나의 평가를 요약합니다.

르쿤의 게시물 아래 네티즌들은 자신의 재능을 뽐내며 자기 관리를 시작했습니다.

한 네티즌은 ICML에 다음과 같은 새로운 아이디어를 제시했습니다. "이 전략을 표현하는 또 다른 방법은 '제출된 모든 텍스트는 100B 미만 또는 1조 이상의 매개변수를 가진 신경망에 의해 생성되어야 합니다.'"

일부 사람들은 ICML 리뷰어인 척하고 ChatGPT를 광고했습니다. "ICML 및 기타 회의의 리뷰어로서 저자가 ChatGP와 같은 도구를 사용하여 기사를 다듬는 것에 감사드립니다. 이렇게 하면 논문이 더 명확하고 쉬워집니다. (이 게시물은 ChatGPT에 의해 수정되었습니다.)"

이 규칙에 대해 MIT 교수 Erik Brynjolfsson은 간단히 다음과 같이 요약했습니다. "이것은 패배입니다."

일부 사람들은 ICML 규정에 대해 진지하게 생각을 표현하기도 했습니다.

AAAI의 전 회장인 Thomas Dietterich는 "이 규칙은 특히 인공 지능 컨퍼런스의 경우 이상합니다. 저자가 AI 지원을 수락하는지 여부에 관계없이 과학 기술에 기여하는 모든 기사를 환영해야 합니다."라고 말했습니다. "

어떤 사람들은 ICML 개선 제안도 했습니다.

검토를 위해 대규모 언어 모델을 사용하는 것은 철자와 문법을 향상하는 데 매우 도움이 됩니다. Grammarly, Notion, Google Docs, 심지어 Word까지 모두 대규모 언어 모델을 사용합니다.

대형 언어 모델을 사용하는 것을 금지하기보다는 그 사용 이유와 용도를 명확하게 설명하는 것이 해결책인 것 같습니다.

알고 보니 맞춤법과 문법을 확인하기 위해 Grammarly를 사용하는 사람은 나뿐만이 아니었습니다(doge).

물론 일부 네티즌들은 이러한 조치가 리뷰어의 권위를 보호하기 위한 조치라고 이해하며 이해를 표명했습니다.

Netizen Anurag Ghosh는 다음과 같이 말했습니다. “ICML의 요구 사항은 정확해 보이는 논문이 출판되는 것을 방지하는 것입니다. 예를 들어 기계 학습 분야에서 출판된 5개의 조작/AI 생성 논문은 이렇게 될 것입니다. "

어떤 사람들은 "대규모 언어 모델이 더 높은 품질의 논문을 생성할 수 있다면, 그렇다면 무엇입니까?"라고 생각하는 사람들도 있습니다. 연구는 대규모 언어 모델에서 나온 것이 아닙니다. 그리고 우리는 연구자들이 인터넷 검색과 같은 어떤 종류의 도움도 받지 못하게 하거나 관련이 없는 사람들과 이야기하는 것을 금지할 것입니까?” 대규모 언어 모델의 인기는 결코 줄어들지 않았으며 ICML이 제안한 금지 조치로 인해 촉발된 학자와 네티즌 간의 열띤 토론은 아마도 한동안 계속될 것입니다.

그러나 아직 아무도 논의하지 않은 문제가 있는 것 같습니다. 기사의 일부가 대규모 언어 모델에 의해 생성되었는지 어떻게 판단할 수 있을까요? 표절 여부를 확인하는 방법은 무엇입니까? 결국 기계 모델에 의해 생성된 기사라면 "이 기사는 대규모 언어 모델에 의해 자동 생성되었습니다"라고 구체적으로 표시하는 사람은 아무도 없겠죠?

게다가 명확한 논리, 명확한 구조, 고도로 패턴화된 언어 스타일을 갖춘 연구 논문은 생성된 원본 텍스트가 약간 뻣뻣하더라도 간단히 말해서 대규모 언어 모델을 재생하기에 가장 좋은 장소입니다. 보조자 사용된 도구를 식별하기 어렵고, 이러한 금지 조치를 시행하기 위한 명확한 기준을 마련하는 것도 어려울 것입니다.

이번에는 ICML 리뷰어들의 어깨의 부담이 훨씬 무거워질 것 같습니다.

위 내용은 ICML 논문 요청에서는 대규모 언어 모델의 사용을 금지합니다. LeCun은 다음과 같이 전달했습니다. 중소 규모 모델을 사용할 수 있습니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!