연구원들은 LLM(대형 언어 모델)의 이념적 편견에 대한 우려를 제기합니다.

요약 및 질문 답변과 같은 작업에 널리 사용되는 이러한 모델은 제작자의 세계관을 반영합니다. 겐트 대학교의 새로운 연구에서는 LLM이 언어, 지역 및 교육 데이터를 기반으로 어떻게 서로 다른 이념적 입장을 가지고 있는지 보여줍니다.

대형 언어 모델(LLM)은 텍스트 요약부터 질문에 답하는 것까지 다양한 작업에 사용할 수 있는 강력한 도구입니다. 그러나 겐트 대학교의 최근 연구에 따르면 LLM은 제작자의 이념적 세계관을 반영하여 편향될 수도 있는 것으로 나타났습니다.

이 연구에서는 영어와 중국어의 LLM 응답에 대한 이념적 차이를 조사했습니다. 연구자들은 모델에게 역사적 인물을 묘사하도록 요청한 다음 각 반응의 도덕적 판단을 분석했습니다. 그들은 LLM이 언어 및 지리적 교육에 따라 다르게 반응한다는 것을 발견했습니다. 이는 서구 및 비서구 LLM이 글로벌 갈등과 정치적 인물에 대한 설명을 처리하는 방식에서 분명하게 드러났습니다.

Tether의 CEO인 Paolo Ardoino는 최근 게시물에서 이 문제에 대한 우려를 제기했습니다. 그는 AI 모델에 대한 사용자 제어의 중요성을 강조하고, 대중의 생각을 형성하는 데 사용될 수 있는 대규모 기술 기업의 영향력에 대해 경계심을 표명했습니다.

루가노 플랜 B 행사에서 Ardoinoを紹介는 Tether의 로컬 AI 개발 키트를 솔루션으로 채택했습니다. 개인 정보 보호에 초점을 맞춘 키트는 P2P(Peer-to-Peer) 기술을 활용하여 거대 기술로 제어되는 AI 모델에 대한 대안을 제공합니다.

우리가 실행하고 의존하는 모델을 제어해야 합니다.

그리고 거대 기술 기업이 우리의 생각을 강요하고 통제하도록 놔두지 마세요.

솔루션 https://t.co/1MyRIUXwit

Tether AI SDK는 고도로 모듈화되고 적응성이 뛰어나 개발자가 저가형 전화기부터 고급 컴퓨터에 이르기까지 다양한 장치에서 사용할 수 있습니다. 오픈 소스 키트는 Marian 및 LLaMA와 같은 다양한 모델을 지원하며 사용자는 개인 정보 보호 강화를 위해 P2P 구조에 데이터를 저장할 수 있습니다. 이러한 분산형 접근 방식은 AI 애플리케이션을 실행하는 로컬 및 비공개 방법을 제공합니다.

겐트 대학교 연구에서는 LLM이 역사적, 정치적 사건을 다루는 방식에도 차이점이 있음을 발견했습니다. 서구 모델은 설명에서 서구 이데올로기와 일치하는 경향이 있는 반면, 비서구 모델은 이러한 주제에 다르게 접근하여 서술적 관점의 차이를 강조했습니다. 이러한 발견은 "중립" AI 시스템 구축의 어려움을 강조합니다.

분산형 AI 플랫폼을 위한 Ardoino의 이니셔티브는 개인 정보 보호를 강화하려는 기술 산업의 광범위한 추세와 일치합니다. Tether의 로컬 AI 키트가 테스트되면서 사용자가 제어하는 ​​모듈형 AI의 새로운 길을 보여줍니다. 이 접근 방식은 잠재적으로 개인 정보 보호 문제를 해결하고 AI 요구 사항에 대한 대형 기술에 대한 의존도를 줄일 수 있습니다.

이 기사는 본질적으로 교육적이고 정보를 제공하기 위한 것입니다. 이는 재정적 조언이나 어떤 종류의 조언도 구성하지 않습니다. Coin Edition은 언급된 콘텐츠, 제품 또는 서비스의 활용으로 인해 발생하는 손실에 대해 책임을 지지 않습니다. 재정적 또는 기타 결정을 내리기 전에 자격을 갖춘 전문가와 상담하십시오.

위 내용은 연구원들은 LLM(대형 언어 모델)의 이념적 편견에 대한 우려를 제기합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!