기술 주변기기 일체 포함 NeurIPS2024 엣지 디바이스 대규모 언어 모델 챌린지

NeurIPS2024 엣지 디바이스 대규모 언어 모델 챌린지

Aug 07, 2024 pm 04:03 PM
산업

인공지능의 급속한 발전과 함께, 특히 자연어 처리(NLP) 분야에서 대규모 언어 모델(LLM)은 큰 변화 가능성을 보여주었습니다. 이러한 모델은 우리가 일하고 통신하는 방식을 변화시키고 있으며 다양한 컴퓨팅 장치에 걸쳐 광범위한 응용 프로그램을 보여줍니다. 그러나 LLM의 거대한 모델은 스마트폰, IoT 장치 및 차량 탑재 시스템과 같은 엣지 장치에 적용하는 데 상당한 어려움을 안겨줍니다. 우리의 경쟁은 리소스가 제한된 엣지 장치에서 LLM의 성능, 효율성 및 멀티태스킹 기능의 한계를 뛰어넘는 것을 목표로 합니다. 경쟁 배경: LLM은 엄청난 응용 잠재력을 갖고 있지만, 그 엄청난 매개변수는 엣지 장치의 리소스에 심각한 요구를 초래합니다. 예를 들어, 10B 매개변수 LLM 모델은 양자화 처리 후에도 최대 20GB의 메모리가 필요하며, 대부분의 스마트폰의 메모리 용량은 이 요구 사항을 충족시키기에는 한참 부족합니다. 또한 LLM의 높은 에너지 소비도 큰 문제입니다. 일반적으로 완전히 충전된 스마트폰은 LLM을 사용하여 대화할 때 2시간 미만만 사용할 수 있습니다. 주요 과제: 메모리 요구 사항: LLM 추론에는 고급형 스마트폰에도 탑재할 수 없는 대용량 메모리가 필요합니다. 에너지 소비 문제: LLM 추론 중 높은 에너지 소비는 스마트폰의 배터리 수명에 문제를 야기합니다. 성능 손실: 높은 압축률을 달성하면서 모델 성능을 유지하는 것은 기존 기술의 주요 문제입니다. 오프라인 기능 부족: 대부분의 LLM에는 인터넷 연결이 필요하므로 네트워크가 불안정한 환경에서는 적용이 제한됩니다. 대회 목표: 이 대회는 위의 과제를 해결하고 엣지 장치에서 LLM의 실제 적용을 촉진하는 것을 목표로 합니다. 우리는 다양한 분야의 연구원, 엔지니어 및 업계 전문가를 초대하여 에지 장치에 고성능 LLM을 배포할 수 있도록 시스템, 하드웨어 및 알고리즘을 공동으로 설계합니다. NeurIPS Edge Device LLM 챌린지에 참여하세요! 우리는 NeurIPS Challenge에 다양한 분야의 전문가들을 초대하여 엣지 디바이스에 대한 LLM의 역량을 입증할 것입니다. 대회의 상위 3개 팀은 총 상금 풀 300,000을 공유하게 됩니다. 경쟁 트랙: 압축 챌린지: 상당한 성능 손실 없이 사전 훈련된 LLM을 압축하는 방법을 보여줍니다. 처음부터 교육 과제: 에지 장치용으로 설계된 LLM을 처음부터 교육하고 교육 프로세스를 최적화하여 효율적인 모델을 만듭니다. 참여 이유: 대상을 획득하세요: 총 상금 풀 300,000. 혁신 추진: LLM의 최첨단 연구에 기여합니다. 네트워크 성장: 해당 분야의 선도적인 전문가 및 동료와 연결하세요. 당신의 재능을 보여주세요: 최고의 AI 컨퍼런스에서 인정받으세요. 중요 날짜: 등록 시작: 2024년 6월 25일 등록 마감일: 2024년 7월 25일 제출 마감일: 2024년 10월 25일 결과 발표: 2024년 11월 20일 오프라인 워크숍: 2024년 12월 11일 참여 방법: 등록: Google Forms를 통해 등록하세요. 공식 대회 홈페이지, 공식 대회 홈페이지. 트랙 선택: 압축 챌린지, 처음부터 훈련하기 챌린지 또는 둘 다 중에서 선택합니다. 솔루션 제출: 마감일 전에 모델을 제출하세요. 도전할 준비가 되셨나요? 지금 등록하고 대회 준비를 시작해 보세요! 자세한 내용 및 등록을 원하시면 다음을 방문하세요: Discord: 링크 등록 링크: 링크 엣지 장치에서 LLM 개발을 촉진하기 위해 함께 노력합시다. 행운을 빌며 NeurIPS 2024에서 뵙기를 기대합니다! ?NeurIPS Edge Device LLM 챌린지 주최자:

NeurIPS2024 엣지 디바이스 대규모 언어 모델 챌린지

위 내용은 NeurIPS2024 엣지 디바이스 대규모 언어 모델 챌린지의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.

뜨거운 기사 태그

메모장++7.3.1

메모장++7.3.1

사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전

SublimeText3 중국어 버전

중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기

스튜디오 13.0.1 보내기

강력한 PHP 통합 개발 환경

드림위버 CS6

드림위버 CS6

시각적 웹 개발 도구

SublimeText3 Mac 버전

SublimeText3 Mac 버전

신 수준의 코드 편집 소프트웨어(SublimeText3)

딥마인드 로봇이 탁구를 치는데 포핸드와 백핸드가 공중으로 미끄러져 인간 초보자를 완전히 제압했다. 딥마인드 로봇이 탁구를 치는데 포핸드와 백핸드가 공중으로 미끄러져 인간 초보자를 완전히 제압했다. Aug 09, 2024 pm 04:01 PM

딥마인드 로봇이 탁구를 치는데 포핸드와 백핸드가 공중으로 미끄러져 인간 초보자를 완전히 제압했다.

클로드도 게으르게 됐어요! 네티즌 : 휴가를 보내는 법을 배우십시오 클로드도 게으르게 됐어요! 네티즌 : 휴가를 보내는 법을 배우십시오 Sep 02, 2024 pm 01:56 PM

클로드도 게으르게 됐어요! 네티즌 : 휴가를 보내는 법을 배우십시오

최초의 기계식 발톱! Yuanluobao는 2024년 세계 로봇 회의에 등장하여 집에 들어갈 수 있는 최초의 체스 로봇을 출시했습니다. 최초의 기계식 발톱! Yuanluobao는 2024년 세계 로봇 회의에 등장하여 집에 들어갈 수 있는 최초의 체스 로봇을 출시했습니다. Aug 21, 2024 pm 07:33 PM

최초의 기계식 발톱! Yuanluobao는 2024년 세계 로봇 회의에 등장하여 집에 들어갈 수 있는 최초의 체스 로봇을 출시했습니다.

세계로봇컨퍼런스에서 '미래 노인돌봄의 희망'을 담은 국산 로봇이 포위됐다. 세계로봇컨퍼런스에서 '미래 노인돌봄의 희망'을 담은 국산 로봇이 포위됐다. Aug 22, 2024 pm 10:35 PM

세계로봇컨퍼런스에서 '미래 노인돌봄의 희망'을 담은 국산 로봇이 포위됐다.

홍멍 스마트 트래블 S9과 풀시나리오 신제품 출시 컨퍼런스, 다수의 블록버스터 신제품이 함께 출시됐다 홍멍 스마트 트래블 S9과 풀시나리오 신제품 출시 컨퍼런스, 다수의 블록버스터 신제품이 함께 출시됐다 Aug 08, 2024 am 07:02 AM

홍멍 스마트 트래블 S9과 풀시나리오 신제품 출시 컨퍼런스, 다수의 블록버스터 신제품이 함께 출시됐다

Li Feifei 팀은 로봇에 공간 지능을 제공하고 GPT-4o를 통합하기 위해 ReKep을 제안했습니다. Li Feifei 팀은 로봇에 공간 지능을 제공하고 GPT-4o를 통합하기 위해 ReKep을 제안했습니다. Sep 03, 2024 pm 05:18 PM

Li Feifei 팀은 로봇에 공간 지능을 제공하고 GPT-4o를 통합하기 위해 ReKep을 제안했습니다.

ACL 2024 시상식 발표: HuaTech의 Oracle 해독에 관한 최고의 논문 중 하나, GloVe Time Test Award ACL 2024 시상식 발표: HuaTech의 Oracle 해독에 관한 최고의 논문 중 하나, GloVe Time Test Award Aug 15, 2024 pm 04:37 PM

ACL 2024 시상식 발표: HuaTech의 Oracle 해독에 관한 최고의 논문 중 하나, GloVe Time Test Award

중국 최초 대형 UI 모델 출시! Motiff의 대형 모델은 디자이너를 위한 최고의 어시스턴트를 생성하고 UI 디자인 워크플로우를 최적화합니다. 중국 최초 대형 UI 모델 출시! Motiff의 대형 모델은 디자이너를 위한 최고의 어시스턴트를 생성하고 UI 디자인 워크플로우를 최적화합니다. Aug 19, 2024 pm 04:48 PM

중국 최초 대형 UI 모델 출시! Motiff의 대형 모델은 디자이너를 위한 최고의 어시스턴트를 생성하고 UI 디자인 워크플로우를 최적화합니다.

See all articles