LLM을 1.58 비트로 미세 조정하는 방법은 무엇입니까? - 분석 Vidhya

1.58 비트 양자화 된 LLM의 효율을 탐색합니다

대형 언어 모델 (LLM)은 크기와 복잡성이 빠르게 증가하여 계산 비용과 에너지 소비가 증가하고 있습니다. 모델 매개 변수의 정밀도를 줄이는 기술인 양자화는 유망한 솔루션을 제공합니다. 이 기사는 전례없는 1.58 비트에 미세 조정하여 놀라운 효율성을 달성하는 새로운 접근법 인 Bitnet을 탐구합니다.

양자화의 도전

전통적인 LLM은 16 비트 (FP16) 또는 32 비트 (FP32) 플로팅 포인트 정밀도를 사용합니다. 양자화는 이러한 정밀도로 낮은 비트 형식 (예 : 8 비트, 4 비트)으로 감소하여 메모리 절약과 더 빠른 계산을 초래합니다. 그러나 이것은 종종 정확도를 희생합니다. 주요 과제는 극도의 정밀도 감소에 내재 된 성능 트레이드 오프를 최소화하는 데 있습니다.

비트 넷 : 새로운 접근 방식

Bitnet은 1.58 비트 LLM 아키텍처를 소개합니다. 여기서 각 매개 변수는 3 원 값 {-1, 0, 1}을 사용하여 표시됩니다. 이 혁신적인 접근 방식은 비트 선형 레이어를 활용하여 모델의 다중 헤드주의 및 피드 포워드 네트워크에서 기존 선형 레이어를 대체합니다. 삼여성 가중치의 비 디퍼런스 성을 극복하기 위해 Bitnet은 Straight-Strough Estimator (Ste)를 사용합니다.

직선 추정기 (Ste)

Ste는 비트넷의 중요한 구성 요소입니다. 이를 통해 구배는 역전 중에 분리되지 않는 양자화 공정을 통해 전파 될 수 있으며, 이는 불연속 가중치를 사용하더라도 효과적인 모델 훈련을 가능하게합니다.

미리 훈련 된 모델에서 미세 조정

비트넷은 처음부터 훈련 할 때 인상적인 결과를 보여 주지만 사전 훈련에 대한 리소스 요구 사항은 상당합니다. 이 기사는 기존 미리 훈련 된 모델 (예 : LLAMA3 8B)을 1.58 비트로 미세 조정하는 타당성을 탐구합니다. 이 접근법은 양자화가 정보 손실로 이어질 수 있으므로 도전에 직면합니다. 저자는 동적 람다 예약을 사용하고 대체 양자화 방법 (당, 콜럼 당, 그룹당)을 탐색함으로써이를 다룹니다.

최적화 전략

이 연구는 미세 조정 중 신중한 최적화의 중요성을 강조합니다. 훈련 중에 양자화를 점차적으로 도입하는 동적 람다 스케줄링은 정보 손실을 완화하고 수렴을 향상시키는 데 결정적인 것으로 판명됩니다. 다른 Lambda 스케줄링 기능 (선형, 지수, Sigmoid)을 갖는 실험은 최적의 접근법을 찾기 위해 수행됩니다.

실험 결과 및 분석

이 연구는 다양한 기준선에 대한 미세 조정 된 1.58 비트 모델의 성능을 비교하여 포괄적 인 실험 결과를 제시합니다. 결과는 일부 성능 격차가 전체 정제 모델에 비해 남아 있지만 효율성 이득이 상당하다는 것을 보여줍니다. 모델 크기의 영향과 데이터 세트 선택도 분석됩니다.

포옹 얼굴 통합

미세 조정 된 모델은 포옹 얼굴을 통해 액세스 할 수 있으므로 다양한 응용 분야에 쉽게 통합 할 수 있습니다. 이 기사는 이러한 모델을로드하고 활용하는 방법을 보여주는 코드 예제를 제공합니다.

결론

비트넷은 LLM 효율의 상당한 발전을 나타냅니다. 1.58 비트로 미세 조정이 어려운 과제를 제시하지만,이 연구는 계산 비용과 에너지 소비가 크게 줄어드는 고 차도 모델에 비슷한 성능을 달성 할 수있는 잠재력을 보여줍니다. 이는 자원 제약 장치에 대규모 LLM을 배치하고 AI의 환경 영향을 줄일 수있는 흥미로운 가능성을 열어줍니다.

(참고 : 이미지는 참조되지만 직접 통합 될 수있는 형식으로 제공되지 않았 으므로이 출력에 포함되지 않습니다.)

위 내용은 LLM을 1.58 비트로 미세 조정하는 방법은 무엇입니까? - 분석 Vidhya의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!