MediaTek Dimensity 9300은 장치 측에서 130억 매개변수의 AI 대형 모델을 성공적으로 실행했습니다.
기사 소개:11월 6일 저녁, MediaTek은 주력 칩 Dimensity 9300을 출시했습니다. 공식 소개에 따르면 Dimensity 9300은 APU790으로 업그레이드되어 8배속 생성 AITransformer 연산자 가속을 지원하고 고유한 메모리 하드웨어 압축 기술과 NeuroPilotCompression 혼합 정밀도 INT4 양자화 기술을 갖추고 동시에 정수 연산 속도가 2배, 부동소수점 연산 속도는 2배 증가, 전력 소모는 45% 감소했다. 미디어텍 관계자는 디멘시티 9300을 단말에 이식해 70억 매개변수 인공지능을 성공적으로 구동했다고 밝혔다. 장치의 큰 언어 모델. 또한 130억 개의 매개변수와 330억 개의 매개변수를 갖춘 인공지능 대형 언어 모델인 Dimensity 9도 성공적으로 실행했다.
2023-11-07
논평 0
938