스타트업 회사는 Nvidia를 강화합니다. AMD 카드에서 CUDA를 에뮬레이션하고 원본 프로그램을 직접 컴파일하고 실행할 수 있습니다.

어떤 수정이나 변환 없이도 AMD 그래픽 카드는 원래의 CUDA 프로그램을 실행할 수 있습니다!

영국의 한 스타트업 회사에서 상업용으로 무료로 제공되는 AMD용 CUDA 프로그램 컴파일 도구를 출시했습니다.

도구가 출시되자마자 네티즌들 사이에서 광범위한 열띤 토론을 불러일으켰고 HackerNews 인기 목록 1위에 올랐습니다.

이 도구는 SCALE이라고 하며 개발자는 이를 GPGPU(범용 GPU) 프로그래밍 도구 키트로 지정합니다.

현재 대형 모델 프레임워크인 llama-cpp를 포함한 9개의 프로그램이 테스트를 통과하여 정상적으로 실행되고 있습니다.

다른 구현 방법과 달리 SCALE은 CUDA 툴킷 설치를 직접 시뮬레이션하므로 소스에서 컴파일을 완료하기 위해 다른 언어로 변환할 필요가 없습니다.

따라서 SCALE은 인라인 PTX와 같은 NVIDIA 특정 중간 언어에 대한 지원도 제공할 수 있습니다.

변환할 필요 없이 AMD에서 CUDA를 실행하세요

공식 웹사이트 소개에 따르면 SCALE에는 주로 호환 가능한 nvcc 컴파일러, CUDA 런타임 및 드라이버 API의 AMD 구현, ROCm 라이브러리의 세 가지 구성 요소가 있습니다.

컴파일러는 nvcc, 인라인 PTX 등 CUDA 전용 언어로 작성된 프로그램을 AMD GPU에서 실행할 수 있는 바이너리 코드로 직접 컴파일할 수 있습니다.

ROCm 라이브러리는 SCALE에서 cuBLAS, cuSOLVER 등의 라이브러리를 다룰 때 사용하는 "CUDA-X" API를 제공하기 위해 사용됩니다.

SCALE의 핵심 혁신은 CUDA 프로그램을 다른 언어로 포팅할 필요 없이 있는 그대로 수용하는 것이며, nvcc 및 clang과 같은 여러 컴파일 방법과 호환되는 동시에 기존 빌드 도구 및 스크립트(예: cmake)와 호환됩니다. ) 잘 작동합니다.

공식 성명에 따르면 SCALE은 CUDA와 완벽하게 호환되므로 개발자가 다양한 GPU 플랫폼에 대해 별도의 코드를 작성할 필요가 없습니다.

HIP는 CUDA 코드를 특정 방식으로 다시 작성하고, 복잡한 매크로를 접할 때 올바르게 이해되지 않을 수 있으며, 인라인 PTX와 같은 독점 언어를 지원하지 않는다는 점에서 AMD가 출시한 HIP와는 매우 다릅니다.

SCALE 작성자조차도 HIP가 CUDA 호환성 문제를 해결할 수 없다고 생각합니다.

또한 SCALE의 언어는 CUDA의 상위 집합으로, nvcc를 제거하여 GPU 코드를 작성하려는 개발자가 더 쉽고 효율적으로 만들 수 있는 몇 가지 선택적 언어 확장을 제공합니다.

저자는 미래에 개발자가 코드를 한 번만 작성하고 다른 하드웨어 플랫폼에서 실행할 수 있기를 희망하며, 널리 사용되는 CUDA 프로그래밍 언어와 다른 하드웨어 공급업체 간의 호환성 격차를 해소하기 위해 노력하고 있습니다.

현재 SCALE은 다음과 같은 AMD GPU 시리즈를 지원합니다:

이미 지원됨: gfx1030(RX6000 시리즈) 및 gfx1100(RX7000 시리즈)

"작동하는 것 같습니다": gfx1010(RX5000 시리즈) 및 gfx1101 적응 중 받는 사람: gfx900 ( RX Vega 시리즈)

또한 저자는 일부 CUDA 오픈 소스 프로젝트를 테스트하고 SCALE을 사용하여 9개의 CUDA 애플리케이션을 성공적으로 실행했습니다.

하지만 SCALE은 결국 새로운 프로젝트이기 때문에 저자는 다양한 유형의 샘플 프로그램을 제공하면서 설치부터 편집까지 일련의 튜토리얼도 준비했습니다.

튜토리얼의 주요 단계에는 모두 관련 코드가 함께 제공되며, 자신의 GPU 모델을 결정하는 방법도 포함되어 있어 매우 상세하다고 할 수 있습니다.

사용 중 문제가 발생하면 저자가 일반적인 문제 해결 방법도 소개하고, Discord 포럼을 열어 개발팀과 직접 소통하기도 합니다.

SCALE을 만든 스타트업은 Spectral Compute라고 합니다. 2018년 영국에서 설립되었습니다. CPU와 GPU의 아키텍처에 대해 깊이 이해하고 있으며 개발자가 효율적으로 활용할 수 있도록 돕는 것이 목표입니다. 컴퓨팅 리소스.

네티즌: NVIDIA의 해자에 도전하시겠습니까?

일부 네티즌들은 SCALE이 실제로 (광고대로) 효과를 발휘할 수 있다면 NVIDIA의 해자에 도전하고 AMD가 직접 경쟁할 수 있을 것이라고 믿습니다.

しかし、今結論を出すのは時期尚早です。結局のところ、SCALE はオリジナルの CUDA と比較してまだいくつかの欠陥があることを公式に認めています。

そして開発者は、一部の CUDA API と関数がサポートされていないことも明らかにしましたが、具体的なリストは示しませんでした。

「AMDソリューション」のさらなる欠点について、SCALEチームと連絡をとったと主張するネチズンは、現在のSCALEではTensorCoreを動作させることができない、つまりFlashAttendanceアクセラレーションフレームワークをAMD上で実行できないと述べました。

さらに、N カードには強力な行列乗算ユニットがあるため、コンパイルして実行できたとしても、AMD カード上のパフォーマンスは N カードほど良くない可能性があります。

一部のネチズンは、NVIDIA が優勢である理由は、AMD が (CUDA の利点を享受するだけでなく) GPU の機械学習パフォーマンスを高めるための投資に消極的であるためだと考えています。

たとえ効率的に実行できるとしても、AMD カードが本当に手頃な価格で入手しやすいかどうかは疑問です。

最大の問題は技術的に実行できるかどうかではなく、その背後にある法的問題であると信じるネチズンの波もあります。

この問題も広範な議論を引き起こしましたが、まだ結論は出ていません。

SCALE は ZLUDA (AMD 上で CUDA プログラムを実行する別の方法) と同じくらい法的に問題があり、NVIDIA からの訴訟につながる可能性があると考える人もいます。

具体的には、NVIDIA の EULA 条件によれば、CUDA SDK は N カード上で実行されるアプリケーションの開発のみを許可しており、これにより SCALE のような互換性のある実装が禁止される可能性があります。

しかし、すぐに一部のネチズンは、SCALEはNVIDIAの「SDK」を使用していないと言いました、それではSDKの使用契約についてどのように議論すればよいでしょうか？

つまり、技術的な欠陥であれ、法的問題であれ、この新しいツールに関する議論はまだ続いています。

役立つかどうかについては、開発者が自分の足で投票することによって決まります。

参考リンク:

[1]https://docs.scale-lang.com/

[2]https://news.ycombinator.com/item?id=40970560

この記事は、WeChat 公開アカウント: Qubit (ID: QbitAI)、著者: Cressy からのものです

위 내용은 스타트업 회사는 Nvidia를 강화합니다. AMD 카드에서 CUDA를 에뮬레이션하고 원본 프로그램을 직접 컴파일하고 실행할 수 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!