GenAI의 추진력을 유지하기 위해 CIO가 집중해야 할 영역

GenAI는 여전히 대부분의 기업에서 최고의 투자주목을 받고 있으며 기대가 높습니다. 최근 PwC 설문조사에 따르면 미국 CEO 중 61%는 AI가 비즈니스 가치 창출 방식을 바꿀 것으로 기대하지만, 이 목표를 달성하려면 기업은 AI 과대광고를 현실로 바꿔야 합니다. 좋은 소식은 그들이 점점 더 나아지고 있다는 것입니다. 실제로 Databricks가 최근 발표한 State of Data + AI Report의 결과에 따르면 기업은 자사 모델의 1,342%를 실험 단계에서 현실 세계로 밀어냈고, 데이터와 AI에 대한 야망은 줄어들지 않았으며, 그 수는 줄어들지 않았습니다. 실험 모델도 134% 증가했습니다. 이는 고무적인 신호이지만, CIO 및 기타 기술 리더들과의 대화에 따르면 현재의 과제는 이러한 추진력을 유지하는 것입니다. 기업은 기대에 동의하는 데 어려움을 겪습니다. 당연히 많은 경영진은 투자에 대한 즉각적인 수익을 보고 싶어하며, 기업은 경쟁사가 AI 분야에서 더 빠른 발전을 이룰 것이라는 두려움 때문에 장기적인 전략을 생각하지 않습니다. 이 접근 방식은 잘못되었습니다. "현재"에만 집중하는 기업은 새로운 것에서 다음 것으로 도약하는 자신을 발견하게 될 것입니다. GenAI에 대한 투자는 긴 과정이므로 CIO는 회사의 AI 사고방식을 단기적인 성공에서 장기적인 비즈니스 혁신으로 전환해야 합니다. 이를 염두에 두고 CIO와 기타 기술 리더가 이 문제를 해결할 때 집중해야 할 세 가지 사항은 다음과 같습니다. 핵심 영역: 1. 데이터 인프라 개선 AI의 우선순위와 초점 영역은 기술 자체만큼 빠르게 발전하고 있습니다. 예를 들어, 6개월 전만 해도 RAG(검색 증강 생성)에 대해 잘 알고 있는 CIO는 거의 없었습니다. 이제 더 나은 맞춤형 성과를 달성하기 위해 민간 기업 데이터에 대한 상용 LLM 교육이 중요한 초점 영역이 되었습니다. 익명화된 사용 데이터에 따르면 RAG 모델 구축의 핵심인 벡터 데이터베이스의 사용이 지난 한 해 동안 377% 증가했습니다. Databricks와 같은 일부 회사에서는 AI 시스템이 더 복잡한 문제를 해결하도록 돕기 위해 "에이전트및 도구" 접근 방식을 사용하기 시작했습니다. 이는 GenAI의 개발 속도와 기능의 급속한 확장을 보여주는 증거이지만 데이터 마이그레이션은 여전히 ​​과제로 남아 있습니다. 예를 들어 성공적인 RAG 시스템을 구축하려면 교육에 필요한 데이터를 즉시 사용할 수 있어야 하며 기업 전체의 사일로에 갇혀 있어서는 안 됩니다. 모델이 사용자가 기대하는 맞춤형 답변을 제공할 수 있으려면 구조화된 데이터와 구조화되지 않은 데이터가 모두 결합되어야 합니다. 그러나 이것은 오늘날의 과제일 뿐입니다. 기업에는 요구 사항과 기술 변화에 따라 확장할 수 있는 프레임워크가 필요합니다. 리더는 다음과 같은 질문을 스스로에게 던져야 합니다. 더 큰 AI 환경이 어떻게 발전하더라도 어떤 인프라를 통해 데이터를 효과적으로 관리, 유지하고 통찰력을 얻을 수 있습니까? 이러한 모델과 잘 작동하려면 데이터 환경을 개선하거나 변경해야 합니까? 2. 기본 모델 탐색 대부분의 기업에서는 일반 LLM이 좋은 출발점입니다. 또한 플랫폼 사용량이 계속해서 증가하고 있습니다. 그러나 이러한 기본 모델을 사용하는 기업이 많아질수록 한계를 더 많이 발견하게 됩니다. 이것이 바로 많은 기업이 현재 모델의 성능을 개선하고 궁극적으로 운영 비용을 줄이기 위해 RAG 및 미세 조정과 같은 기술을 찾고 있는 이유입니다. 기업들이 독점 모델을 사용하여 이를 수행하는 동안 점점 더 개방형 시스템을 선택하고 있습니다. 실제로 보고서의 조사 결과에 따르면 Llama3가 출시된 지 불과 몇 주 만에 전체 오픈 소스 모델 사용의 39%를 차지했습니다. 이러한 기술이 더욱 보편화됨에 따라 기업은 언제 어떤 기술을 적용해야 하는지 배워야 합니다. 예를 들어, 기업에서는 기본 모델을 미세 조정하는 것보다 자체 모델을 구축하는 것이 더 비용 효율적이거나 계속 업데이트되는 정보 세트를 사용하여 작업할 수 있을 때 처음부터 자체 모델을 구축하기로 결정할 수 있습니다. 이 경우 기업이 모델에 새로운 데이터를 신속하게 제공할 수 있으므로 RAG가 더 나은 선택입니다. 중요한 것은 모델이 점점 더 좋아지고 있다는 것입니다. 미래 동향을 예의 주시하는 것이 중요합니다. 3. AI 개발의 정확성을 우선시하고 AI를 사용하면 워크플로가 바뀌고 기업이 데이터에 대해 생각하는 방식이 바뀌고 있지만 현재 많은 모델이 필요한 만큼 제대로 작동하지 않기 때문에 많은 기업이 여전히 테스트 및 실험 단계에 있습니다. 정확하거나 신뢰할 수 있습니다. 일부 회사에서는 이미 그 결과를 목격하고 있습니다. 항공사의 챗봇이 회사의 공식 정책을 준수하지 않는 환불을 제공하거나, 법원이 고객에게 유리한 판결을 내리거나, 고객에게 1달러에 자동차를 제공하는 자동차 딜러의 챗봇을 고려합니다. 이러한 실수가 대규모로 발생하거나 위험도가 높은 시나리오에서 발생하면 기업은 어려움을 겪게 됩니다. 따라서 특히 높은 정확도가 필요한 애플리케이션의 경우 사람이 계속해서 정보를 파악하는 것이 중요합니다. 모델이 개선되더라도 출력 품질은 모델을 뒷받침하는 데이터만큼만 좋습니다. 강력한 데이터 위생 및 감독은 기업이 AI 기반 성공을 달성하는 데 핵심입니다. 데이터를 관리하고 액세스할 수 있으며 체계적으로 구성하면 기업이 향후 더욱 일관되고 안정적인 결과를 얻을 수 있습니다.AI는 점점 더 의료, 제조, 엔터프라이즈 기술 등과 같은 작업장에서 인간의 역량을 강화할 수 있게 될 것입니다. 따라서 기업은 강력한 데이터 인프라 및 관행을 유지하고 광범위한 비즈니스 전략에 맞춰 AI 애플리케이션의 우선 순위를 지정하는 데 집중해야 합니다. 변화의 시대에 대비한 AI 인재를 양성합니다.

위 내용은 GenAI의 추진력을 유지하기 위해 CIO가 집중해야 할 영역의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!