구글의 '큰 움직임'으로 얼마나 많은 AI 라벨링 회사가 사라질까?

작은 수제 공방은 결국 공장 조립 라인에 상대가 되지 않습니다.

현재의 생성AI가 씩씩하게 자라나는 아이라면, 지속적인 데이터는 아이의 성장을 자양분으로 삼는 음식입니다.

데이터 주석은 이 “음식”을 만드는 과정입니다

그런데 이 과정이 정말 지루하고 힘들더라구요.

주석을 수행하는 "주석자"는 이미지 속 다양한 개체, 색상, 모양 등을 반복적으로 식별해야 할 뿐만 아니라 때로는 데이터를 정리하고 전처리해야 할 때도 있습니다.

인공지능 기술의 지속적인 발전으로 인해 수동 데이터 주석의 한계가 점점 더 분명해지고 있습니다. 수동 데이터 주석은 시간과 노력을 소비할 뿐만 아니라 품질을 보장하기 어려운 경우도 있습니다

이러한 문제를 해결하기 위해 Google은 최근 대규모 모델을 사용하여 선호도 주석을 인간으로 대체하는 RLAIF(AI Feedback Reinforcement Learning)라는 방법을 제안했습니다

연구 결과에 따르면 RLAIF는 인간 주석에 의존하지 않고 인간 피드백을 통한 강화 학습(RLHF)과 동등한 개선을 달성할 수 있으며 둘 다 승률은 50%입니다. 또한 연구에서는 RLAIF와 RLHF가 모두 지도형 미세 조정(SFT)의 기본 전략보다 우수하다는 사실도 발견했습니다

이러한 결과는 RLAIF가 수동 주석에 의존할 필요가 없으며 RLHF에 대한 실행 가능한 대안임을 보여줍니다.

이 기술이 앞으로 정말 널리 홍보되고 대중화된다면 데이터 주석을 수동으로 "풀링 박스"에 의존하는 많은 기업이 절박한 상황에 직면하게 될까요?

01 데이터 주석 처리 현황

국내 주석산업 현황을 간단히 요약하면 작업량은 많지만 효율이 그리 높지 않아 감사할 수 없는 상태이다.

표시된 기업은 AI 분야의 데이터 공장이라 불리며 주로 동남아시아, 아프리카나 중국의 허난성, 산시성, 산동성 등 인적 자원이 풍부한 지역에 집중되어 있습니다.

비용 절감을 위해 라벨링 회사의 상사가 카운티에 컴퓨터 장비를 배치할 공간을 임대할 예정입니다. 주문이 들어오면 근처에 아르바이트 직원을 모집해서 처리합니다. 주문이 없으면 해체하고 잠시 쉬어요

간단히 말하면 이런 작업은 길가의 임시 장식 작업과 조금 비슷합니다.

워크스테이션에서 시스템은 일반적으로 여러 질문과 답변이 포함된 데이터 세트를 "주석 작성자"에게 무작위로 제공합니다.

그 후 "주석자"는 먼저 질문이 어떤 유형에 속하는지 표시한 다음 답변에 점수를 매기고 정렬해야 합니다.

앞서 사람들은 국산 대형 모델과 GPT-4 등 첨단 대형 모델의 격차를 이야기할 때 국내 데이터의 품질이 낮은 이유를 요약했습니다.

왜 데이터 품질이 높지 않나요? 그 이유 중 하나는 데이터 주석의 "파이프라인"에 있습니다

현재 중국 대형 모델에는 두 가지 유형의 데이터 소스가 있습니다. 하나는 오픈 소스 데이터 세트이고, 다른 하나는 크롤러를 통해 크롤링되는 중국 인터넷 데이터입니다.

중국 대형 모델의 성능이 좋지 않은 주된 이유 중 하나는 인터넷 데이터의 품질입니다. 예를 들어 전문가들은 일반적으로 정보를 찾을 때 Baidu를 사용하지 않습니다.

따라서 의료, 금융 등 좀 더 전문적이고 수직적인 데이터 문제에 직면할 때는 전문 팀과 협력해야 합니다.

그런데 이때 문제가 또 발생합니다. 프로팀의 경우 데이터 회수 기간이 길 뿐만 아니라, First Mover가 손실을 입을 가능성이 높습니다.

예를 들어, 어떤 주석 팀은 많은 돈과 시간을 들여 많은 데이터를 생성하지만, 다른 팀은 그것을 그냥 포장해서 소액의 돈으로 구매할 수도 있습니다.

이런 '무임승차 딜레마'에 직면한 국내 대형 모델 다수는 데이터는 많아도 품질이 높지 않은 이상한 상황에 빠졌습니다

이런 경우, OpenAI 등 외국의 대표적인 AI 기업들은 이 문제를 어떻게 해결하고 있나요?

OpenAI는 데이터 주석 비용 절감을 위해 값싸고 집약적인 노동력 사용을 포기하지 않았습니다

예를 들어, 시간당 2달러의 비용으로 독성 정보를 라벨링하기 위해 케냐 근로자를 대거 고용한 것으로 이전에 밝혀졌습니다.

그러나 중요한 차이점은 데이터 품질 및 주석 효율성 문제를 해결하는 방법입니다

구체적으로 OpenAI와 국내 기업의 가장 큰 차이점은 수동 주석의 '주관성'과 '불안정성'의 영향을 줄이는 방법입니다.

02 OpenAI의 접근 방식 내용을 다시 작성할 때 언어를 중국어로 다시 작성해야 하며 원래 문장이 나타날 필요는 없습니다

이러한 인간 주석자의 "주관성"과 "불안정성"을 줄이기 위해 OpenAI는 대략 두 가지 주요 전략을 채택합니다.

1. 인공 피드백과 강화 학습의 결합

다시 쓸 때는 원본 내용을 중국어로 변환해야 합니다. 다시 작성한 후의 모습은 다음과 같습니다. 먼저 라벨링에 대해 알아보겠습니다. OpenAI의 인위적 피드백과 국내 피드백의 가장 큰 차이점은 출력을 수정하거나 라벨을 지정하기보다는 주로 지능형 시스템의 동작을 정렬하거나 점수를 매긴다는 점입니다

지능형 시스템의 행동은 지능형 시스템이 자체 목표와 전략을 기반으로 복잡한 환경에서 취하는 일련의 행동이나 결정을 의미합니다

게임하기, 로봇 조종하기, 사람들과 대화하기 등

지능형 시스템의 출력이란 글을 쓰거나 그림을 그리는 등의 간단한 작업에서 입력 데이터를 기반으로 결과나 답변을 생성하는 것을 말합니다.

일반적으로 지능 시스템의 행동은 '옳음'이나 '그름'으로 판단하기 어려운 경우가 많습니다. 오히려 선호도나 만족도 측면에서 평가해야 합니다

"선호도" 또는 "만족도"를 기반으로 하는 이러한 종류의 평가 시스템은 특정 내용의 수정이나 주석을 요구하지 않으므로 인간의 주관성, 지식 수준 및 기타 요소가 데이터 주석의 품질과 정확성에 미치는 영향을 줄입니다

국내 기업도 라벨링 시 '정렬', '점수'와 유사한 시스템을 사용하는 것이 사실이다. 그러나 지능형 시스템의 전략을 최적화하기 위한 보상 기능으로 OpenAI와 같은 '보상 모델'이 부족하기 때문에, 이러한 "정렬" 및 "점수 매기기"는 여전히 본질적으로 출력을 수정하거나 주석을 추가하는 방법입니다.

2. 다양하고 대규모의 데이터 소스 채널

중국의 데이터 주석의 주요 소스는 제3자 주석 회사 또는 기술 회사가 자체 구축한 팀입니다. 이들 팀의 대부분은 학부생으로 구성되어 있으며 고품질의 효율적인 피드백을 제공할 만큼 전문성과 경험이 부족합니다.

반면 OpenAI의 인간 피드백은 여러 채널과 팀을 통해 얻습니다

OpenAI는 Scale AI, Appen, Lionbridge AI 등 여러 데이터 회사 및 기관과 협력하여 오픈 소스 데이터 세트 및 인터넷 크롤러를 사용하여 데이터를 얻을 뿐만 아니라 더욱 다양하고 고품질의 데이터를 얻기 위해 노력하고 있습니다

이러한 데이터 회사 및 기관의 라벨링 방법은 국내 기업 및 기관보다 더 "자동화"되고 "지능적"입니다

예를 들어 Scale AI는 Snorkel이라는 기술을 사용합니다. 이는 부정확한 여러 데이터 소스에서 고품질 라벨을 생성할 수 있는 약한 지도 학습을 기반으로 하는 데이터 라벨링 방법입니다.

동시에 스노클은 규칙, 모델 및 지식 기반과 같은 다양한 신호를 사용하여 각 데이터 포인트에 수동으로 직접 레이블을 지정하지 않고도 데이터에 레이블을 추가할 수 있습니다. 이를 통해 수동 주석 작성에 드는 비용과 시간을 크게 줄일 수 있습니다.

데이터 주석 비용이 감소하고 주기가 단축됨에 따라 이러한 경쟁 우위를 지닌 데이터 회사는 자율 주행, 대규모 언어 모델, 합성 데이터 등 고가치, 어렵고 임계값이 높은 세분화를 선택하여 지속적으로 자체 핵심 경쟁력 강화 및 차별화된 장점

이렇게 하면 강력한 기술 및 산업 장벽에 의해 "선두주자는 고통을 겪을 것"이라는 무임승차 딜레마도 해소되었습니다.

표준화와 소규모 작업장 비교

AI 자동 라벨링 기술은 여전히 ​​순수 수동 라벨링을 사용하는 라벨링 회사만 실제로 제거할 것임을 알 수 있습니다.

데이터 주석을 "노동집약적"인 산업처럼 들리지만, 세부적으로 살펴보면 고품질 데이터를 추구하는 것이 쉬운 일이 아니라는 것을 알게 됩니다.

해외 데이터 주석의 유니콘 Scale AI로 대표되는 Scale AI는 아프리카 등지의 값싼 인적 자원을 활용할 뿐만 아니라 수십 명의 박사 학위를 채용하여 다양한 산업 분야의 전문적인 데이터를 다루고 있습니다.

Scale AI가 OpenAI 등 대형 모델 기업에 제공하는 가장 큰 가치는 데이터 주석의 품질입니다

데이터 품질을 최대한 보장하기 위해 위에서 언급한 AI 지원 주석 사용 외에도 Scale AI의 또 다른 주요 혁신은 통합 데이터 플랫폼입니다.

이러한 플랫폼에는 Scale Audit, Scale Analytics, ScaleData Quality 등이 포함됩니다. 이러한 플랫폼을 통해 고객은 주석 처리 과정에서 다양한 지표를 모니터링 및 분석하고 주석 데이터를 검증 및 최적화하며 주석의 정확성, 일관성 및 완전성을 평가할 수 있습니다.

이러한 표준화되고 통일된 도구와 프로세스는 라벨링 회사에서 "조립 라인 공장"과 "수제 공방"을 구별하는 핵심 요소가 되었다고 할 수 있습니다.

이와 관련하여 대부분의 국내 주석 회사는 여전히 데이터 주석의 품질을 검토하기 위해 "수동 검토"를 사용하고 있습니다. Baidu와 같은 소수의 거대 기업만이 EasyData 지능형 데이터 서비스 플랫폼과 같은 고급 관리 및 평가 도구를 도입했습니다.

주석 결과 및 지표를 모니터링하고 분석하는 전문 도구가 없다면 핵심 데이터 검토 측면에서 데이터 품질 관리는 수동 경험에만 의존할 수 있습니다. 이 방법은 여전히 ​​워크샵과 같은 수준에 도달할 수 있습니다

이에 따라 바이두, 이웃집 토토로 데이터 등 점점 더 많은 중국 기업들이 머신러닝과 인공지능 기술을 활용해 데이터 주석의 효율성과 품질을 향상하고 인간-기계 협업 모델을 실현하기 시작하고 있습니다

이러한 관점에서 볼 때 인공지능 라벨링의 등장은 국내 라벨링 기업의 종말을 의미하는 것이 아니라 기술적인 내용이 부족한 전통적인 비효율적이고 값싸며 노동집약적인 라벨링 방식의 종말을 의미합니다

위 내용은 구글의 '큰 움직임'으로 얼마나 많은 AI 라벨링 회사가 사라질까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!