업계에서는 ChatGPT 스타일 검색이 Google의 비용을 10배 증가시켜 매년 수십억 달러의 추가 비용을 발생시킬 것이라고 말합니다.
2월 23일 뉴스, 인공지능 채팅 도구 ChatGPT가 계속 인기를 끌면서 구글, 마이크로소프트 등 검색 서비스를 제공하는 기업들이 인공지능 채팅 로봇 기능을 검색 인터페이스에 통합하기 시작했습니다. 그러나 이러한 거대 기술 기업의 경우 이 챗봇 스타일의 검색 엔진은 운영 비용을 10배 증가시켜 최대 수십억 달러의 지출을 초래하게 됩니다.
기술 업계의 임원들이 ChatGPT와 같은 AI를 운영하는 데 드는 높은 비용에 대해 논의하고 있습니다. OpenAI의 CEO인 Sam Altman은 트위터를 통해 사용자와의 대화당 ChatGPT의 계산 비용이 몇 센트 이상에 달해 "견딜 수 없다"고 말한 적이 있습니다.
구글 모회사 알파벳의 존 헤네시 회장은 인터뷰에서 미세 조정을 하면 비용을 빠르게 절감할 수 있지만 "대형 언어 모델 등 인공지능과 정보를 교환하는 데 드는 비용은 표준 키워드를 완성하는 데 드는 비용이 10개 이상일 수 있다"고 말했다. 검색 기능의 배입니다."
알파벳의 2022년 순이익은 600억 달러에 가까울 것입니다. 분석가들은 챗봇 기반 검색 사업이 광고 수익을 창출하더라도 이 기술이 알파벳의 수익에 부정적인 영향을 미치고 수십억 달러의 추가 비용이 발생할 수 있다고 말했습니다.
투자 은행 모건 스탠리는 지난해 구글의 3조 3000억 건의 검색 쿼리 비용이 쿼리당 약 0.55센트라고 추정합니다. 이 수치는 인공지능이 생성하는 텍스트의 양에 따라 더 많거나 적을 뿐입니다. 분석가들은 "ChatGPT와 같은 AI 챗봇이 오늘날 검색어의 절반을 50단어 답변으로 처리할 수 있다면" 2024년까지 Google에 연간 60억 달러의 추가 비용이 들 것이라고 예측합니다.
다른 분석가들도 비슷한 견해를 가지고 있습니다. 칩 기술에 중점을 둔 연구 및 자문 회사인 SemiAnalytic은 검색에 ChatGPT 스타일 인공 지능을 추가하면 Google의 새로운 Tensor 처리 장치 및 기타 최적화를 고려할 때 Alphabet에 30억 달러의 추가 비용이 발생할 수 있다고 말했습니다.
이런 종류의 인공 지능이 기존 검색 엔진보다 비싼 이유는 관련된 컴퓨팅 성능이 더 높기 때문입니다. 분석가들은 이런 종류의 인공지능은 수십억 달러의 비용이 드는 칩에 의존하며, 해당 비용은 수년의 서비스 수명에 걸쳐 분산되어야 한다고 말합니다. 소비되는 전기는 또한 기업 운영 비용과 탄소 배출 지표에 대한 압력을 증가시킬 것입니다.
인공 지능 검색어를 처리하는 과정을 "추론"이라고 합니다. 각 검색마다 인간의 두뇌를 모방한 거대한 신경망이 시작되어 많은 텍스트를 생성하고 사실 정보에 대한 대규모 검색 색인을 쿼리할 수도 있습니다.
Alphabet의 하니스는 “추론 비용을 줄여야 한다”며 “최악의 경우 수년이 걸릴 것”이라고 말했다.
높은 운영 비용에도 불구하고 Alphabet은 여전히 다른 기술 회사의 도전에 대응하는 방법을 고려해야 합니다. 이달 초 경쟁사인 마이크로소프트는 자사의 빙(Bing) 검색 엔진에 인공지능 챗봇을 내장할 계획을 선보였다. 유사웹은 마이크로소프트 경영진이 구글의 91% 검색 시장 점유율을 목표로 삼고 있다고 추정한다.
Microsoft 최고 재무 책임자(CFO) Amy Hood는 분석가들에게 향상된 Bing이 출시됨에 따라 사용자 수 증가와 광고 수익의 이점이 비용보다 더 크다고 말했습니다. Hood는 "우리가 논의하고 있는 서비스 비용에도 불구하고 매출총이익이 증가한다"고 말했습니다.
검색 엔진 You.com의 CEO인 Richard Socher와 또 다른 Google 경쟁자(Richard Socher)는 인공 지능 채팅을 추가한다고 말했습니다. 경험은 물론 차트 작성, 비디오 및 기타 생성 기술 애플리케이션으로 인해 운영 비용이 30%~50% 증가합니다. 하지만 그는 "시간이 지날수록 기술은 점점 더 저렴해질 것"이라고 말했다.
구글에 가까운 관계자는 운영 효율성과 사용량에 따라 크게 달라질 수 있기 때문에 챗봇의 구체적인 비용을 단정하기는 이르다고 경고했다. 관련된 기술과 검색 제품은 오랫동안 인공 지능에 의해 구동되었습니다.
Accenture 최고 기술 책임자인 Paul Daugherty는 수십억 명의 사용자를 보유한 검색 대기업이 인공 지능 챗봇을 즉시 출시하지 않은 두 가지 주요 이유 중 하나가 비용이라고 말했습니다.
"하나는 정확성이고, 두 번째는 올바른 방식으로 확장해야 한다는 것입니다."라고 그는 말했습니다.
수년 동안 Alphabet과 다른 회사의 연구원들은 대규모 언어 모델을 더 저렴하게 훈련하고 실행하는 방법을 연구해 왔습니다.
대형 모델에는 일반적으로 추론을 위해 더 많은 칩이 필요하므로 실행 비용이 더 많이 듭니다. 소비자를 끌어들이는 인공지능 모델은 상당히 큽니다. 예를 들어 ChatGPT 모델은 1,750억 개의 매개변수를 가지고 있으며 각 작업의 비용은 사용자의 쿼리 길이에 따라 계속 변합니다.
한 기술 고위 임원은 수백만 명의 소비자가 이런 종류의 인공 지능을 사용하도록 하는 데 여전히 비용이 너무 많이 든다고 말합니다. "이러한 모델은 매우 비싸기 때문에 다음 발전 단계에서는 이러한 모델을 훈련하고 추론하는 비용을 낮추어 모든 애플리케이션에 사용할 수 있게 될 것입니다."라고 이 문제에 대해 잘 아는 익명의 한 관계자는 말했습니다. OpenAI의 과학자들은 이제 복잡한 코드를 통해 추론 비용을 최적화하여 칩 작동 효율성을 향상시키는 방법을 알아냈습니다.
오랜 질문은 정확도에 영향을 주지 않고 인공 지능 모델의 매개변수 수를 10배, 심지어 100배까지 줄이는 방법입니다.
한때 인텔의 인공지능 칩 프로젝트를 이끌었던 나빈 라오(Naveen Rao)는 "(매개변수)를 가장 효과적으로 제거하는 방법은 여전히 열려 있는 질문입니다."라고 말했습니다.
동시에 월 20달러의 구독료를 부과하는 OpenAI의 업그레이드된 ChatGPT 서비스 등 일부 회사에서는 인공지능 검색을 유료로 사용하는 것을 고려하고 있습니다. 기술 전문가들은 또한 한 가지 해결 방법은 더 작은 AI 모델을 더 간단한 작업에 적용하는 것이라고 말하는데, 이는 Alphabet이 탐구하는 접근 방식입니다.
Alphabet은 이번 달에 LaMDA 인공 지능 모델의 "더 작은 버전"이 챗봇 Bard를 구동할 것이라고 말했습니다. "훨씬 적은 컴퓨팅 성능을 요구하므로 더 많은 사용자에게 확장할 수 있습니다."
지난 주에 챗봇에 대해 물었을 때. 컨퍼런스에서 ChatGPT와 Bader처럼 Hannis는 전능한 시스템보다는 더 많은 타겟 모델이 "비용 절감"에 도움이 될 것이라고 말했습니다.
위 내용은 업계에서는 ChatGPT 스타일 검색이 Google의 비용을 10배 증가시켜 매년 수십억 달러의 추가 비용을 발생시킬 것이라고 말합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

핫 AI 도구

Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool
무료로 이미지를 벗다

Clothoff.io
AI 옷 제거제

AI Hentai Generator
AI Hentai를 무료로 생성하십시오.

인기 기사

뜨거운 도구

메모장++7.3.1
사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경

드림위버 CS6
시각적 웹 개발 도구

SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)

뜨거운 주제











DALL-E 3는 이전 모델보다 대폭 개선된 모델로 2023년 9월 공식 출시되었습니다. 복잡한 디테일의 이미지를 생성할 수 있는 현재까지 최고의 AI 이미지 생성기 중 하나로 간주됩니다. 그러나 출시 당시에는 제외되었습니다.

이 사이트는 6월 27일에 Jianying이 ByteDance의 자회사인 FaceMeng Technology에서 개발한 비디오 편집 소프트웨어라고 보도했습니다. 이 소프트웨어는 Douyin 플랫폼을 기반으로 하며 기본적으로 플랫폼 사용자를 위한 짧은 비디오 콘텐츠를 제작합니다. Windows, MacOS 및 기타 운영 체제. Jianying은 멤버십 시스템 업그레이드를 공식 발표하고 지능형 번역, 지능형 하이라이트, 지능형 패키징, 디지털 인간 합성 등 다양한 AI 블랙 기술을 포함하는 새로운 SVIP를 출시했습니다. 가격면에서 SVIP 클리핑 월 요금은 79위안, 연간 요금은 599위안(본 사이트 참고: 월 49.9위안에 해당), 월간 연속 구독료는 월 59위안, 연간 연속 구독료는 59위안입니다. 연간 499위안(월 41.6위안)입니다. 또한, 컷 관계자는 "사용자 경험 향상을 위해 기존 VIP에 가입하신 분들도

검색 강화 생성 및 의미론적 메모리를 AI 코딩 도우미에 통합하여 개발자 생산성, 효율성 및 정확성을 향상시킵니다. EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG에서 번역됨, 저자 JanakiramMSV. 기본 AI 프로그래밍 도우미는 자연스럽게 도움이 되지만, 소프트웨어 언어에 대한 일반적인 이해와 소프트웨어 작성의 가장 일반적인 패턴에 의존하기 때문에 가장 관련성이 높고 정확한 코드 제안을 제공하지 못하는 경우가 많습니다. 이러한 코딩 도우미가 생성한 코드는 자신이 해결해야 할 문제를 해결하는 데 적합하지만 개별 팀의 코딩 표준, 규칙 및 스타일을 따르지 않는 경우가 많습니다. 이로 인해 코드가 애플리케이션에 승인되기 위해 수정되거나 개선되어야 하는 제안이 나타나는 경우가 많습니다.

LLM(대형 언어 모델)은 대규모 텍스트 데이터베이스에서 훈련되어 대량의 실제 지식을 습득합니다. 이 지식은 매개변수에 내장되어 필요할 때 사용할 수 있습니다. 이러한 모델에 대한 지식은 훈련이 끝나면 "구체화"됩니다. 사전 훈련이 끝나면 모델은 실제로 학습을 중단합니다. 모델을 정렬하거나 미세 조정하여 이 지식을 활용하고 사용자 질문에 보다 자연스럽게 응답하는 방법을 알아보세요. 그러나 때로는 모델 지식만으로는 충분하지 않을 때도 있으며, 모델이 RAG를 통해 외부 콘텐츠에 접근할 수 있더라도 미세 조정을 통해 모델을 새로운 도메인에 적응시키는 것이 유익한 것으로 간주됩니다. 이러한 미세 조정은 인간 주석 작성자 또는 기타 LLM 생성자의 입력을 사용하여 수행됩니다. 여기서 모델은 추가적인 실제 지식을 접하고 이를 통합합니다.

편집자 |ScienceAI 질문 응답(QA) 데이터 세트는 자연어 처리(NLP) 연구를 촉진하는 데 중요한 역할을 합니다. 고품질 QA 데이터 세트는 모델을 미세 조정하는 데 사용될 수 있을 뿐만 아니라 LLM(대형 언어 모델)의 기능, 특히 과학적 지식을 이해하고 추론하는 능력을 효과적으로 평가하는 데에도 사용할 수 있습니다. 현재 의학, 화학, 생물학 및 기타 분야를 포괄하는 과학적인 QA 데이터 세트가 많이 있지만 이러한 데이터 세트에는 여전히 몇 가지 단점이 있습니다. 첫째, 데이터 형식이 비교적 단순하고 대부분이 객관식 질문이므로 평가하기 쉽지만 모델의 답변 선택 범위가 제한되고 모델의 과학적 질문 답변 능력을 완전히 테스트할 수 없습니다. 이에 비해 개방형 Q&A는

Editor | KX 약물 연구 및 개발 분야에서 단백질과 리간드의 결합 친화도를 정확하고 효과적으로 예측하는 것은 약물 스크리닝 및 최적화에 매우 중요합니다. 그러나 현재 연구에서는 단백질-리간드 상호작용에서 분자 표면 정보의 중요한 역할을 고려하지 않습니다. 이를 기반으로 Xiamen University의 연구자들은 처음으로 단백질 표면, 3D 구조 및 서열에 대한 정보를 결합하고 교차 주의 메커니즘을 사용하여 다양한 양식 특징을 비교하는 새로운 다중 모드 특징 추출(MFE) 프레임워크를 제안했습니다. 조정. 실험 결과는 이 방법이 단백질-리간드 결합 친화도를 예측하는 데 있어 최첨단 성능을 달성한다는 것을 보여줍니다. 또한 절제 연구는 이 프레임워크 내에서 단백질 표면 정보와 다중 모드 기능 정렬의 효율성과 필요성을 보여줍니다. 관련 연구는 "S"로 시작된다

1일 본 사이트 소식에 따르면 SK하이닉스는 오늘(1일) 블로그 게시물을 통해 8월 6일부터 8일까지 미국 캘리포니아주 산타클라라에서 열리는 글로벌 반도체 메모리 서밋 FMS2024에 참가한다고 밝혔다. 많은 새로운 세대의 제품. 인공지능 기술에 대한 관심이 높아지고 있는 가운데, 이전에는 주로 NAND 공급업체를 대상으로 한 플래시 메모리 서밋(FlashMemorySummit)이었던 미래 메모리 및 스토리지 서밋(FutureMemoryandStorage) 소개를 올해는 미래 메모리 및 스토리지 서밋(FutureMemoryandStorage)으로 명칭을 변경했습니다. DRAM 및 스토리지 공급업체와 더 많은 플레이어를 초대하세요. SK하이닉스가 지난해 출시한 신제품

7월 5일 이 웹사이트의 소식에 따르면 글로벌파운드리는 올해 7월 1일 보도자료를 통해 타고르 테크놀로지(Tagore Technology)의 전력질화갈륨(GaN) 기술 및 지적재산권 포트폴리오 인수를 발표하고 자동차와 인터넷 시장 점유율 확대를 희망하고 있다고 밝혔다. 더 높은 효율성과 더 나은 성능을 탐구하기 위한 사물 및 인공 지능 데이터 센터 응용 분야입니다. 생성 AI와 같은 기술이 디지털 세계에서 계속 발전함에 따라 질화갈륨(GaN)은 특히 데이터 센터에서 지속 가능하고 효율적인 전력 관리를 위한 핵심 솔루션이 되었습니다. 이 웹사이트는 이번 인수 기간 동안 Tagore Technology의 엔지니어링 팀이 GLOBALFOUNDRIES에 합류하여 질화갈륨 기술을 더욱 개발할 것이라는 공식 발표를 인용했습니다. G
