기술 주변기기 일체 포함 Google과 OpenAI 학자들이 AI에 대해 이야기합니다. 언어 모델은 수학을 '정복'하기 위해 열심히 노력하고 있습니다.

Google과 OpenAI 학자들이 AI에 대해 이야기합니다. 언어 모델은 수학을 '정복'하기 위해 열심히 노력하고 있습니다.

Apr 13, 2023 am 11:37 AM
ai 수학

컴퓨터가 무엇을 잘하느냐고 묻는다면, 그 중에서도 수학이 반드시 꼽힐 것입니다. 오랜 기간의 연구 끝에 최고의 학자들이 수학 계산 분야의 컴퓨터 개발 연구에서 놀라운 결과를 얻었습니다.

지난해 캘리포니아대학교 버클리캠퍼스, OpenAI, Google 연구진이 언어 모델 분야에서 큰 진전을 이루었습니다. 그러나 지금까지 언어 모델은 "Alice는 Bob보다 5개의 공을 더 가지고 있고, Charlie에게 4개의 공을 준 후 Bob은 2개의 공을 가지고 있습니다. Alice에게 공이 몇 개 있는지 물어보세요"와 같은 간단하고 구두로 설명된 수학적 문제를 해결하지 못했습니다. ?" 이는 언어 모델이 정답을 제공하는 데 약간 "어려울" 수 있습니다.

Google의 기계 학습 전문가인 Guy Gur-Ari는 "컴퓨터가 수학을 매우 잘한다는 것은 컴퓨터가 특정한, 특정한 일을 매우 잘한다는 의미입니다."라고 말했습니다. 컴퓨터가 연산에 능숙한 것은 사실이지만 특정 모드를 벗어나면 컴퓨터는 무력하고 간단한 텍스트 설명 질문에 답할 수 없습니다.

Google 연구원 Ethan Dyer는 다음과 같이 말했습니다. 수학 연구를 하는 사람들은 엄격한 추론 시스템을 가지고 있으며, 그들이 아는 것과 이해하지 못하는 것 사이에는 분명한 격차가 있습니다.

단어 문제나 양적 추론 문제를 푸는 것은 다른 문제와 달리 견고함과 엄격함이 필요하기 때문에 까다롭습니다. 프로세스의 어느 단계에서든 문제가 발생하면 잘못된 답변으로 이어질 것입니다. DALL·E는 그림이 인상적입니다. 생성되는 이미지가 손가락이 없고 눈이 이상해 보일 때도 있지만... 우리 모두는 이를 받아들일 수 있지만 수학에서는 실수를 하기 때문에 허용 오차는 매우 작습니다. OpenAI의 머신러닝 전문가인 Vineet Kosaraju도 "언어 모델에서 발생한 수학적 오류(10을 10이 아닌 1과 0으로 오해하는 등)에 대한 우리의 허용 오차는 여전히 상대적으로 작습니다.

"라고 표현했습니다. 우리는 수학이 독립적이고 매우 흥미롭기 때문에 공부합니다."라고 OpenAI의 기계 학습 전문가인 Karl Cobbe는 말했습니다.

머신 러닝 모델은 더 큰 데이터 샘플을 대상으로 학습되면서 더욱 강력해지고 오류가 줄어듭니다. 그러나 모델 확장은 정량적 추론을 통해서만 가능한 것으로 보입니다. 연구자들은 언어 모델이 저지른 실수에는 좀 더 표적화된 접근 방식이 필요한 것 같다는 것을 깨달았습니다.

지난해 UC Berkeley와 OpenAI의 두 연구팀은 각각 데이터 세트 MATH와 GSM8K를 출시했습니다. 이 두 데이터 세트에는 기하학, 대수학, 기초 수학 등 수천 개의 수학 문제가 포함되어 있습니다. 수학 분야에서 일하는 AI 안전 센터의 연구원인 스티븐 바사트(Steven Basart)는 "우리는 이것이 데이터 세트에 문제가 있는지 확인하고 싶었습니다."라고 말했습니다. 언어 모델은 단어 문제에 능숙하지 않은 것으로 알려져 있습니다. 더 나은 형식의 더 큰 데이터 세트를 도입하면 이 문제를 해결할 수 있습니까?

MATH 데이터 세트에서 최고의 언어 모델은 인간 대학원생의 40% 정확도와 올림픽 챔피언의 90% 정확도에 비해 7%의 정확도를 달성했습니다. GSM8K 데이터세트(초등학교 수준 문제)에서 모델은 20% 정확도를 달성했습니다. 실험에서 OpenAI는 미세 조정(fine-tuning)과 검증(verification)이라는 두 가지 기술을 사용했으며, 그 결과 모델이 자체 오류의 예를 많이 볼 수 있다는 것이 귀중한 발견이었습니다.

당시 OpenAI의 모델은 GSM8K에서 80%의 정확도를 달성하기 위해 100배 더 많은 데이터를 학습해야 했습니다. 하지만 올해 6월 구글은 정확도 78%를 달성한 미네르바(Minerva)를 출시했다. 이번 결과는 예상을 뛰어넘는 것으로, 예상보다 빨리 나왔다고 연구진은 밝혔다.

Google과 OpenAI 학자들이 AI에 대해 이야기합니다. 언어 모델은 수학을 정복하기 위해 열심히 노력하고 있습니다.

논문 주소: https://arxiv.org/pdf/2206.14858.pdf

Minerva는 Google이 자체 개발한 PaLM(Pathways Language Model)을 기반으로 하며 arXiv, LaTeX 및 기타 수학적 형식을 포함한 더 많은 수학적 데이터 세트를 보유하고 있습니다. Minerva가 사용하는 또 다른 전략은 Minerva가 더 큰 문제를 작은 조각으로 나누는 사고 연쇄 유도입니다. 또한 Minerva는 모델에 하나의 답을 제시하는 대신 100개의 답을 제시하도록 요청하는 다수결 투표를 사용합니다. 이 답변 중에서 미네르바는 가장 일반적인 답변을 선택합니다.

Minerva가 MATH에서 50%의 정확도를 달성하고 GSM8K 및 MMLU(화학 및 생물학을 포함한 보다 일반적인 STEM 문제 세트)에서 80%에 가까운 정확도를 달성하는 등 이러한 새로운 전략의 이점은 엄청납니다. Minerva가 약간 조정된 문제를 다시 실행하도록 요청받았을 때에도 똑같이 잘 수행되었으며, 이는 그 능력이 단지 기억에서 나오는 것이 아니라는 것을 보여주었습니다.

미네르바는 이상하고 혼란스러운 추론을 가지고도 올바른 답을 찾을 수 있습니다. Minerva와 같은 모델은 인간과 동일한 답에 도달할 수 있지만 실제로 따르는 프로세스는 매우 다를 수 있습니다.

Google 머신러닝 전문가인 Ethan Dyer는 "수학에 종사하는 사람들은 엄격한 추론 시스템을 가지고 있으며, 무엇을 아는 것과 모르는 것에는 분명한 차이가 있다는 생각이 있다고 생각합니다. 그러나 사람들에게 주어진 답변은 다음과 같습니다." 일관성이 없고, 실수가 발생하며, 핵심 개념이 적용되지 않습니다. 머신러닝 분야에서는 경계가 모호합니다.

위 내용은 Google과 OpenAI 학자들이 AI에 대해 이야기합니다. 언어 모델은 수학을 '정복'하기 위해 열심히 노력하고 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.

핫 AI 도구

Undresser.AI Undress

Undresser.AI Undress

사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover

AI Clothes Remover

사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool

Undress AI Tool

무료로 이미지를 벗다

Clothoff.io

Clothoff.io

AI 옷 제거제

AI Hentai Generator

AI Hentai Generator

AI Hentai를 무료로 생성하십시오.

인기 기사

R.E.P.O. 에너지 결정과 그들이하는 일 (노란색 크리스탈)
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 최고의 그래픽 설정
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. 아무도들을 수없는 경우 오디오를 수정하는 방법
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25 : Myrise에서 모든 것을 잠금 해제하는 방법
3 몇 주 전 By 尊渡假赌尊渡假赌尊渡假赌

뜨거운 도구

메모장++7.3.1

메모장++7.3.1

사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전

SublimeText3 중국어 버전

중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기

스튜디오 13.0.1 보내기

강력한 PHP 통합 개발 환경

드림위버 CS6

드림위버 CS6

시각적 웹 개발 도구

SublimeText3 Mac 버전

SublimeText3 Mac 버전

신 수준의 코드 편집 소프트웨어(SublimeText3)

vue.js의 객체로 문자열을 변환하는 데 어떤 방법이 사용됩니까? vue.js의 객체로 문자열을 변환하는 데 어떤 방법이 사용됩니까? Apr 07, 2025 pm 09:39 PM

표준 JSON 문자열의 경우 vue.js의 객체로 문자열을 변환 할 때 JSON.PARSE ()가 선호됩니다. 비표준 JSON 문자열의 경우, 정규 표현식을 사용하여 문자열을 처리하고 형식 또는 디코딩 된 URL 인코딩에 따라 방법을 줄일 수 있습니다. 문자열 형식에 따라 적절한 방법을 선택하고 버그를 피하기 위해 보안 및 인코딩 문제에주의를 기울이십시오.

vue 및 요소 -UI 캐스케이드 드롭 다운 박스 V- 모델 바인딩 vue 및 요소 -UI 캐스케이드 드롭 다운 박스 V- 모델 바인딩 Apr 07, 2025 pm 08:06 PM

vue 및 요소 -UI 계단식 드롭 다운 박스 V- 모델 바인딩 공통 핏 포인트 : V- 모델은 문자열이 아닌 계단식 선택 상자의 각 레벨에서 선택된 값을 나타내는 배열을 바인딩합니다. selectedOptions의 초기 값은 널 또는 정의되지 않은 빈 배열이어야합니다. 동적 데이터로드는 비동기식으로 데이터 업데이트를 처리하기 위해 비동기식 프로그래밍 기술을 사용해야합니다. 거대한 데이터 세트의 경우 가상 스크롤 및 게으른로드와 같은 성능 최적화 기술을 고려해야합니다.

설치 후 MySQL을 사용하는 방법 설치 후 MySQL을 사용하는 방법 Apr 08, 2025 am 11:48 AM

이 기사는 MySQL 데이터베이스의 작동을 소개합니다. 먼저 MySQLworkBench 또는 명령 줄 클라이언트와 같은 MySQL 클라이언트를 설치해야합니다. 1. MySQL-Uroot-P 명령을 사용하여 서버에 연결하고 루트 계정 암호로 로그인하십시오. 2. CreateABase를 사용하여 데이터베이스를 작성하고 데이터베이스를 선택하십시오. 3. CreateTable을 사용하여 테이블을 만들고 필드 및 데이터 유형을 정의하십시오. 4. InsertInto를 사용하여 데이터를 삽입하고 데이터를 쿼리하고 업데이트를 통해 데이터를 업데이트하고 DELETE를 통해 데이터를 삭제하십시오. 이러한 단계를 마스터하고 일반적인 문제를 처리하는 법을 배우고 데이터베이스 성능을 최적화하면 MySQL을 효율적으로 사용할 수 있습니다.

Laravel 's geospatial : 대화식지도의 최적화 및 많은 양의 데이터 Laravel 's geospatial : 대화식지도의 최적화 및 많은 양의 데이터 Apr 08, 2025 pm 12:24 PM

7 백만 레코드를 효율적으로 처리하고 지리 공간 기술로 대화식지도를 만듭니다. 이 기사는 Laravel과 MySQL을 사용하여 7 백만 개 이상의 레코드를 효율적으로 처리하고 대화식지도 시각화로 변환하는 방법을 살펴 봅니다. 초기 챌린지 프로젝트 요구 사항 : MySQL 데이터베이스에서 7 백만 레코드를 사용하여 귀중한 통찰력을 추출합니다. 많은 사람들이 먼저 프로그래밍 언어를 고려하지만 데이터베이스 자체를 무시합니다. 요구 사항을 충족시킬 수 있습니까? 데이터 마이그레이션 또는 구조 조정이 필요합니까? MySQL이 큰 데이터로드를 견딜 수 있습니까? 예비 분석 : 주요 필터 및 속성을 식별해야합니다. 분석 후, 몇 가지 속성만이 솔루션과 관련이 있음이 밝혀졌습니다. 필터의 타당성을 확인하고 검색을 최적화하기위한 제한 사항을 설정했습니다. 도시를 기반으로 한지도 검색

vue.js 문자열 유형 배열을 객체 배열로 변환하는 방법은 무엇입니까? vue.js 문자열 유형 배열을 객체 배열로 변환하는 방법은 무엇입니까? Apr 07, 2025 pm 09:36 PM

요약 : vue.js 문자열 배열을 객체 배열로 변환하는 다음 방법이 있습니다. 기본 메소드 : 정기적 인 형식의 데이터에 맞게 맵 함수를 사용하십시오. 고급 게임 플레이 : 정규 표현식을 사용하면 복잡한 형식을 처리 할 수 ​​있지만 신중하게 작성하고 고려해야합니다. 성능 최적화 : 많은 양의 데이터를 고려하면 비동기 작업 또는 효율적인 데이터 처리 라이브러리를 사용할 수 있습니다. 모범 사례 : 명확한 코드 스타일, 의미있는 변수 이름과 주석을 사용하여 코드를 간결하게 유지하십시오.

Vue Axios의 시간 초과를 설정하는 방법 Vue Axios의 시간 초과를 설정하는 방법 Apr 07, 2025 pm 10:03 PM

vue axios의 타임 아웃을 설정하려면 axios 인스턴스를 생성하고 시간 초과 옵션을 지정할 수 있습니다. 글로벌 설정에서 : vue.prototype. $ axios = axios.create ({timeout : 5000}); 단일 요청 : this. $ axios.get ( '/api/user', {timeout : 100000}).

원격 선임 백엔드 엔지니어 (플랫폼)에는 원이 필요합니다 원격 선임 백엔드 엔지니어 (플랫폼)에는 원이 필요합니다 Apr 08, 2025 pm 12:27 PM

원격 선임 백엔드 엔지니어 구직 회사 : 원 위치 : 원격 사무실 직무 유형 : 전임 급여 : $ 130,000- $ 140,000 직무 설명 전체 소프트웨어 개발 라이프 사이클을 다루는 Circle Mobile 애플리케이션 및 공개 API 관련 기능의 연구 및 개발에 참여합니다. 주요 책임은 독립적으로 Rubyonrails를 기반으로 개발 작업을 완료하고 React/Redux/Relay 프론트 엔드 팀과 협력합니다. 웹 애플리케이션의 핵심 기능 및 개선을 구축하고 기능 설계 프로세스 전반에 걸쳐 설계자 및 리더십과 긴밀히 협력하십시오. 긍정적 인 개발 프로세스를 촉진하고 반복 속도를 우선시하십시오. 6 년 이상의 복잡한 웹 애플리케이션 백엔드가 필요합니다.

MySQL을 해결하는 방법을 시작할 수 없습니다 MySQL을 해결하는 방법을 시작할 수 없습니다 Apr 08, 2025 pm 02:21 PM

MySQL 시작이 실패하는 데는 여러 가지 이유가 있으며 오류 로그를 확인하여 진단 할 수 있습니다. 일반적인 원인에는 포트 충돌 (포트 점유 체크 및 구성 수정), 권한 문제 (서비스 실행 사용자 권한 실행), 구성 파일 오류 (파라미터 설정 확인), 데이터 디렉토리 손상 (데이터 복원 또는 테이블 공간 재건), IBDATA 테이블 공간 문제 (IBDATA1 파일 확인), 플러그로드 (확인 오류 로그)가 포함됩니다. 문제를 해결할 때 오류 로그를 기반으로 문제를 분석하고 문제의 근본 원인을 찾고 문제를 방지하고 해결하기 위해 정기적으로 데이터를 백업하는 습관을 개발해야합니다.

See all articles