GPT-5의 위협이 압도적으로 커졌습니다.
GPT-4 탄생 이후 AI가 인간 사회에 미칠 수 있는 파괴적인 영향은 이미 많은 업계 리더들을 놀라게 했습니다.
최근 전 세계가 ChatGPT를 공격하고 있는 것 같습니다.
얼마 전 머스크, 튜링상 수상자인 벤지오(Bengio) 및 기타 유명 인사들이 공동으로 첨단 AI 연구 및 개발을 중단하라는 공개 서한을 시작했습니다. 이제 서명 수가 9,000개 이상으로 늘어났습니다.
직후 미국 비영리단체인공지능디지털정책센터(CAIDP)도 연방거래위원회(FTC)에 OpenAI가 소비자 보호 규정을 위반했는지 조사하고 더 이상의 GPT 출시를 금지해 줄 것을 요청했습니다. -4.
그리고 이탈리아는 ChatGPT를 전국적으로 직접 금지했으며 OpenAI에게 20일의 조정 기간만 주었습니다. 적합한 솔루션을 찾지 못하면 최대 2천만 유로의 벌금을 지불해야 합니다.
흥미로운 점은 이탈리아가 이 조치를 취한 이후 일부 국가에서도 ChatGPT에 대한 조치를 취하기 위해 노력하고 준비하고 있다는 것입니다.
프랑스와 아일랜드의 개인 정보 보호 규제 당국은 조사에 대한 자세한 내용을 알아보기 위해 이탈리아 당국에 연락했습니다.
독일 연방 데이터 보호 국장 울리히 켈버(Ulrich Kelber)는 "원칙적으로 독일도 유사한 절차를 채택하는 것이 가능합니다."라고 말했습니다.
또한 유럽 연합에서도 ChatGPT를 높은 수준으로 취급하는 계획 초안을 제안했습니다. -위험 AI 시스템.
그리고 바로 오늘 바이든 미국 대통령도 백악관에서 기술 자문단과 회의를 열어 AI가 인간과 사회에 가져오는 위험과 기회에 대해 논의했습니다. 그리고 국가 안보.
로이터 통신에 따르면 바이든은 대통령 과학기술자문위원회(PCAST) 회의에서 "내 생각에는 기술 기업들은 자사 제품이 공개되기 전에 안전을 보장할 책임이 있다"고 강조했다. ."
AI가 위험한지 묻는 질문에 그는 "아직 지켜봐야 할 것 같다. 그러한 가능성이 있다"고 말했다.
바이든은 강력한 기술이 보호 조치 없이 어떤 해를 끼칠 것인가? 이미 명백하다. 미디어에서. ”
그는 기술 회사가 수집하는 개인 데이터를 제한하고, 청소년을 대상으로 한 광고를 금지하고, 제품 개발에서 건강과 안전을 우선시하는 초당적인 개인 정보 보호 법안을 의회에 통과시킬 것을 다시 한번 촉구했습니다.
이 소식에 영향을 받아 Biden이 이번 회의를 소집하기 전에 AI 회사의 주가가 급락했습니다. 
ChatGPT 컨셉 주식 C3.ai의 주가는 계속 하락하여 US$24.95로 26.34% 하락했으며, 시장 가치는 US$28억으로 주식 상장 이후 최대 장중 하락세를 기록했습니다.
앞서 마이크로소프트가 OpenAI와 수십억 달러 규모의 파트너십을 발표한 이후, C3.ai는 AI 분야의 많은 기업들과 마찬가지로 올해부터 월스트리트에서 가장 핫한 기업 중 하나로 자리 잡았습니다. , C3.ai .ai 주가가 130% 이상 올랐습니다.
현지 시간으로 4월 3일 Gates는 Reuters와의 인터뷰에서 수천 명의 전문가가 서명한 공개 서한을 공개적으로 논의했습니다.
AI에 대한 모라토리엄을 촉구하는 내용 "도전을 해결"하려면 인공지능 개발을 어떻게 가장 잘 활용할 것인지에 초점을 맞추는 것이 가장 좋습니다. AI 연구 개발에 대한 세계적인 유예가 어떻게 달성될지는 이해하기 어렵습니다.
그는 이어 “특정 그룹에게 일시 중지를 요청한다고 문제가 해결될 것이라고 생각하지 않습니다. 분명히 이러한 것들은 큰 이점을 가지고 있습니다. 우리가 해야 할 일은 까다로운 영역을 식별하는 것입니다.
게이츠는 인공지능의 강력한 지지자입니다.
공동 공개 서한이 시작되기 하루 전인 3월 21일, 게이츠는 "인공지능 시대가 시작됐다"는 내용의 블로그 글을 게재했다.
세계 최악의 불평등을 줄이는 데 인공지능을 사용해야 한다고 언급했습니다.
그는 자신의 블로그에서 인공지능을 칭찬하며 "AI 시대가 시작되었고, 인공지능 혁명은 휴대폰과 인터넷의 탄생만큼 중요하다. 이 두 가지가 혁명적인 기술 발전이다.
지금까지 Microsoft는 OpenAI에 수십억 달러를 투자했습니다. OpenAI는 Microsoft Bing, Edge, Microsoft 365 및 기타 제품을 위한 AI 기술을 구축하고 있습니다.
인터뷰에서 게이츠는 AI 개발 유예의 타당성에 의문을 제기하고 이를 구현하는 방법을 알고 싶었습니다.
"모든 유예 조치의 세부 사항은 복잡하고 시행하기 어려울 것입니다. 누가 중단할지, 세계 모든 국가가 중단에 동의할지, 그리고 왜 중단할지에 대해 이야기하는 것인지 잘 모르겠습니다. 이 분야에서는 의견이 많이 엇갈린다. "
만약 전 세계가 슈퍼 AI를 상대로 강력한 적과 마주하더라도, 그럴 수도 있다. 상황을 빨리 멈추기에는 너무 늦었습니다.
오늘날의 AI는 스스로 진화하는 법을 배웠기 때문이죠!
증거가 있습니다: GPT-4가 스스로 개선되고 있습니다!
얼마 전, 전 Google Brain 연구 엔지니어인 Eric Zhang은 놀라운 사실을 발견했습니다. GPT-4는 자체 결과를 합리적인 방식으로 비판할 수 있다는 것입니다.
대형 언어 모델(LLM)에 대한 완벽한 힌트를 찾는 대신(단계적으로 생각해 봅시다) LLM이 자체 출력을 평가하고 자체 실수를 즉시 수정하도록 하세요.
전직 Tesla AI 이사이자 OpenAI 연구 과학자인 Andrej Karpathy도 GPT-4의 완전한 기능을 아직 보지 못했다는 좋은 예라고 칭찬했습니다.
Eric Zhang의 예에서 Microsoft 연구원이 GPT-4가 "운율이 없는" 시를 쓸 수 없다고 트윗하는 것을 보았습니다.
그러나 GPT-4가 작업을 완료했는지 다시 물었을 때. 이때 사과 후 무운시를 생성했습니다! 만점이라고 할 수 있습니다.
이것은 GPT-4가 "반사"하는 능력을 가지고 있다는 것을 증명합니다.
최근 노스이스턴 대학교, MIT 및 미국의 다른 기관의 연구원들이 Reflexion을 제안했습니다. 이 방법은 에이전트에 동적 메모리와 자기 성찰 기능을 제공합니다.
논문 주소: https://arxiv.org/abs/2303.11366
방법의 효율성을 검증하기 위해 연구자들은 에이전트가 의사 결정 작업을 완료하는 능력을 평가했습니다. AlfWorld 환경과 HotPotQA 환경에서 지식 집약적인 검색 기반 질문 및 답변 작업을 완료하는 능력입니다.
이 두 작업의 성공률은 각각 97%와 51%입니다.
Reflexion 에이전트의 전체 아키텍처
일부 네티즌들은 GPT-4에게 "왜 틀렸나요?"를 반성하고 스스로 새로운 프롬프트를 생성하도록 요청할 수 있다고 말했습니다. 결과가 정확해질 때까지 이 오류 원인을 고려하여 GPT-4의 성능을 무려 30%나 향상시켰습니다.
또한 논문에서는 모델의 코드 작성 능력을 테스트할 때 Reflexion+GPT-4도 기존 GPT-4보다 훨씬 우수하다고 지적합니다.
장에릭이
이제 기발한 "접두사 힌트 프로젝트" 대신 "접미사 힌트 프로젝트"를 생각해 볼 수 있을 것 같습니다. 이는 LLM이 이전에 생성된 솔루션에서 수정 사항과 불일치를 찾는 데 도움이 됩니다.
자기계발을 통해 스스로 똑똑해지는 GPT-4의 능력에 대해 한 네티즌이 영상 요약을 만들었습니다.
Meta 연구자들은 ChatGPT의 "약점"을 직접적으로 겨냥하여 대규모 언어 모델이 스스로 도구 사용 방법을 배울 수 있도록 하는 새로운 논문 Toolformer를 2월에 발표했습니다.
논문 주소: https://arxiv.org/abs/2302.04761
Meta의 생각에 따르면 ChatGPT와 같은 대규모 언어 모델은 부족한 부분을 보완할 수 있습니다.
예를 들어, 수학을 모르는 경우 계산기를 꺼내고, 최신 정보가 필요한 경우 검색 엔진에 연결하기만 하면 원하는 콘텐츠를 직접 던질 수도 있습니다. 그것을 번역하십시오.
이 논문은 나오자마자 입소문이 났습니다. 많은 AI 연구자들은 이 논문이 사람들의 마음을 열어주고 대규모 언어 모델이 미래의 모든 것의 출발점이 될 수 있게 했다고 말했습니다.
마찬가지로 최근 절강대학교와 마이크로소프트 리서치 아시아가 발표한 논문 "Jarvis" HuggingGPT가 업계에서 큰 주목을 받았습니다.
논문 주소: https://arxiv.org/abs/2303.17580
논문에서 연구원이 제안한 HuggingGPT는 ChatGPT를 컨트롤러로 사용하여 HuggingFace 커뮤니티의 다양한 AI 모델을 연결합니다. 다중 양식과 같은 다양하고 복잡한 작업을 완료합니다.
일부 네티즌들은 최초의 일반 인공지능(AGI)이 예상보다 빨리 등장하지 않을까 강하게 의심스럽다고 말했습니다. 일련의 좁은 인공 지능과 실용적인 도구를 지능적으로 함께 연결할 수 있는 "접착제" AI에 의존할 것입니다.
최근에 한 개발자가 GPT-4에서 자동으로 코드를 생성할 수 있는 프로젝트인 Auto-GPT를 만들었습니다.
코드를 실행할 수도 있습니다. 후속 개선 사항에서 Auto-GPT는 GPT-4를 사용하여 코드를 작성하고 Python 스크립트를 실행할 수 있습니다. 이를 통해 자체적으로 디버깅, 개발 및 개선을 반복적으로 수행할 수 있습니다...
Auto-GPT를 사용하면 사람들은 GPT-4의 강력한 기능을 더 깊이 이해할 수 있으며 일부 네티즌은 다음과 같은 밈을 만들기도 했습니다.
Andrej Karpathy는 내 생각에 프롬프트 엔지니어링의 다음 개척지는 "AutoGPT"라고 말했습니다. GPT 통화는 컴퓨터의 명령과 같습니다. 이들은 프로그램으로 연결될 수 있습니다. 프롬프트를 사용하여 I/O 장치 및 도구 사양을 정의하고, 인지 루프를 정의하고, 상황에 따라 데이터 입력 및 출력을 페이징한 다음 실행합니다.
일부 네티즌들은 이것이 기본적으로 특이점의 정의라고 말했습니다.
자기 개선 AI, 이제 필요한 유일한 것은 모델의 코드를 수정하고 자율적으로 훈련할 수 있는 것입니다(인터넷을 검색하고 모든 것에 자체적으로 레이블을 지정하여).
일부 네티즌들은 급속한 기술 발전으로 인해 우리가 돌아올 수 없는 지경에 이르렀다고 믿기까지 합니다. 2025년이 되면 세상은 좋게든 나쁘게든 극적으로 변할 것입니다.
실수로부터 배우는 것이 지능의 기초입니다.
GPT-4는 스스로를 이겨내고 슈퍼 AI가 되고 싶어 하는 것 같습니다.
특정 상사의 최신 소식에 따르면 OpenAI는 최근 자사 AI 제품의 급속한 반복이 매우 강한 반응을 불러일으켰음을 매우 분명하게 밝혔으며 공개 감독도 환영합니다.
담당자는 현재 토큰당 리스크가 임계점에 도달하지 않았으므로 GPT를 남용해도 큰 피해는 없을 것이라고 말했습니다. AI 정렬 로드맵은 몇 달 안에 공개될 예정이다.
위 내용은 GPT-4는 너무 많이 발전하여 거의 1만 명이 이를 차단하라는 청원서에 서명했습니다! 백악관이 긴급 회의를 열었고 ChatGPT 컨셉 주가 급락했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
