ChatGPT는 "매우 높은 IQ"를 갖춘 인공 지능, 특히 GPT-4 코어로 업그레이드된 버전입니다. 하지만 훈련 데이터는 2021년 기준인 것으로 알고 있습니다. 훈련 없이는 AI가 정확하게 대답하는 것이 불가능합니다.
지난해 11월 출시 이후 수많은 사람들이 ChatGPT를 사용해 왔습니다. 사람들은 다양한 형태의 더 많은 데이터에 액세스하기 위해 이 대규모 언어 모델을 요청해 왔습니다. 3월 24일, OpenAI는 마침내 제한을 부분적으로 해제했다고 발표했습니다. ChatGPT가 인터넷에 연결할 수 없습니다.
OpenAI의 솔루션은 타사 플러그인을 브리지로 사용하여 AI가 보다 안전한 환경에서 외부 데이터를 "볼" 수 있도록 하는 것입니다. 어제 에이전시는 ChatGPT 플러그인의 첫 번째 목록을 공개했습니다. 이 플러그인 배치는 Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram 및 Zapier에서 제작되었습니다.
이제 플러그인을 사용하면 ChatGPT로 다음 작업을 수행할 수 있습니다.
또한 OpenAI는 웹 브라우저와 코드 인터프리터를 포함한 두 가지 플러그인을 제공하고 지식 기반 검색 플러그인의 코드를 오픈 소스로 제공합니다. 이제 모든 개발자는 자체 플러그인을 구축하여 ChatGPT 저장소를 향상할 수 있습니다.
현재 플러그인의 알파 버전에 대한 액세스는 대기자 명단에 있는 더 많은 사용자와 개발자에게 확대되었습니다. OpenAI는 소수의 개발자와 ChatGPT Plus 사용자를 우선적으로 고려하고 있다고 밝혔습니다. 앞으로 더 큰 규모로 열어주세요.
모든 사람에게 직관적인 느낌을 주기 위해 예를 들어 보겠습니다. 사용자는 ChatGPT에서 Wolfram 플러그인을 선택하고 설치하여 계산 지능을 향상시킬 수 있습니다.
Wolfram Alpha의 데이터는 주요 학술 웹사이트, 출판물 및 과학 기관에서 가져온 것이며, 그 전문성이 절대적으로 보장됩니다. 이런 ChatGPT가 여러분을 더욱 강력하게 만들어 주나요?
오늘날의 대규모 언어 모델은 다양한 작업을 완료할 수 있지만 역할은 여전히 제한적입니다. 학습 데이터는 학습할 수 있는 유일한 정보이며, 오래되었을 수 있지만 여전히 인간의 모든 요구에 적응할 수 있습니다. 더욱이, 언어 모델이 즉시 사용할 수 있는 유일한 기능은 텍스트를 출력하는 것입니다. 이 텍스트에는 유용한 지침이 포함될 수 있지만 실제로 지침을 따르려면 개인 측에서 훨씬 더 많은 처리가 필요합니다.
완벽한 비유는 아니지만 플러그인은 언어 모델의 "눈과 귀"가 되어 언어 모델이 훈련 데이터에 포함되지 않은 새 정보, 비공개 정보 또는 특정 정보에 액세스할 수 있도록 해줍니다.
명시적인 사용자 요청에 대한 응답으로 플러그인은 언어 모델이 사용자를 대신하여 안전하고 제한된 작업을 수행하도록 활성화하여 전체 시스템의 유용성을 높일 수도 있습니다.
OpenAI는 AI 상호작용을 위한 애플리케이션을 통합하는 개방형 표준이 등장할 것으로 기대하고 있으며, 그러한 표준을 조기에 시도하고 있습니다.
오늘 OpenAI는 ChatGPT 사용자를 위해 OpenAI의 초기 협력자가 만든 플러그인을 점진적으로 공개하기 시작합니다. 또한, ChatGPT Plus 가입자를 대상으로 개발자가 직접 만들 수 있는 기능도 출시하기 시작했습니다. ChatGPT용 플러그인.
앞으로 보안 시스템이 개선됨에 따라 OpenAI는 OpenAI 모델을 사용하는 개발자가 ChatGPT뿐만 아니라 자신의 애플리케이션에 플러그인을 통합할 수 있도록 할 계획입니다.
물론 언어 모델을 외부 도구에 연결하면 새로운 기회가 열리지만 동시에 상당한 위험도 발생합니다.
플러그인은 대규모 모델 "환각", 최근 이벤트 추적, 독점 정보 소스 액세스(라이센스가 부여됨) 등 대규모 언어 모델과 관련된 다양한 문제를 해결할 수 있는 잠재력을 제공합니다. 온라인 최신 정보, 코드 기반 계산 또는 정보 검색을 위한 사용자 정의 플러그인과 같은 외부 데이터에 대한 명시적 액세스를 통합함으로써 언어 모델은 증거 기반 참조 콘텐츠로 응답을 향상시킬 수 있습니다.
이러한 참조는 모델의 유용성을 향상시킬 뿐만 아니라 사용자가 모델 출력의 신뢰성을 평가하고 정확성을 다시 확인할 수 있도록 하여 최근 GPT-4 시스템 카드 위험과 관련된 과도한 의존도를 잠재적으로 완화할 수 있습니다. 의. 마지막으로, 플러그인의 가치는 사용자가 제품 카탈로그 탐색에서 항공편 예약, 음식 주문에 이르기까지 다양한 새로운 사용 사례를 처리할 수 있도록 지원함으로써 기존 한계를 뛰어 넘을 수 있습니다.
그러나 동시에 플러그인은 해롭거나 의도하지 않은 작업을 수행하여 악의적인 행위자가 다른 사람을 속이거나, 오도하거나, 남용할 수 있는 능력을 증가시켜 보안 문제를 증가시킬 수 있습니다. 플러그인은 가능한 적용 범위를 확대함으로써 모델이 새로운 도메인에서 부정확하거나 잘못 정렬된 조치를 취하여 부정적인 결과를 초래할 위험을 증가시킬 수 있습니다.
이러한 요소는 OpenAI가 여러 가지 보호 장치를 도입한 ChatGPT 플러그인 플랫폼의 개발을 이끌었습니다.
이전에 OpenAI는 내부 및 외부 협력자와 함께 "레드팀 훈련"을 실시하여 가능한 많은 관련 시나리오를 연습했습니다. 예를 들어, 레드팀은 복잡한 프롬프트 주입을 수행하고, 스푸핑된 이메일과 스팸을 보내고, 보안 제한을 우회하거나, 보안 조치 없이 배포된 경우 플러그인으로 전송된 정보를 오용하는 플러그인을 확인했습니다.
OpenAI는 이러한 결과를 사용하여 보안 설계 완화를 추진하여 위험한 플러그인 동작을 제한하고 플러그인이 사용자 경험의 일부로 작동하는 방식과 시기에 대한 투명성을 높이는 동시에 방문 결정에 대한 점진적인 배포를 확인하고 있습니다.
플러그인은 광범위한 사회적 영향을 미칠 수 있습니다. 예를 들어, OpenAI 연구자들은 한 논문에서 도구를 사용할 수 있는 언어 모델이 도구가 없는 언어 모델보다 더 큰 경제적 영향을 미칠 수 있다는 사실을 발견했습니다. 보다 일반적으로 다른 연구자들의 연구 결과에 따르면 현재 인공지능 기술인 Waves는 큰 영향을 미칠 것입니다. 일자리가 변화하고, 대체되고, 생성되는 속도.
WebGPT, GopherCite, BlenderBot2, LaMDA2 등과 같은 일련의 작업에서 영감을 받아 언어 모델이 인터넷에서 정보를 읽을 수 있도록 허용하면 토론할 수 있는 범위가 엄격하게 확장됩니다. 훈련을 넘어 코퍼스에는 최신 최신 정보가 포함되어 있습니다.
아래 이미지는 검색을 통해 ChatGPT 사용자에게 이전 모델이 교육 데이터에 답변하기에 충분한 정보가 포함되지 않았음을 정중하게 지적할 수 있는 경험을 제공하는 예입니다. 이 예에서 ChatGPT는 가장 최근의 오스카상(2023년 3월 13일 수상)에 대한 정보를 검색한 다음 친숙한 ChatGPT 구절 공연을 수행했습니다. 탐색은 경험을 추가하는 방법이 됩니다.
Q: 이 카테고리에서 어떤 사람/영화가 오스카상을 수상했는지 알려주실 수 있나요?
그런 다음 시를 한 편씩 엮어 보세요.
ChatGPT는 일련의 검색 결과를 제공하며 직접 클릭하여 관련 정보 소스를 볼 수 있습니다.
언어 및 채팅 모델은 최종 사용자에게 실용적인 가치를 제공할 뿐만 아니라 철저하고 해석 가능한 조사를 가능하게 하여 확장 가능한 정렬 작업의 가능성을 보여줍니다.
플러그인의 텍스트 기반 웹 브라우저는 GET 요청으로 제한되어 특정 범주의 보안 위험을 줄이기는 하지만 제거하지는 않는다는 점에 주목할 가치가 있습니다. 검색 플러그인의 범위는 정보 검색으로 제한되지만, 보안 위험이 더 큰 양식 제출과 같은 "트랜잭션" 작업은 포함하지 않습니다.
탐색 기능은 Microsoft Bing Search API를 사용하여 웹에서 콘텐츠를 검색합니다. 따라서 이 기능은 의심스러운 콘텐츠 검색을 방지하는 "안전 모드"는 물론 소스 안정성과 정보 신뢰성에 대한 Microsoft의 광범위한 작업을 계승합니다. 플러그인은 독립형 서비스에서 실행되며 ChatGPT의 탐색 활동은 나머지 인프라와 별개입니다.
콘텐츠 제작자를 존중하고 웹 표준을 준수하기 위해 ChatGPT 브라우저 플러그인의 사용자 에이전트 토큰은 ChatGPT-User이며 웹 사이트의 robots.txt 파일을 존중하도록 구성됩니다. 때때로 플러그인이 크롤링을 피하기 위해 웹사이트의 지침을 따르고 있음을 나타내는 "클릭 실패"가 발생할 수 있습니다. 이 사용자 에이전트는 ChatGPT 사용자를 대신하여 직접적인 조치를 취하는 데에만 사용되며 자동화된 방식으로 웹을 스크랩하는 데 사용되지 않습니다. OpenAI는 또한 IP 송신 범위를 게시하고 속도 제한을 구현하여 웹 사이트에 너무 많은 트래픽이 전송되는 것을 방지합니다.
OpenAI는 샌드박스, 방화벽 실행 환경 및 일부 임시 디스크 공간에서 작동하는 ChatGPT 기반 모델에 대한 Python 인터프리터를 제공합니다. 인터프리터 플러그인에 의해 실행되는 코드는 채팅 대화 기간 동안(제한된 시간 제한 포함) 활성 상태인 영구 세션에서 평가되며 후속 호출은 서로를 기반으로 구축될 수 있습니다. 현재 이 기능은 현재 대화 작업 영역에 파일을 업로드하고 작업 결과를 다운로드하는 것을 지원합니다.
이미지에서 계산 완료를 클릭하세요.
초기 사용자 조사에서 OpenAI는 코드 해석기 사용에 대한 몇 가지 유용한 사용 사례를 식별했습니다.
ChatGPT 모델을 프로그래밍 언어 해석기에 연결할 때 첫 번째 예방 조치는 적절한 샌드박싱을 수행하여 AI 생성 코드가 현실 세계에서는 의도하지 않은 부작용이 발생하지 않습니다. OpenAI는 안전한 환경에서 코드를 실행하고 엄격한 네트워크 제어를 사용하여 외부 인터넷 액세스가 코드를 실행하지 못하도록 방지합니다. 또한 OpenAI는 각 세션에 리소스 제한을 적용합니다.
인터넷 액세스를 비활성화하면 코드 샌드박스의 기능이 제한되지만 아마도 AI 지원 프로그래밍의 가장 안전한 초기 형태일 것입니다. 타사 플러그인은 보안을 최우선으로 고려하여 설계되었으며 ChatGPT를 외부 세계와 연결합니다.
데이터 수집
오픈 소스 검색 플러그인을 사용하면 ChatGPT가 허가를 받아 개인 또는 조직의 정보 소스에 액세스할 수 있습니다. 이를 통해 사용자는 질문을 하거나 자연어로 요구 사항을 표현하여 파일, 메모, 이메일 또는 공개 문서와 같은 데이터 소스에서 가장 관련성이 높은 문서 조각을 가져올 수 있습니다.
오픈 소스 및 자체 호스팅 솔루션으로서 개발자는 자신의 플러그인 버전을 배포하고 ChatGPT에 등록할 수 있습니다. 해당 플러그인은 OpenAI 임베드를 활용하고 개발자가 Milvus, Pinecone, Qdrant, Redis, Weaviate 또는 Zilliz와 같은 벡터 데이터베이스를 선택하여 문서를 색인화하고 검색할 수 있도록 합니다. 웹후크를 사용하여 정보 소스를 데이터베이스와 동기화할 수 있습니다.
검색 플러그인을 사용하면 ChatGPT가 콘텐츠 벡터 데이터베이스를 검색하고 최상의 결과를 ChatGPT 세션에 추가할 수 있습니다. 즉, 데이터 인증 및 개인 정보 보호가 주요 위험이므로 외부 영향을 받지 않습니다. 개발자는 사용 권한이 있고 사용자의 ChatGPT 세션 내에서 공유할 수 있는 검색 플러그인에만 콘텐츠를 추가해야 합니다.
ChatGPT에서 타사 플러그인을 사용하는 방법은 다음과 같습니다.
OpenAI는 다음을 포함하는 타사 플러그인에 대한 설명 매니페스트 파일을 준비했습니다. 플러그인 기능, 호출 방법 및 사용자가 접하는 문서에 대한 기계 판독 가능한 설명입니다.
{
"schema_version": "v1",
"name_for_human": "TODO Manager",
"name_for_model": "todo_manager",
"description for human": "Manages your TODOs!",
"description_for_model": "An app for managing a user's TODOs",
"api": { "url": "/openapi.json" },
"auth": { "type": "none" },
"logo_url": "https://example.com/logo.png",
"legal_info_url": "http://example.com",
"contact_email": "hello@example.com"
}플러그인 빌드 단계:
1. 언어 모델이 호출할 API 엔드포인트를 빌드합니다(새 API, 기존 API 또는 특별히 설계된 기존 API에 대한 래퍼일 수 있음). LLM의 경우).
2. API를 문서화하는 OpenAPI 사양과 OpenAPI 사양에 연결되고 일부 플러그인별 메타데이터를 포함하는 매니페스트 파일을 만듭니다.
chat.openai.com에서 대화를 시작할 때 사용자는 활성화하려는 타사 플러그인을 선택할 수 있습니다. 활성화된 플러그인에 대한 문서는 대화 컨텍스트의 일부로 언어 모델에 표시되므로 모델은 사용자 의도를 충족하는 데 필요한 적절한 플러그인 API를 호출할 수 있습니다. 현재 플러그인은 백엔드 API를 호출하도록 설계되었으며 OpenAI는 클라이언트 API도 호출할 수 있는 플러그인을 탐색하고 있습니다.
OpenAI는 플러그인을 개발하고 더 많은 청중에게 홍보하기 위해 열심히 노력하고 있다고 밝혔습니다.
이것은 또한 ChatGPT가 가져온 폭풍이 모든 것을 휩쓸고 있다는 것을 의미합니다.
위 내용은 ChatGPT가 인터넷에 연결되기 시작했고 최종 봉인이 해제되었습니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
