OpenAI는 ChatGPT 플러그인을 출시하여 우려를 불러일으켰습니다. 콘텐츠 품질과 보안을 측정해야 합니다.

3월 24일 목요일(미국 현지 시간) 인공 지능 연구 회사인 OpenAI는 인기 있는 챗봇인 ChatGPT를 위한 여러 플러그인을 출시했습니다. 이 플러그인은 ChatGPT가 네트워크에 연결하여 실시간으로 정보를 검색하는 데 도움이 됩니다. 또는 타사 응용 프로그램을 사용하십시오.

OpenAI의 플러그인을 사용하면 ChatGPT가 인터넷을 포함한 제3자 지식 소스 및 데이터베이스에 액세스할 수 있어 챗봇의 기능이 크게 확장될 것으로 보고됩니다. OpenAI는 ChatGPT 테스트 애플리케이션 사용자와 개발자에게 알파 버전을 제공할 예정입니다. 일반 대중이 액세스할 수 있게 되기 전에 처음에는 소수의 개발자와 ChatGPT Plus 가입자에게 우선권이 부여됩니다.

가장 매력적인 플러그인은 의심할 여지 없이 OpenAI의 자사 웹 브라우징 플러그인입니다. 이를 통해 ChatGPT는 웹에서 데이터를 찾아 웹에 대한 다양한 질문에 답할 수 있습니다. 이전에는 ChatGPT의 정보 콘텐츠가 2021년 9월 이전의 날짜, 이벤트, 사람으로 제한되었습니다. 새로운 플러그인은 Microsoft의 Bing 검색 API를 사용하여 웹에서 콘텐츠를 검색하는 동시에 ChatGPT의 응답에서 답변을 요약하고 해당 소스를 인용할 때 방문한 웹사이트를 표시합니다.

그러나 OpenAI 팀의 이전 연구에서 밝혀진 것처럼 온라인에서 다른 정보 소스에 액세스할 수 있으면 새로운 위험이 발생할 수 있습니다. OpenAI는 2021년 WebGPT라는 실험 시스템을 만들었는데, 이는 때때로 신뢰할 수 없는 출처의 정보를 인용하고, 이러한 출처가 객관적으로 권위가 없더라도 사용자가 신뢰할 수 있는 웹사이트에서 데이터를 선택하도록 유도했습니다. Meta의 이후 오프라인 BlenderBot 3.0도 인터넷에 액세스할 수 있었지만 원래 비전에서 빠르게 벗어났습니다. 특정 텍스트가 표시되면 음모론이나 기타 공격적인 콘텐츠를 게시합니다.

라이브 네트워크는 정적 훈련 데이터 세트보다 정확도가 떨어지므로 필터링 제한이 적습니다. ​​Google​​및 Bing 등​​검색 엔진​​은 신뢰할 수 없는 콘텐츠가 검색 결과 상단에 나타날 가능성을 줄이기 위해 자체 보안 메커니즘을 사용하지만 이러한 결과는 조작될 수 있으며, 반드시 전체 네트워크를 대표할 수 있는 것은 아닙니다. 이전에 보고된 바와 같이 Google의 알고리즘은 암호화, 모바일 지원, 스키마 마크업과 같은 최신 웹 기술을 사용하는 사이트에 우선순위를 둡니다. 따라서 다른 고품질 콘텐츠를 제공하는 많은 웹사이트가 실패하는 경향이 있습니다.

이를 통해 검색 엔진은 웹 언어 모델에 대한 답변을 제공할 수 있는 데이터를 선별할 수 있는 강력한 기능을 제공합니다. Google은 TripAdvisor와 같이 더 풍부하고 소셜 소스에서 정보를 집계하는 대신 Google 지역 정보의 데이터를 사용하여 여행 쿼리에 응답하는 등 검색에서 자체 서비스를 우선시하는 것으로 나타났습니다. 동시에 검색에 대한 알고리즘적 접근 방식에도 허점이 발생하기 쉽습니다. 2020년에 Pinterest는 Google 이미지 검색 알고리즘의 변칙성을 활용하여 Google 이미지 검색에 더 많은 콘텐츠를 표시했습니다.

OpenAI는 인터넷 지원 ChatGPT가 사기성 메시지 및 스팸 이메일 보내기, 보안 제한 우회, 일반적으로 "속이거나, 오도하거나 남용하는 악의적인 행위자의 능력을 강화하는 등 모든 유형의 나쁜 행동에 노출될 수 있음을 인정합니다." 기타."능력". 하지만 회사는 이런 일이 발생하지 않도록 대내외적으로 "여러 가지 안전장치를 마련했다"고 밝혔다.

OpenAI는 브라우저 플러그인 외에도 샌드박스, 방화벽 실행 환경 및 일부 임시 디스크 공간에서 작동하는 ChatGPT 기반 모델을 위한 Python 인터프리터도 제공합니다. 이 플러그인은 ChatGPT에 파일 업로드 및 결과 다운로드를 지원합니다. OpenAI는 수학적 문제 해결, 데이터 분석 수행, 시각화 및 파일 형식 간 변환에 특히 유용하다고 말합니다.

Expedia, FiscalNote, Instacart, Kayak, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram 및 Zapier를 포함하여 많은 초기 공동 작업자가 ChatGPT용 플러그인을 구축했습니다.

대부분의 경우 이러한 플러그인의 목적은 설명이 필요하지 않습니다. 예를 들어 OpenTable 추가 기능을 사용하면 챗봇이 예약 가능한 레스토랑을 검색할 수 있고, Instacart 추가 기능을 사용하면 ChatGPT가 지역 상점에서 주문할 수 있습니다. Zapier는 지금까지 만들어진 앱 중 가장 확장성이 뛰어난 앱 중 하나로, Google Sheets, Trello, Gmail과 같은 앱과 연결하여 다양한 생산성 관련 작업을 실행합니다.

개발자가 새로운 플러그인을 만들도록 장려하기 위해 OpenAI는 ChatGPT가 자연어로 질문하여 파일, 메모, 이메일 또는 공개 문서와 같은 데이터 소스의 문서 조각에 액세스할 수 있는 "검색" 플러그인을 오픈 소스로 제공했습니다. . OpenAI는 다음과 같이 게시했습니다. "우리는 다양한 플러그인을 개발하여 더 많은 사용자에게 제공하기 위해 열심히 노력하고 있습니다. 아직 배울 것이 많고 여러분의 도움으로 실용적이고 안전한 무언가를 만들 수 있기를 바랍니다."

ChatGPT의 경우 플러그인은 필수 보완 요소입니다. ChatGPT는 한때 교육 데이터를 통한 학습으로 엄격하게 제한되었지만 플러그인을 사용하면 갑자기 더 강력해지고 법적 위험도 덜해졌습니다. 많은 전문가들은 OpenAI가 라이선스가 없는 데이터에 대한 ChatGPT 교육을 통해 이익을 얻고 있다고 비난했습니다. ChatGPT의 데이터세트에는 다양한 공개 웹사이트가 포함되어 있으며, 플러그인은 기업이 데이터에 대한 완전한 통제권을 유지할 수 있도록 하여 이 문제를 해결할 수 있습니다. (샤오샤오)

위 내용은 OpenAI는 ChatGPT 플러그인을 출시하여 우려를 불러일으켰습니다. 콘텐츠 품질과 보안을 측정해야 합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!