OpenAI CEO, 도덕경 인용하며 AI 안전 문제 협력 촉구

중국 뉴스 서비스, 베이징, 6월 11일(중국 뉴스 비즈니스 기자 Song Yusheng) "점점 강력해지는 인공 지능 시스템의 출현으로 글로벌 협력의 이해관계가 그 어느 때보다 중요해졌습니다."

6월 10일 OpenAI CEO 샘 알트만(Sam Altman)은 2023 베이징 지능형 소스 컨퍼런스에서 열린 'AI 보안 및 정렬' 포럼에서 영상 링크를 통해 연설하면서 이렇게 말했습니다.

연설에서 그는 도덕경의 유명한 명언인 '천 리 길도 한 걸음부터'를 인용하며, 국제 과학기술계가 인공지능 안전과 관련된 문제에 대해 협력하고 이를 증진할 것을 촉구했습니다. 일반 인공지능(AGI)의 안전 기술 발전을 개선하기 위한 시스템 구축 및 지식 공유를 위한 메커니즘입니다.

2023년 베이징 지능형 소스 컨퍼런스에서 열린 'AI 보안 및 정렬' 포럼 현장. 사진 제공: Zhiyuan Conference

현재 우리는 인공지능의 능력이 급속히 증가하는 것을 목격하고 있으므로 이를 세상에 적용하는 책임을 져야 합니다. 과학의 역사는 기술 진보가 기하급수적인 곡선을 따른다는 것을 말해줍니다. ”

Altman은 “향후 10년 안에 우리는 초강력 인공지능 시스템을 갖게 될 것”이라고 예측합니다.

향후 10년 안에 일반 인공지능 시스템의 전문성이 거의 모든 분야에서 인간의 전문성을 능가하는 세상을 상상해 보세요. 궁극적으로 이러한 시스템에 의해 생성된 생산 능력은 대기업이 생성할 수 있는 총체적 용량을 초과할 수 있습니다. 잠재적인 이점은 엄청납니다. 인공 지능 혁명은 우리 모두가 공유할 수 있는 부를 창출하는 동시에 인간과 컴퓨터의 상호 작용 수준을 크게 향상시킬 수 있습니다. 하지만 이를 달성하려면 함께 위험을 관리해야 합니다. ”

공공 보건 결과를 개선하기 위해 설계된 "잘못된" AI 시스템은 사람들이 계획을 세우지 못할 경우 혼란스러운 권장 사항을 제공함으로써 전체 공중 보건 시스템을 훼손할 수 있다고 Altman은 말했습니다. 장기적인 지속 가능성에 대한 고려가 부족하여 경제, 자원 소비, 식량 생산 및 환경 균형에 영향을 미칩니다.

“일반 인공지능의 안전성을 높이는 것이 합의에 도달해야 하는 가장 중요한 영역 중 하나라는 점에 모두가 동의할 수 있기를 바랍니다.”라고 그는 말했습니다.

2023년 베이징 지능형 소스 컨퍼런스에서 열린 'AI 보안 및 정렬' 포럼 현장. 사진 제공: Zhiyuan Conference

Altman의 관점에서는 일반 인공 지능의 거버넌스는 먼저 포괄적인 국제 규범과 표준을 확립하고 모든 국가에서 일반 인공 지능의 사용에 대한 평등하고 통일된 보호 조치를 확립해야 합니다. 둘째, 글로벌 구축을 위한 검증 가능한 방법을 확립하기 위해 국제 협력이 필요합니다. 점점 더 강력해지는 AGI 시스템의 안전한 개발을 신뢰합니다.

그는 “우리가 취할 수 있는 가장 건설적인 조치는 국제 과학기술계가 함께 협력하여 AGI 안전 기술 발전의 투명성을 높이고, 연구자들이 긴급한 문제를 식별할 때 지식 공유 메커니즘을 구축하는 것입니다. 우리는 그러한 공유 행동을 장려하면서 지적 재산권을 존중하고 보호하는 방법을 신중하게 고려해야 합니다. 이는 우리가 협력을 심화할 수 있는 새로운 문을 열어줄 것입니다." (끝)

위 내용은 OpenAI CEO, 도덕경 인용하며 AI 안전 문제 협력 촉구의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!