효과적인 가속도 또는 친 사회적 ai. AI의 미래는 무엇입니까?

가속 주의자 비전 : 최고 속도

E/ACC로 알려진 효과적인 가속도는 2022 년경 실리콘 밸리와 그 너머에서 상당한 견인력을 얻은 기술 최적 의 운동으로 2022 년경에 등장했습니다.

가속 주의자를 가속화하는 것은 무엇입니까?

누군가가 "진보가 불가피하다"고 말하거나 "규제는 혁신을 늦추는 것"이라고 말한 적이 있다면, E/ACC 사고의 반향을 듣고 있습니다. 이 철학은 몇 가지 주요 신념에 달려 있습니다.

운명으로서의 기술 : E/ACC 지지자들은 기술 진보를 중력과 같은 막을 수없는 힘으로 본다. 그들은 발전을 늦추려는 시도가 무의미 할뿐만 아니라 잠재적으로 유해하다고 생각합니다.

시장은 가장 잘 알고 있습니다 : 그들은 자유 시장 혁신을 옹호하며, 고속도로에서 속도가 급격히 충돌하여 규제를보고 있습니다.

혁신을 통한 풍요 : 기존 자원을 재분배하기보다는 E/ACC가 강력한 새로운 기술을 만드는 것이 모든 사람에게 전례없는 풍요를 창출 할 것이라고 생각합니다.

기회, 위험이 아닌 기회 : 다른 사람들이 고급 AI에서 위험을 보는 경우, E/ACC는 인류의 가장 큰 기회를보고 있습니다. 즉, 우리의 가장 큰 문제를 해결하고 현재 한계를 초월 할 수있는 기회입니다.

기술 투자자 마크 안드레이 슨 (Marc Andreessen)은 "기술이 기술이 우리가 더 나은 미래, 풍요의 미래, 경이의 미래, 인류의 잠재력을 완전히 실현하는 미래를 만드는 방법이라고 믿는다"고 선언했다.

친 사회적 비전 : 인간의 가치를 먼저

대조적으로 서있는 것은 posocial ai - 인간과 행성 복지를 기술 개발의 중심에 놓는 프레임 워크입니다. 정의에 따르면, 친 사회적 AI 시스템은 "맞춤, 훈련, 테스트 및 목표를 달성하고 사람과 행성을 위해 최선을 다하고 있습니다." 그들의 구현은 우리가 인간, 우리가 속한 지역 사회, 우리가 일부 국가 및 우리가 의존하는 지구를위한 상생 윈-윈입니다.

AI가 진정으로 사회적으로 만드는 이유는 무엇입니까?

우리가 구축하는 AI 시스템이 기술적 인 능력보다는 우리의 최고 가치를 반영하는 것이 현명한 것이 아니라 현명하게 설계되었다고 상상해보십시오. 친 사회적 AI는 몇 가지 핵심 원칙을 통해이 야망을 구현합니다.

인간 기관 문제 : 사회적 AI는 인간 기관으로 시작합니다 - 의미있는 기술 선택을 할 수있는 우리의 능력. 이 접근법은 인식 (무슨 일이 일어나고 있는지 이해), 감사 (다른 관점을 인식), 수용 (개선을 위해 현실을 인정 함) 및 책임 (결과에 대한 책임을 맡고 있음)을 중요하게 생각합니다.

우리는 도구를 형성합니다. 그러면 그들은 우리를 형성합니다 . 아마도 친 사회적 접근에서 가장 심오한 통찰력은이 간단한 진실에 요약 될 것입니다. 다시 말해, AI는 우리의 가치를 더 좋든 나쁘게 반영 할 것입니다.

대화를 걷는다 : 사회적 AI는 "이중 정렬"을 요구한다 - 우리가 말하는 것과 실제로 행동하는 방식 사이의 조화, 그리고 인간의 열망과 우리가 만든 알고리즘 사이의 조화. 당신은 직접 연습하지 않고 AI에 동정심을 프로그램 할 수 없습니다.

속도 전 안전 : 사회적 옹호자들은 강력한 AI 시스템을 시장에 돌진하는 대신 철저한 테스트 및 강력한 안전 메커니즘을 우선시합니다.

테이블에있는 모든 사람 : 소규모 기술자 나 투자자 그룹이 수십억에 영향을 미치는 결정을 내릴 수있게하는 대신, 친 사회적 AI는 다양한 목소리로 포괄적 인 거버넌스를 지원합니다.

사람들-평면도 의식 디자인 :이 프레임 워크에서 AI는 인간과 우리가 의존하는 더 넓은 생태 시스템에 도움이됩니다.

이 비전이 충돌하는 곳

이러한 경쟁 프레임 워크는 AI 개발에 대한 근본적으로 다른 접근법으로 이어집니다.

운전석에 누가 있습니까?

E/ACC는 기술을 자신의 운동량을 가진 자율적 힘으로 보는 경향이 있습니다. 거의 자연 현상 인간이 직접보다는 촉진해야합니다. 대조적으로, 친 사회적 AI는 인간이 우리가 만든 기술에 대한 책임을 계속하고 있다고 강조합니다. 우리가 사용 방법에 대해 망치를 비난하지 않는 것처럼, 우리는 AI 시스템에 대한 윤리적 책임을 위임 할 수 없습니다. 오래된“쓰레기, 쓰레기”라고 말하는 오래된 말은 여전히 ​​유지됩니다. 값을 값으로 바꿀 수 있습니다. 기고 대 생생. 그 변화에는 인간의 선택이 필요합니다.

위험을 평가합니다

위험 계산은 이러한 접근 방식간에 크게 다릅니다. E/ACC 지지자들은 종종 가장 큰 위험은 너무 느리게 발전하는 데있어서 경제적 이점을 잃거나 긴급한 문제를 해결할 수있는 기술 혁신을 잃어 버릴 수 있다고 주장합니다.

친 사회적지지는 적절한 보호 조치없이 앞으로 돌진하면 프라이버시를 훼손하거나 불평등을 증폭 시키거나 실존 위험을 초래하는 시스템으로 이어질 수 있다고 반대합니다. AI 연구원 Stuart Russell은 다음과 같이 말했습니다 : "우리가 가치를 완전히 포착하지 못하는 객관적인 기능을 최적화하는 시스템은 임의로 나쁜 결과를 초래할 수 있습니다."

도로의 규칙

이러한 차이는 거버넌스 접근법으로 확대됩니다.

E/ACC Playbook : 최소한의 선불 규칙, 시장 경쟁이 혁신을 유발하고 문제가 발생한 후에 만 ​​문제를 해결하도록합니다.

친 사회적 플레이 북 : 배치 전에 설립 된 사려 깊은 가드 레일, 다양한 이해 관계자를 포함한 지속적인 감독.

인적 요소 : 기술의 누락 된 작품

친 사회적 접근 방식이 특히 독특하게 만드는 것은 기술 솔루션만으로는 충분하지 않다는 인식입니다. AI의 품질은 궁극적으로 인류의 질을 반영 할 것입니다.

이런 식으로 생각하십시오 : 사람들이 X에서 상호 작용하는 방법이나 인간 행동에 대한 가장 높은 열망을 기반으로 윤리적 결정을 내리는 AI 시스템을 원하십니까? 우리가 가치있는 말과 우리가 자주 행동하는 방식 사이의 격차는 AI 개발에 대한 근본적인 도전을 만듭니다.

이 통찰력은 AI 윤리에 대한 일반적인 대화를 뒤집습니다. "우리는 AI를 어떻게 인간의 가치에 맞추는가?" 우리는 "우리 자신의 행동을 우리가 보유하고 있다고 주장하는 가치와 어떻게 조정해야합니까?" 유익한 AI를 개발하려면 더 나은 알고리즘과 더 나은 인간이 필요하다는 것을 암시합니다. 그들의 기술 창작에 반영되기를 희망하는 지혜, 동정심 및 책임을 지속적으로 보여주는 사람들.

공통점 찾기

그들의 차이에도 불구하고, 이러한 프레임 워크는 몇 가지 중요한 영역을 공유합니다.

기술의 혁신적 힘 : 둘 다 AI의 전례없는 잠재력을 인정합니다.

기술 우수성 : 가치 혁신과 최첨단 기능 모두.

인간 번성 : 둘 다 인류가 다르게 정의하더라도 인류에게 도움이되는 기술 발전을 추구한다고 주장합니다.

이것이 우리의 미래에 의미하는 바

이러한 접근 방식 사이의 긴장은 오늘날 실질적인 결정에서 나옵니다.

기업 우선 순위 : 기술 회사는 개발 속도를 극대화하고 안전 연구에 대한 투자를 선택합니다.

재능 결정 : 엔지니어와 연구원은 자신의 노력에 집중할 위치를 결정하고 있습니다. 경계를 높이거나 유익한 결과를 보장합니다.

정책 선택 : 국회의원들은 혁신 인센티브 또는 보호 가드 레일을 우선시할지 여부를 결정하고 있습니다.

교육 초점 : 대학 및 훈련 프로그램은 윤리적 이해와 기술의 균형을 이룹니다. 골든 길은 자연 및 인공 지능에 대한 전체적인 이해를 활용하기위한 이중 문해력 에 대한 투자입니다.

앞으로의 길

효과적인 가속도와 친 사회적 AI 사이의 논쟁은 학문적이 아니라 점점 더 강력한 기술을 개발함에 따라 도로의 포크를 나타냅니다. 가장 유망한 길은 두 가지 관점에서 통찰력을 포함 할 가능성이 높습니다. 기술 역학을 유지 하면서이 진보는 진정으로 인간과 행성 복지에 도움이됩니다.

점점 더 분명 해지는 것은 기술 발전이 인간 발달과 분리 될 수 없다는 것입니다. 우리는 더욱 강력한 도구를 구축함에 따라 이러한 도구를 유익한 목적으로 지시하는 데 필요한 지혜, 가치 및 책임을 동시에 배양해야합니다.

Tomorrow 's AI의 품질은 궁극적으로 오늘날의 인류의 질을 반영 할 것입니다. 윤리는 추상적 의도가 아니라 우리가 미지의 영역을 탐색 할 때 실제적이고 긴급한 영향을 미치는 야망입니다. 인간은 인간에게 인간을 위해 하이브리드 미래를 설계해야합니다. 효과적인 가속도와 친 사회적 AI 사이의 긴장은 가장 중요한 정렬 문제가 우리 자신의 문제 일 수 있음을 상기시킵니다. 깊은 인간에게는 기술적 인 도전이 아닙니다.

위 내용은 효과적인 가속도 또는 친 사회적 ai. AI의 미래는 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!