AI는 정말로 '깨어나거나 극단 주의자입니까?

대기업이 인공 지능을 적극적으로 홍보하고 있다는 것은 놀라운 일이 아닙니다. 그러나 인공 지능은 또한 고용, 개인 정보 및 보안에 대한 가능한 영향에 대한 많은 보컬 우려와 함께 광범위한 논쟁을 불러 일으켰습니다.

또 다른 일반적인 관심사는 인공 지능을 사용하여 허위 정보를 만들어 정치 이야기를 강화하고 심지어 민주적 선택에도 영향을 미칠 수 있다는 것입니다.

나는 종종 두 가지 진술을 본다 : 첫째, 인공 지능은 극단 주의적 아이디어를 전파하고 심지어 극단 주의자들을 창조하는 데 사용될 수있다. 둘째, 인공 지능 생산량은 "깨어있는"경향이있는 경향이 있습니다. 아프리카 계 미국인 민권 시위자들이 원래 사용하는 용어는 이제 보수적 인 사람들이 사회 정의를 발전 시키거나 지원하는 아이디어와 신념을 언급하는 데 가장 일반적으로 사용됩니다.

인공 지능의 좌익 편견에 대한 보고서는 작년 미국 선거에서 특히 흔했습니다. 한편, 반테러 싱크 탱크는 극단주의 단체들이 인공 지능을 사용하여 교리를 사용하고 있다고 경고했다.

이 두 가지 주장에는 AI가 정치적 견해에 영향을 미치는 데 사용되는 위험이 포함되어 있기 때문에, 나는 그들을 연구하기 위해 그들을 모으는 것이 합리적이라고 생각합니다.

그렇다면이 진술이 사실입니까? 인공 지능은 실제로 테러 행위를 저지르거나 자유주의 철학을 채택하고“깨어나”가 될 수있는 능력이 있습니까?

인공 지능에 좌익 편견이 있습니까?

보수적이고 우익 주석가들은 종종 인공 지능과 종종 유래 한 실리콘 밸리 문화가 좌익 편견을 가지고 있다고 주장합니다. 이러한 주장을 뒷받침 할 증거가있는 것 같습니다.

이는 이스트 앵글리아 대학교의 2023 년 연구와 경제 행동 및 조직 저널에 발표 된 연구를 포함하여 여러 연구에 의해 주장됩니다.

물론 생성 AI 자체는 정치적 관점이나 관점이 없습니다. “알고있는”모든 것은 책, 과학 논문 및 저널을 포함하여 웹에서 기어 다니는 데이터와 토론 포럼 및 소셜 미디어에서 기어 다니는 컨텐츠에서 비롯됩니다.

이 데이터가 진보적 인 합의를 뒷받침하는 경우 (대부분의 기후 과학 데이터가 인위적 기후 변화 이론을 지원하는 경우, 인공 지능은 사실로 제시 할 것입니다.

일부 연구는 AI가 사실을 제시 할 때 좌파 편견뿐만 아니라 AI가 "우익 이미지 생성"요청을 처리하는 것을 거부한다는 발견에도 중점을 둡니다.

진보적 인 주장 (예 :“인종 평등”또는“트랜스 젠더 수락”)이 포함 된 이미지를 설명하라는 메시지가 표시되면 결과는 긍정적 인 이미지 (예 : 행복한 사람들)를 보여줄 가능성이 높습니다.

그러나 이것이 반드시 인공 지능이 "깨어났다"는 것을 의미하지는 않습니다. 실제로, 추가 연구에 따르면 대형 언어 모델을 기반으로 한 AI는 우익 편향을 보일 수 있으며 AI 테스트에 따라 결과가 다양합니다.

Nature에 발표 된 최근의 연구에 따르면 Chatgpt의 이데올로기 적 입장은 표준화 된 정치적 성향 시험을 기반으로 "시간이 지남에 따라 명확하고 통계적으로 유의미한 변화를 겪었다"고 발견했습니다.

궁극적으로 AI 시스템은 인간에 의해 구축되며 우리가 선택한 데이터를 기반으로 교육을받습니다. 알고리즘이 어떻게 구축되는지 또는 제공된 세계에 대한 정보에 편견이 있다면,이 편향은 출력에 복사 될 가능성이 높습니다.

인공 지능이 우리를 극단 주의자로 바꿀 수 있습니까?

일부 연구자들은 AI가 모든 사람을 자유주의 자로 바꿀 것이라고 걱정하는 반면, 다른 연구자들은 사람들을 급진적으로 분류하거나 극단주의 의제를 발전시키는 데 사용될 것이라고 걱정하고 있습니다.

헤이그에 본사를 둔 국제 반테러 센터는 테러 조직이 선전을 만들고 전파하기 위해 생성 인공 지능을 널리 사용했다고보고했다. 여기에는 가짜 이미지와 비디오를 사용하여 가치에 맞는 이야기를 전파하는 것이 포함됩니다.

이슬람 국가를 포함한 테러와 극단주의 단체는 인공 지능을 사용하여 선전과 불만을 개발하는 방법을 보여주는 지침을 발표했습니다.

그것의 목적은 종종 혼란과 혼란을 일으키는 것입니다. 정부 기관과 주류 (종종 편집 및 사실 확인을 의미하는) 미디어를 불신하게하는 것입니다.

일부는 또한 극단 주의자들이 인공 지능을 사용하여 누가 자신의 이데올로기에 동정 할 수 있는지 예측함으로써 누가 급진적 인 사람을 찾을 수 있다고 주장합니다.

다시 말하지만, 이것은 AI 자체가 극단적이거나 극단적 인 생각과 행동을 제안하는 경향이 있다는 것을 제안하기보다는 사람들이 자신의 견해를 채택하도록 설득하기 위해 AI를 사용하는 인간입니다.

그러나 인공 지능에 대한 고유 한 위험은 알고리즘 에코 챔버 효과를 통해 극도의 관점을 강화하는 능력입니다.

소셜 미디어 및 뉴스 플랫폼이 인공 지능을 사용하여 과거 참여를 기반으로 컨텐츠를 추천 할 때 발생합니다. 이로 인해 사용자는 종종 동의 한 더 많은 콘텐츠를보고 사람들이 자신의 기존 신념을 반영하는 콘텐츠를 반복적으로 볼 수있는 "에코 챔버"를 만듭니다. 이러한 신념이 극단적이라면, AI는 유사하고 더 근본적인 내용을 제공함으로써 그 영향을 증폭시킬 수 있습니다.

인공 지능이 우리의 사고 방식에 실제로 영향을 줄 수 있습니까?

인공 지능이 정보를 소비하는 방식을 형성하는 데 점점 더 중요한 역할을 할 수 있지만, 우리의 신념에 직접적인 영향을 줄 수는 없다는 것을 기억하는 것이 중요합니다.

또한 인공 지능은 이러한 위협을 다루는 데 도움이 될 수 있습니다. 예를 들어, 데이터의 편향을 감지하여 편향된 응답으로 이어질 수 있으며 인터넷에서 극단 컨텐츠를 찾고 삭제할 수 있습니다.

그러나 모든 정치 파벌의 그룹이 필연적으로 여론을 안내하기 위해 그것을 사용할 것이라는 겉보기에 합리적인 견해가 있습니다.

오류 메시지가 어디에서 왔는지, 누가 확산 될지 이해하면 비판적 사고 기술을 연마하고 누군가 (또는 일부 기계)가 우리에게 영향을 줄 때 더 잘 이해하는 데 도움이됩니다.

인공 지능이 일상 생활에 점점 더 통합됨에 따라 이러한 기술은 정치적 성향에 관계없이 점점 더 중요해질 것입니다.

위 내용은 AI는 정말로 '깨어나거나 극단 주의자입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!