"우리는 사물을 있는 그대로 보지 않고, 보이는 대로만 봅니다." 그녀는 우리 두뇌에 나타나는 다양한 불행한 편견을 매우 간결하게 설명합니다.
비즈니스 환경에서 선호 편향, 확증 편향, 귀인 편향, 후광 효과 등 더 잘 알려진 추론 오류는 실제로는 피상적일 뿐입니다. 전체적으로 그들은 범죄와 실수의 흔적을 남깁니다.
물론, 가장 해로운 인간의 편견은 나이, 인종, 성별, 종교 또는 외모를 기준으로 동료 인간에게 편견을 갖거나 우리를 반대하는 편견입니다. 이러한 왜곡으로부터 우리 자신과 업무 환경, 사회를 정화하려는 우리의 노력에도 불구하고, 그러한 왜곡은 인공지능과 같은 현대 기술을 포함하여 여전히 우리의 생각과 행동에 스며들어 있습니다.
AI가 채용, 대출 승인, 보험료 모델링, 얼굴 인식, 법 집행 및 기타 다양한 애플리케이션에 처음 배치된 이후로 비평가들은 (많은 이유가 있음) 다음을 지적합니다. 기술의 편향된 경향.
예를 들어 Google의 새로운 언어 모델 BERT(Bidirection Encoder Representations from Transformers)는 개발자가 자신의 AI를 구축하는 데 사용할 수 있는 최고의 자연어 처리(NLP) 모델입니다. BERT는 원래 Wikipedia 텍스트를 기본 소스로 사용하여 구축되었습니다. Wikipedia의 기여자는 압도적으로 유럽과 북미 출신의 백인 남성입니다. 결과적으로 언어 기반 AI의 가장 중요한 소스 중 하나는 처음부터 편향된 관점을 가지고 나왔습니다.
인공지능 개발의 또 다른 핵심 영역인 컴퓨터 비전에서도 비슷한 문제가 발견되었습니다. 얼굴 인식 데이터세트에는 주석이 달린 수십만 개의 얼굴이 포함되어 있으며, 이는 사이버 보안, 법 집행, 심지어 고객 서비스를 위한 얼굴 인식 애플리케이션을 개발하는 데 매우 중요합니다. 그러나 개발자(아마도 대부분 백인 중년 남성)가 자신과 같은 사람들의 정확성을 달성하는 데 자신도 모르게 더 나은 것으로 나타났습니다. 여성, 어린이, 노인, 유색 인종은 중년 백인 남성보다 오류율이 훨씬 더 높았습니다. 그 결과 IBM, Amazon, Microsoft는 편견이 용의자를 오인할 수 있다는 우려로 인해 2020년부터 법 집행 기관에 얼굴 인식 기술 판매를 중단해야 했습니다.
자세한 내용을 알아보려면 중요하고 때로는 소름 끼치는 다큐멘터리 Coded Bias를 시청하세요.
그러나 AI의 편견 현상을 더 잘 이해하면 AI는 이미 존재하지만 무시되거나 오해되는 암묵적인 편견을 노출하고 증폭시킬 뿐입니다. AI 자체는 피부색, 성별, 연령 및 기타 편견에 영향을 받지 않습니다. 인간을 괴롭히는 논리적 오류와 인지적 편견에 덜 취약합니다. AI에서 편견이 보이는 유일한 이유는 인간이 때때로 경험적 오류와 편향된 데이터로 AI를 훈련시키기 때문입니다.
위의 편견이 발견된 이후 모든 주요 기술 회사는 데이터 세트를 개선하고 편견을 제거하기 위해 열심히 노력해 왔습니다. AI의 편견을 제거하는 한 가지 방법은 인공 지능을 사용하는 것입니다. 그럴 것 같지 않다면 계속 살펴보겠습니다.
전형적인 예는 채용 기회에서 찾을 수 있습니다. 여성과 유색인종은 가장 탐나는 취업 기회에서 과소 대표되는 것으로 악명 높습니다. 이러한 현상은 신입 사원이 채용을 담당하는 고위 리더가 되면서 저절로 지속됩니다. 선호도 편향은 "나 같은 사람"이 계속 채용되도록 하는 반면, 귀인 편향은 과거 직원 성과를 기반으로 한 선택을 정당화합니다.
하지만 채용에서 인공지능이 더 큰 역할을 하게 되면 상황이 바뀔 수도 있습니다. Textio, Gender Decoder 및 Ongig와 같은 도구는 인공 지능을 사용하여 성별 및 기타 특성에 대한 숨겨진 편견을 면밀히 조사합니다. Knockri, Ceridian 및 Gapjumpers는 인공 지능을 사용하여 성별, 출신 국가, 피부색 및 연령과 같은 식별 특성을 제거하거나 무시하므로 채용 관리자는 후보자의 자격과 경험에만 집중할 수 있습니다. 이러한 솔루션 중 일부는 후보자의 소프트 스킬을 객관적으로 평가하거나 후보자의 전화 음성을 변경하여 성별을 가리는 방식으로 인터뷰 과정에서 최근 편향, 선호도 편향 및 성별 편견을 줄입니다.
벤처 캐피털 세계에서도 비슷한 접근 방식을 취할 수 있습니다. 벤처 캐피탈 세계에서 남성은 파트너의 80%를 차지하는 반면, 여성은 신규 스타트업의 40%를 창업자임에도 불구하고 투자의 2.2%만 받습니다. 예를 들어, 영국의 스타트업 액셀러레이터인 Founders Factory는 식별 가능한 스타트업 성공 특성을 기반으로 프로그램 후보를 선별하는 소프트웨어를 작성했습니다. 마찬가지로, 여성이 운영하는 비영리 단체인 F4capital은 스타트업의 성숙도, 기회 및 위험을 평가하여 위험 의사 결정 과정에서 편견을 제거하기 위해 스타트업용 FICO 점수를 개발했습니다. 이 접근 방식은 윤리적인 일일 뿐만 아니라 AI의 도움 없이 투자하는 것보다 184% 더 높은 더 나은 수익을 제공하기 때문에 널리 채택되어야 합니다.
인공 지능은 의료 분야에서도 더 나은 결정을 내리는 데 도움이 될 수 있습니다. 예를 들어, 의료 진단 회사인 Flow Health는 의사가 환자 진단에 자주 사용하는 인지 편향을 극복하기 위해 인공 지능을 사용하는 방법을 연구하고 있습니다. 예를 들어, "가용성 휴리스틱"은 의사가 일반적이지만 때로는 잘못된 진단을 내리도록 장려하는 반면, "고정 휴리스틱"은 새로운 정보가 모순되더라도 잘못된 초기 진단을 고수하도록 만듭니다. 저는 인공 지능이 빠르게 진화하는 데이터 기반 맞춤형 의학 세계에서 중요한 부분이 될 것이라고 믿습니다.
AI는 덜 악의적이지만 종종 비즈니스 판단을 흐리게 하는 매우 강력한 편견을 줄이는 데도 도움이 됩니다. 영어로 게시된 정보에 대한 (영어권 국가의) 편견, 더 많은 지식과 경험에도 불구하고 제조 분야에서 새롭고 더 나은 접근 방식을 시도하는 대신 동일한 공급업체와 방법을 사용하는 노인에 대한 편견에 대해 생각해 보십시오. . 경제가 어려운 시기에는 공급망 경영진과 월스트리트 투자자들이 감정에 따라 단기적인 결정을 내린다는 사실을 잊지 마십시오.
이 모든 영역에서 AI가 작동하도록 허용하면 의사 결정 과정에서 인식되지 않은 편견을 효과적으로 확인할 수 있습니다.
실수를 저지르는 것이 인간의 본성이라면 AI는 숨겨진 편견으로 인한 비용이 많이 들고 비윤리적인 결과를 피하는 데 필요한 솔루션일 수 있습니다. 그러나 이러한 편견이 AI 자체에 미치는 영향은 어떻습니까? AI가 편향된 데이터를 잘못 읽고 편향된 인간의 휴리스틱을 증폭한다면 어떻게 유용한 솔루션이 될 수 있습니까?
AI에 스며드는 암묵적인 인간 및 데이터 편견을 제거하는 것을 목표로 하는 도구가 있습니다. Google의 People and AI Research 팀(PAIR)이 개발한 What-If 도구를 사용하면 개발자는 광범위한 "공정성 지표" 라이브러리를 사용하여 AI의 성능을 탐색할 수 있습니다. PWC의 Bias 분석기 도구, IBM Research의 AI Fairness 360 도구 및 O 'Reilly의 각 LIME 도구는 AI 코드에 편견이 존재하는지 여부를 식별하는 데 도움이 됩니다.
AI가 조직의 편견을 줄일 수 있는 방법을 고려하고 있는 고위 임원 또는 이사회 구성원이라면 AI를 문제를 완전히 해결하는 만병통치약으로 보기보다는 무기고에 있는 유망한 새로운 무기로 생각하시기 바랍니다. . 전체적이고 실용적인 관점에서 편견을 줄이기 위한 기준을 설정하고, 숨겨진 편견을 인식하고 방지하도록 직원을 교육하고, 고객, 공급업체 또는 컨설턴트로부터 외부 피드백을 수집해야 합니다. 편견 리뷰는 좋은 생각일 뿐만 아니라 어떤 경우에는 법이 될 수도 있습니다.
위 내용은 인공지능이 편견을 제거하는 데 도움이 될 수 있습니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
