ML 및 AI 모델 설명 및 해석 가능성

이 기사에서는 기계 학습 및 인공 지능 모델 설명 및 해석 가능성의 개념을 살펴 봅니다. 우리는 왜 모델이 예측을하는 방법을 이해하는지, 특히 이러한 기술이 의료, 금융 및 법률 시스템과 같은 중요한 분야에서 사용되므로 왜. Lime 및 Shap과 같은 도구를 통해 모델의 의사 결정 프로세스에 대한 통찰력을 얻는 방법을 보여 주어 복잡한 모델을보다 투명하게 만듭니다. 이 기사는 설명 성과 해석 성의 차이점을 강조하고, 이러한 개념이 AI 시스템에 대한 신뢰 구축에 어떻게 기여하는지 설명하고 도전과 한계를 해결하는 방법을 설명합니다. 학습 목표

머신 러닝과 ai의 모델 설명과 해석 성의 차이점을 이해합니다. 라임 및 쉐이프 도구가 모델 투명성과 의사 결정 통찰력을 향상시키는 방법을 배우십시오. AI 시스템에 대한 신뢰 구축에서 설명 가능성과 해석의 중요성을 탐구하십시오. 성능을 손상시키지 않고 더 나은 이해를 위해 복잡한 모델을 단순화 할 수있는 방법을 이해하십시오. AI 모델 설명 및 해석 가능성과 관련된 도전과 제한 사항을 식별하십시오.

목차

설명 가능성과 해석 가능성은 무엇을 의미하고, ML과 AI에서 필수적인 이유는 무엇입니까?
• ML 및 AI의 설명에 대한 인기있는 비즈니스 사용 사례를 개선하는 데 필수적인 이유와 AI 및 해석에 대한 대중 비즈니스 사용 사례를 개선하는 데 필요한 이점 교란 된 데이터와 그것이 어떻게 생성되는지?
복잡한 모델에서 설명 할 수있는 설명 성과 해석 가능성이 어떻게 작동하는지
라임 모델 의사 결정을 어떻게 해석 하는가?
라임 혼란스러운 데이터에 액세스하는 방법?

Shapley actitive exclationations and halling and halling and honsudent and halling and holse 셰이프 설명?

복잡한 XGBR 모델에 대한 쉐이프 요약 플롯을 구현하고 해석하는 방법? 복잡한 XGBR 모델에 대한 쉐이프 의존성 플롯을 구현하고 해석하는 방법?
복잡한 XGBoost 모델을 구현하고 해석하는 방법 모델의 비교 테이블을 구현하고 해석하는 방법 모델 설명
• 결론
• 자주 묻는 질문
• 설명 가능성과 해석 가능성은 무엇을 의미하며, 왜 ML과 AI에서 필수적인 이유는 무엇입니까?
설명 가능성은 모델의 의사 결정에 대한 이유에 대답하는 과정입니다. 예를 들어, ML과 AI 모델이 모델이 트리의 분리 노드를 분리하는 방법을 설명하고 어떻게 분할되었는지에 대한 논리를 설명함으로써 모델의 결정에 대한 설명과 추론을 제공 할 수있을 때 설명 할 수 있다고 말할 수 있습니다.
• .반면에 해석 성은 모델의 설명과 결정을 비 기술적 사용자에게 번역하는 것과 관련된 프로세스입니다. 데이터 과학자들은 모델 예측에 기여하는 가중치 및 계수와 같은 것을 이해하는 데 도움이되며, 비 기술적 사용자가 모델이 어떻게 결정을 내린 방법과 모델이 그러한 예측을하는 데 중요한 요소를 이해하는 데 도움이됩니다.

  . AI 및 ML 모델이 LLM 및 딥 러닝 모델과 같은 수백 개의 모델 레이어와 수십억에서 수십억 개의 매개 변수로 점점 더 복잡해지면서 모델의 모델의 전체 및 로컬 관찰 수준 결정을 이해하기가 매우 어려워집니다. 모델 설명 성은 모델의 내부 작업에 대한 통찰력과 추론에 대한 설명을 제공합니다. 따라서 데이터 과학자와 AI 전문가가 설명 성 기술을 모델 구축 프로세스에 활용하는 것이 필수적이며 이는 모델의 해석 성을 향상시킬 것입니다.

  . 모델의 설명 및 해석 성을 향상시키는 이점 아래는 모델의 설명과 해석의 이점을 살펴볼 것입니다. 개선 된 신뢰 신뢰는 넓은 의미를 가진 단어입니다. 그것은 누군가의 신뢰성, 정직 또는 성실에 대한 자신감입니다. 신뢰는 사람들뿐만 아니라 생명이없는 것들과 관련이 있습니다. 예를 들어, 친구의 의사 결정에 의존하거나 완전 자동화 된 운전 차량에 의존하여 한 곳에서 다른 곳으로 당신을 운송합니다. 투명성과 의사 소통이 부족하면 신뢰가 침식 될 수 있습니다. 또한 신뢰는 시간이 지남에 따라 작은 단계를 통해 구축되며 긍정적 인 상호 작용을 반복했습니다. 우리가 사람이나 사물과 일관된 긍정적 인 상호 작용을 할 때, 그것은 그들의 신뢰성, 긍정적 인 의도 및 무해함에 대한 우리의 믿음을 강화시킵니다. 따라서 신뢰는 우리의 경험을 통해 시간이 지남에 따라 구축됩니다.

  그리고 우리가 ML & AI 모델과 그 예측에 의존하는 것이 중요한 역할을합니다. 개선 된 투명성 및 협업 기계 또는 딥 러닝 모델의 내부 작업, 의사 결정 과정 및 규칙과 선택의 직관을 설명 할 수있을 때 신뢰와 책임을 확립 할 수 있습니다. 또한 이해 관계자 및 파트너와의 협력 및 참여를 향상시키는 데 도움이됩니다.

  개선 된 문제 해결 예상대로 무언가가 깨지거나 작동하지 않으면 문제의 출처를 찾아야합니다. 이를 위해서는 시스템이나 모델의 내부 작업으로의 투명성이 중요합니다. 문제를 진단하고 효과적인 조치를 취하기 위해 문제를 해결하는 데 도움이됩니다. 예를 들어, "B"를 대출로 승인해서는 안되는 사람을 예측하는 모델을 고려하십시오. 이를 이해하려면 모델의 예측과 결정을 조사해야합니다. 여기에는 사람 "B 's"관찰에 대한 모델이 우선 순위로 구성된 요인을 식별하는 것이 포함됩니다.

  이러한 시나리오에서 모델 설명은 사람과 관련된 모델의 예측과 의사 결정에 대해 더 깊이 살펴볼 때 매우 편리합니다. 또한 모델의 내부 작업을 더 깊이 살펴 보는 동안 모델 결정에 영향을 미치고 영향을 줄 수있는 몇 가지 편견을 빠르게 발견 할 수 있습니다. 따라서 ML 및 AI 모델에 대한 설명을 갖고이를 활용하여 문제 해결, 모니터링 및 지속적인 개선 효율성을 높이고 편견을 식별하고 완화하고 모델 성능을 향상시키는 데 도움이됩니다.

  ML 및 AI에 대한 인기있는 비즈니스 사용 사례는 설명 가능성 및 해석 가능성

  우리는 항상 데이터 중심의 정보에 영향을 미치고 결정하는 모델의 전반적인 예측 능력에 관심이 있습니다. 은행 및 금융, 소매, 의료, 인터넷과 같은 다양한 산업 분야에서 ML 및 AI 모델에 대한 수많은 응용 프로그램이 있습니다. 상업, 보험, 자동차, 제조, 교육, 통신, 여행, 공간 등. 다음은 몇 가지 예입니다 은행 및 금융 은행 및 금융 산업의 경우 대출을 제공하거나 신용 카드를 발행하는 데 올바른 고객을 식별하는 것이 중요합니다. 또한 사기 거래 예방에 관심이 있습니다. 또한,이 산업은 규제가 높다.

  응용 프로그램 승인 및 사기 모니터링과 같은 이러한 내부 프로세스를 효율적으로 만들기 위해 금융 및 금융 레버리지 ML 및 AI 모델링은 이러한 중요한 결정을 돕습니다. 그들은 ML 및 AI 모델을 사용하여 특정 및 알려진 요인에 따라 결과를 예측합니다. 일반적으로, 대부분의 기관들은 트랜잭션과 데이터를 지속적으로 모니터링하여 패턴, 추세 및 이상을 탐지합니다. 그들이 처리하는 각 응용 프로그램에 대한 ML 및 AI 모델 예측을 이해하는 것이 중요해집니다. 그들은 모델 예측의 추론과 예측에 중요한 역할을 한 요인을 이해하는 데 관심이 있습니다.

  이제, ML 모델이 신용 점수가 높은 일부 고객에 대해 대출 신청을 거부 할 것으로 예측했다고 가정 해 봅시다. 이러한 시나리오에서는 위험 분석을위한 모델 설명을 활용하고 모델이 고객 애플리케이션을 거부하기로 결정한 이유 와이 의사 결정에서 어떤 고객 요소가 중요한 역할을했는지에 대한 더 깊은 통찰력을 얻을 수 있습니다. 이 발견은 모델 의사 결정에서 문제, 취약성 및 새로운 편견을 감지, 조사 및 완화하고 모델 성능을 향상시키는 데 도움이 될 수 있습니다.

  . 건강 관리

  요즘 의료 산업에서 ML/AI 모델은 예를 들어 병력, 실험실, 라이프 스타일, 유전학 등과 같은 다양한 요인을 기반으로 환자 건강 결과를 예측하기 위해 활용됩니다. 의료 기관이 ML/AI 모델을 사용하여 치료중인 환자가 암에 걸릴 확률이 높은지 예측한다고 가정 해 봅시다. 이러한 문제는 사람의 수명과 관련이 있으므로 AI/ML 모델은 정확도가 매우 높은 결과를 예측할 것으로 예상됩니다. 이러한 시나리오에서는 모델의 예측, 결정 규칙을 더 깊이 바라 볼 수 있으며 예측에 영향을 미치는 요소를 이해하는 것이 중요해집니다. 의료 전문가 팀은 실사를 수행하고 ML/AI 모델의 투명성이 예측 된 환자 결과 및 기여 요인과 관련된 명확하고 상세한 설명을 제공 할 것으로 기대합니다. 여기서 ML/AI 모델 설명이 필수화되는 곳입니다 이 심문은 때때로 모델 의사 결정에서 숨겨진 취약점과 바이어스를 발견하는 데 도움이 될 수 있으며 미래의 모델 예측을 개선하기 위해 해결 될 수 있습니다. 자율 차량 자율 주행 차량은 자동차,화물 트럭, 열차, 비행기, 선박, 선박, 우주선 등과 같은 자체 운영 차량입니다. 이러한 차량에서 AI 및 ML 모델은 이러한 차량이 인간의 개입없이 독립적으로 작동 할 수 있도록하는 데 중요한 역할을합니다. 이 모델은 머신 러닝 및 컴퓨터 비전 모델을 사용하여 구축됩니다. 그들은 자율 자동차/차량이 주변의 정보를 인식하고, 정보에 입각 한 결정을 내리고, 안전하게 탐색 할 수있게합니다.

  . 도로에서 작동하도록 설계된 자율 주행의 경우, 내비게이션은 차량을 실시간으로 자율적으로 안내하고, 즉 객체를 탐지하고, 교통 신호 및 표시를 인식하고, 객체 행동을 인식하고, 레인을 유지하고, 계획 경로를 유지하고, 정보를 유지하고, 사전 결정을 예측하고, 가속, 스티어링, 스티어링과 같은 적절한 행동을 취하는 것과 같은 중요한 작업을 통해 실시간으로 차량을 자율적으로 안내하는 것을 의미합니다. 자율적 인 도로 차량에는 운전자, 승객, 공공 및 공공 재산의 안전이 포함되므로 공공 신뢰, 수용 및 채택을 얻기 위해 완벽하게 작동하고 규정 및 규정 준수를 준수해야합니다.

  따라서 이러한 차량이 결정을 내리는 데 완전히 의존하는 AI 및 ML 모델에 대한 신뢰를 구축하는 것이 매우 중요합니다. 자율 주 차량에서 AI 및 ML 설명은 설명 가능한 AI (XAI)라고도합니다. 설명 가능한 AI는 AI 작업 및 결정에 대한 피드백을 실시간으로 제공하여 사용자 상호 작용을 개선하는 데 사용할 수 있으며, 이러한 도구는 AI 결정 및 문제를 조사하고 숨겨진 편향 및 취약성을 식별 및 제거하고 자율 주행 차량 모델을 개선하는 도구 역할을 할 수 있습니다.

  소매 소매 산업에서 AI 및 ML 모델은 제품 판매, 재고 관리, 마케팅, 고객 지원 및 경험 등과 같은 다양한 결정을 안내하는 데 사용됩니다. ML 및 AI에 대한 설명은 모델 예측에 대한 이해를 촉진하고 판매가 발생하지 않는 제품의 예측과 관련된 예측과 관련된 예측과 관련된 예측과 관련된 예측에 대한 자세한 내용을 촉진합니다. 또는 어떤 마케팅 캠페인이 판매 등에 긍정적 인 영향을 미치는 등 위의 비즈니스 사용 사례에서 ML 및 AI 모델이 전체 모델에 대한 명확하고 사용 가능한 설명과 비즈니스 의사 결정을 안내하고 비즈니스 운영을 효율적으로 만드는 개별 예측을하는 것이 매우 중요하다는 것을 분명히 알 수 있습니다.

  . 일부 복잡한 모델에는 내장 설명 가능성이 있으며 일부 모델은이를 위해 외부 도구에 의존합니다. 오늘날 모델 설명 가능성을 추가하는 데 도움이되는 몇 가지 모델 공연 도구가 있습니다. 우리는 이용 가능한 두 가지 도구를 더 깊이 살펴볼 것입니다.

  ML 및 AI 모델을 개선하기위한 도구 설명 가능성 및 해석 성

  모델 의사 결정 프로세스와 관련된 정보를 제공하는 모든 도구 및 모델 예측의 기능 기여는 매우 유용합니다. 시각화를 통해 설명을보다 직관적으로 만들 수 있습니다.

  이 기사에서는 ML 및 AI 모델 설명 및 해석 가능성을 추가하기 위해 널리 사용되는 두 가지 외부 도구를 자세히 살펴볼 것입니다.

  라임 (로컬 해석 가능한 모델-비수성 설명)

  Shap (형태 적 부가 적 설명)

  라임은 모델 불가지론이며, 모든 기계 학습 및 딥 러닝 모델로 구현 될 수 있습니다. 선형 및 로지스틱 회귀, 의사 결정 트리, 랜덤 포레스트, XGBOOST, KNN, ELASTICNET 등과 같은 기계 학습 모델 및 RNN, LSTM, CNN, 미리 훈련 된 블랙 박스 모델 등과 같은 심층 신경망 모델과 같은 기계 학습 모델과 함께 사용할 수 있습니다. 간단한 해석 가능한 모델을 사용하여 복잡한 모델의 내부 작업을 설명 할 수 있다고 가정합니다. 간단한 해석 가능한 모델은 간단한 선형 회귀 모델 또는 의사 결정 트리 모델 일 수 있습니다. 여기서는 간단한 선형 회귀 모델을 해석 가능한 모델로 사용하여 라임/쉐이프 설명을 사용하여 복잡한 모델에 대한 설명을 생성했습니다. 라임은 또한 한 번에 단일 관찰에서 로컬로 국소적인 해석 가능한 모델 공제 설명 작업을 호출하고 모델 이이 관찰의 점수를 어떻게 예측했는지 이해하는 데 도움이됩니다. 원래 관측에서 특징의 혼란스러운 값을 사용하여 합성 데이터를 생성하여 작동합니다. 교란 된 데이터는 무엇이며 어떻게 생성되는지? 테이블 데이터에 대한 교란 된 데이터 세트를 만들려면 Lime은 먼저 관찰의 모든 기능을 취한 다음 다양한 변환을 사용하여 기능 값을 약간 수정하여 관찰을위한 새로운 값을 반복적으로 생성합니다. 교란 된 값은 원래 관측 값에 매우 가깝고 원래의 값에 가까운 지역에서. 텍스트 및 이미지 데이터 유형의 경우 Lime은 원래 데이터 세트에서 기능을 무작위로 선택하고 기능에 대한 기능의 새로운 혼란스러운 값을 생성하여 데이터 세트를 반복적으로 생성합니다. 라임 커널 너비는 데이터 포인트 이웃의 크기를 제어합니다.

  커널 크기가 작다는 것은 이웃이 작고 원래 값에 가장 가까운 포인트가 설명에 크게 영향을 미치는 반면, 큰 커널 크기의 경우 먼 지점이 라임 설명에 기여할 수 있습니다.

  . 더 넓은 이웃 크기는 정확한 설명을 덜 이끌어 내지 만 데이터의 더 넓은 트렌드를 발견하는 데 도움이 될 수 있습니다. 보다 정확한 지역 설명을 위해서는 작은 이웃 크기를 선호해야합니다.

  그림 이해 아래 그림 (그림 -1)을 통해 우리는 교란 된 값, 커널 크기 및 이웃에 약간의 직관을 주려고 노력합니다. 이 논의의 경우 BigMart 데이터 세트의 데이터 예제를 사용했으며 회귀 문제입니다. 우리는 라임에 대한 테이블 데이터를 사용했습니다

  BigMart 데이터 세트에서 관측 #0을 고려합니다. 이 관찰에는 값이 13 인 'item_type'기능이 있습니다.이 기능의 평균 및 표준 편차를 계산했으며 평균 값은 7.234이고 표준 편차는 4.22입니다. 이것은 위 그림에 나와 있습니다. 이 정보를 사용하여 z- 점수를 1.366과 동일하게 계산했습니다. z- 점수의 왼쪽에있는 영역은 x 아래로 떨어질 기능의 값의 %를 우리에게 제공합니다. 1.366의 Z- 점수의 경우 x = 13 미만으로 떨어질 기능에 대해 약 91.40% 값이 있습니다. 따라서, 우리는이 기능에 대해 커널 폭이 x = 13 미만이어야한다는 직관을 얻습니다. 그리고 커널 너비는 교란 된 데이터에 대한 이웃의 크기를 제어하는 ​​데 도움이 될 것입니다. 아래 그림 -2는 BigMart 데이터 세트의 3 가지 원래 테스트 데이터 포인트를 보여 주며 라임 프로세스의 직관을 얻기 위해이를 고려했습니다. Xgboost는 복잡한 모델이며 원래 관측 인스턴스에 대한 예측을 생성하는 데 사용되었습니다. 이 기사에서는 BigMart 전처리 및 인코딩 된 데이터 세트의 상위 3 개 레코드를 사용하여 토론을 뒷받침 할 예제 및 설명을 제공합니다.

  라임 거리 공식 라임은 내부적으로 원래 데이터 포인트와 인근의 지점 사이의 거리를 사용하고 유클리드 거리를 사용하여 거리를 계산합니다. 지점 X = 13에 좌표 (x1, y1)가 있고 이웃의 다른 지점에는 좌표 (x2, y2)가 있고,이 두 지점 사이의 유클리드 거리는 아래 방정식을 사용하여 계산됩니다.

  아래 그림 (그림 4)은 파란색 교란 된 데이터 포인트와 원래 값을 빨간색 데이터 포인트로 보여줍니다. 원래 데이터 포인트로부터 짧은 거리에있는 교란 된 데이터 포인트는 석회 설명에 더 큰 영향을 미칩니다.

  위의 방정식은 2D를 고려합니다. N 수의 치수를 가진 데이터 포인트에 대해 유사한 방정식을 도출 할 수 있습니다. 커널 너비는 라임이 기능의 혼란스러운 값을 선택하기위한 이웃의 크기를 결정하는 데 도움이됩니다. 값이나 데이터 포인트가 원래 값에서 멀어지면 모델 결과를 예측하는 데 영향을 줄 것입니다. 아래 그림 (그림 6)은 원래 값과 유사성 점수와 함께 혼란스러운 특징 값을 보여주고 XGBoost 모델을 사용한 교란 된 인스턴스 예측 및 그림 (그림 5)은 검은 색 상자 해석 가능한 간단한 모델 (선형 회귀)에 대한 정보를 보여줍니다.

  복잡한 모델에서 설명 할 수있는 설명 및 해석 가능성이 어떻게 작동하는지 XGBOOST, Random Forest 등과 같은 복잡한 모델에는 기본 내장 모델 설명 기능 기능이 제공됩니다. XGBoost 모델은 글로벌 수준에서 모델 설명을 제공하며 관찰 국소 수준에서 예측을 설명 할 수 없습니다.이 논의를 위해 XGBoost를 복잡한 모델로 활용 했으므로 아래에서 제작 된 모델 설명에 대해 논의했습니다. XGBOOST는 모델의 글로벌 의사 결정에 직관을 얻기위한 의사 결정 트리를 플로팅하는 기능과 예측에 대한 기능의 중요성을 제공합니다. 기능 중요성 모델의 결과에 대한 기여의 순서대로 기능 목록을 반환합니다. 먼저, XGBoost 모델을 시작한 다음 교육 세트의 독립 및 대상 기능을 사용하여 교육했습니다. XGBoost 모델의 내장 설명 기능은 모델에 대한 통찰력을 얻는 데 사용되었습니다. xgboost 내에서 제작 된 설명을 플로팅하려면 다음 소스 코드를 사용하십시오.

  아래 그림 (그림 7)은 위의 BigMart Complex XGBOOST 모델의 출력 결정 트리를 보여줍니다.

  위의 XGBoost 모델 트리에서 우리는 모델의 의사 결정과 데이터를 분할하고 최종 예측에 사용한 조건부 규칙에 대한 통찰력을 얻습니다. 위에서 볼 때이 XGBoost 모델의 경우 기능 Item_MRP 기능이 결과에 가장 많이 기여한 다음 의사 결정에 outlet_type가 이어졌습니다. Xgboost의 기능 중요성을 사용하여이를 확인할 수 있습니다 소스 코드 기능 중요성을 표시하는

  내장 설명을 사용하여 XGBoost 모델의 기능 중요성을 표시하려면 다음 소스 코드를 사용하십시오.

  아래 그림 (그림 9)은 위의 xgboost 모델 내에서 제작 된 설명을 사용하여 생성 된 기능을 보여줍니다.

  # plot single tree
  plot_tree(xgbr_model)
  plt.figure(figsize=(10,5))
  plt.show()

  위의 XGBOOST 기능 가져 오기에서 흥미롭게도 XGBoost 모델의 경우 outlet_type가 item_mrp보다 더 높은 기여 크기가 있음을 알 수 있습니다. 또한이 모델은 다른 기여 기능과 모델 예측에 미치는 영향에 대한 정보를 제공했습니다. 우리가 알 수 있듯이 XGBoost 모델 설명은 전 세계적이며 많은 양의 정보를 제공하지만 기능 기여 방향과 같은 일부 추가 정보는 누락되었으며 지역 수준의 관찰에 대한 통찰력이 없습니다. 방향은 기능이 예측 된 값을 증가 시키거나 예측 값을 감소시키는 데 기여하는지 알려줍니다. 분류 문제의 경우 기능 기여의 방향은 기능이 클래스 "1"또는 클래스 "0"에 기여하는지 여부를 아는 것을 의미합니다. 이것은 Lime 및 Shap과 같은 외부 설명 도구가 유용 할 수 있으며 기능 기여 또는 기능 영향의 방향에 대한 정보로 XGBoost 모델 설명을 보완 할 수 있습니다. 모델 의사 결정 프로세스를 설명하기위한 내장 기능이없는 모델의 경우 Lime 은이 기능을 추가하여 지역 및 글로벌 인스턴스에 대한 예측 결정을 설명하는 데 도움이됩니다. 라임 모델 의사 결정은 어떻게 작동하고 설명을 해석하는 방법? 라임은 복잡한 모델, 간단한 모델 및 모델 작동에 대한 지식이없고 예측 만 가지고있는 블랙 박스 모델과 함께 사용할 수 있습니다. 따라서, 우리는 라임 모델을 모델이 필요한 모델과 직접 맞출 수 있으며, 대리 간단한 모델을 통해 블랙 박스 모델을 설명하는 데 사용할 수 있습니다. 아래는 XGBoost 회귀 모델을 복잡한 블랙 박스 모델로 사용하고 간단한 선형 회귀 모델을 활용하여 블랙 박스 모델의 라임 설명을 이해합니다. 이를 통해 동일한 복잡한 모델에 대한 두 가지 접근 방식을 사용하여 라임에 의해 생성 된 설명을 비교할 수 있습니다. 라임 라이브러리를 설치하려면 다음 코드를 사용하십시오

  접근법 1 : 복잡한 XGBR 모델을 사용하여 라임 설명을 구현하고 해석하는 방법? XGBOOST와 같은 복잡한 모델과 함께 라임 설명을 직접 구현하려면 다음 코드를 사용하십시오.

  이것은 아래 그림처럼 보이는 출력을 생성합니다.

  위에서부터 우리는 교란 된 관찰 #0의 유사성 점수가 71.85%이며,이 관찰의 특징이 원래 관찰과 유사하다는 것을 나타냅니다. 관찰 #0에 대한 예측 값은 1670.82이며, 전체 예측 값 범위는 21.74와 5793.40입니다. 라임은 관찰 #0 예측의 가장 기여한 기능을 식별하고 기능 기여의 크기의 내림차순으로 배열했습니다. 파란색으로 표시된 기능은 모델의 예측 값을 감소시키는 데 기여하는 반면 주황색으로 표시된 기능은 관찰에 대한 예측 값, 즉 로컬 인스턴스 #0. 또한 , Lime은 관찰을 위해 데이터를 분할하기 위해 모델이 사용하는 기능 수준 조건 규칙을 제공함으로써 더 나아갔습니다.

  라임 를 사용한 기능 기여 및 모델 예측 시각화 위의 그림 (그림 -13)에서 왼쪽의 플롯은 모든 관측에 의해 예측 된 값 (최소 최대)의 전체 범위를 나타내며 중심의 값은이 특정 사례의 예측 값, 즉 관측치입니다.

  . 중앙의 플롯은 청색 색상을 표시합니다. 모델 예측에 대한 부정적인 기여 기능을 나타냅니다. 로컬 인스턴스의 모델 예측에 대한 긍정적으로 기여하는 기능은 컬러 오렌지로 표시됩니다. 기능이있는 수치 값은 특징 교란 된 값을 나타내거나 모델 예측에 대한 기능 기여의 크기를 나타낼 수 있다고 말할 수 있습니다.이 경우 특정 관측 (#0) 또는 로컬 인스턴스

  를위한 것입니다. 바로 오른쪽에있는 플롯은 인스턴스에 대한 예측을 생성하는 데 모델이 제공하는 기능의 중요 순서를 나타냅니다. 참고 :이 코드를 실행할 때마다 라임은 기능을 선택하고 약간 새로운 가중치를 할당하므로 예측 값과 플롯을 변경할 수 있습니다. 접근 2 : 대리 간단한 LR 모델을 사용하여 블랙 박스 모델 (XGBR)에 대한 라임 설명을 구현하고 해석하는 방법? Xgboost와 같은 복잡한 블랙 박스 모델로 라임을 구현하려면 대리 모델 방법을 사용할 수 있습니다. 대리 모델의 경우 선형 회귀 또는 의사 결정 트리 모델과 같은 간단한 모델을 사용할 수 있습니다. 라임은이 간단한 모델에서 매우 잘 작동합니다. 그리고 우리는 복잡한 모델을 라임을 가진 대리 모델로 사용할 수 있습니다. 대리 간단한 모델과 함께 라임을 사용하려면 먼저 블랙 박스 모델의 예측이 필요합니다.

  두 번째 단계 복잡한 모델, 트레인 세트의 독립적 인 기능 및 라임을 사용하여 두 번째 단계에서, 우리는 교란 된 기능 값의 새로운 데이터 세트를 생성 한 다음, 교란 된 기능과 복잡한 모델 예측 값을 사용하여 대리 모델 (이 경우 선형 회귀)을 훈련시킵니다.

  라임을 사용하여 교란 된 기능 값을 생성하려면 아래에 표시된 다음 소스 코드를 활용할 수 있습니다.

  위의 코드는 회귀를 위해 작동합니다. 분류 문제의 경우 모드를 "분류"로 수정해야합니다.

  노트 마지막으로, 우리는 대리 LR 모델을 사용하여 로컬 인스턴스 #0의 라임을 맞추고 설명을 봅니다. 또한 블랙 박스 모델 (XGBR)의 기능 기여를 해석하는 데 도움이됩니다. 이렇게하려면 아래 표시된 코드를 사용하십시오

  위의 실행시 아래 그림 (그림 -13)과 같이 다음과 같은 라임 설명을 얻었습니다.

  우리가 즉시 알아 차린 한 가지는 XGBoost 모델과 함께 라임을 직접 사용했을 때, 라임 설명 점수가 관찰 #0의 경우 (71.85%) 더 높았으며 블랙 박스 모델로 취급하고 대리 LR 모델을 사용하여 블랙 박스 모델 (XGBOOST)을 얻었을 때 설명 점수를 크게 줄였습니다. 이것은 대리 모델 접근법에 따라 원래 기능과 유사한 관찰에 적은 수의 기능이있을 것이므로 원래 모델의 원래 모델 및 라임과 비교하여 설명자를 사용하여 예측에 약간의 차이가있을 수 있습니다.

  . 관찰 #0에 대한 예측 값은 2189.59이며, 예측 된 값의 전체 범위는 2053.46 ~ 2316.54입니다. Lime XGBR을 사용하는 관찰 #0의 예측 값은 1670.82입니다. 라임 교란 데이터에 액세스하는 방법? 라임 혼란스러운 값을 보려면 다음 코드를 사용하십시오.

  위의 출력은 아래 그림과 같이 보일 것입니다.

  라임 기능 중요성

  모델의 각 인스턴스는 인스턴스에 대한 예측을 생성 할 때 다른 기능 중요성을 제공합니다. 이 식별 된 모델 기능은 모델 예측에서 중요한 역할을합니다. 기능 중요도 값은 모델 예측에 대한 교란 된 기능 값 또는 식별 된 기능의 새로운 크기를 나타냅니다.

  # plot single tree
  plot_tree(xgbr_model)
  plt.figure(figsize=(10,5))
  plt.show()

  라임 설명 점수는 무엇이며 해석하는 방법?

  라임 설명 점수는 라임 설명의 정확도와 모델 결과를 예측할 때 식별 된 기능의 역할을 나타냅니다. 설명 가능한 점수가 높을수록 관찰에 대한 모델에 의한 식별 된 기능 이이 인스턴스의 모델 예측에서 중요한 역할을했음을 나타냅니다. 위의 그림 (그림 -13)에서, 우리는 해석 가능한 대리 LR 모델이 관찰에서 식별 된 특징에 0.4954 점수를 주었다는 것을 알 수있다. 이제 모델에 설명을 추가하기 위해 Shapely라는 다른 도구를 살펴 보겠습니다. 쉐이프 이해 (Shapley additive 설명) ML 및 AI 모델 설명에 널리 사용되는 또 다른 도구는 쉐이프 (형태 적 부가 적 설명)입니다. 이 도구는 또한 모델이 불가능합니다. 그것의 설명은 "Shapley value"라는 협력 게임 이론 개념을 기반으로합니다. 이 게임 이론에서 모든 플레이어의 기여는 고려되며 각 플레이어는 전체 결과에 대한 기여에 따라 가치가 부여됩니다. 따라서 모델 결정에 대한 공정하고 해석 가능한 통찰력을 제공합니다.

  Sapely에 따르면, 플레이어 연합은 함께 결과를 달성하기 위해 함께 노력합니다. 모든 플레이어는 동일하지 않으며 각 플레이어는 결과에 다르게 기여하는 데 도움이되는 뚜렷한 특성을 가지고 있습니다. 대부분의 경우, 게임에서 승리하는 데 도움이되는 여러 플레이어의 기여입니다. 따라서 플레이어 간의 협력은 유익하고 가치가 있어야하며, 단일 플레이어의 결과에 대한 기여에만 의존해서는 안됩니다. 그리고 성과당 결과에서 생성 된 보상은 기여에 따라 플레이어들에게 배포되어야합니다.

  . Shap ML 및 AI 모델 설명 도구는 위의 개념을 기반으로합니다. 데이터 세트의 기능을 팀의 개별 플레이어로 취급합니다 (관찰). 연합은 ML 모델에서 함께 작동하여 결과를 예측하고 보상은 모델 예측입니다. Shap은 개별 기능 (플레이어) 사이에서 결과 이득을 공정하고 효율적으로 분배하여 모델 결과에 대한 기여를 인식합니다. Shapley 값을 사용한 기부금의 공정 분포

  위의 그림 (그림 -15)에서, 우리는 두 명의 선수가 경쟁에 참여하는 것을 고려했으며 결과는 상금의 형태로 달성됩니다. 두 선수는 다른 연합 (C12, C10, C20, C0)을 형성하여 참여하며 각 연합을 통해 다른 상을받습니다. 마지막으로, 우리는 형태가있는 평균 가중치가 결과에 대한 각 플레이어의 기여를 결정하고 참가자들 사이에 상금을 공정하게 배포하는 데 어떻게 도움이되는지 봅니다. "I"플레이어의 경우 그림 (그림 -16)에 표시된 다음 방정식을 사용하여 각 플레이어 또는 기능의 쉐이프 값을 결정할 수 있습니다.

  쉐이브 라이브러리를 더 탐색합시다.

  셰이프 라이브러리 설치를 설치하고 초기화하는 방법? 쉐이브 라이브러리를 설치하려면 아래와 같이 다음 소스 코드를 사용하십시오. 복잡한 XGBR 모델 쉐이프 설명을 구현하고 해석하는 방법?

  SHAP 라이브러리는 복잡한 모델과 직접 사용하여 설명을 생성 할 수 있습니다. 아래는 복잡한 XGBoost 모델과 함께 직접 Shap을 사용하는 코드입니다 (라임 설명에 사용 된 것과 동일한 모델 인스턴스 사용) .

  복잡한 XGBR 모델에 대한 쉐이프 값을 생성하는 방법?

  위의 것은 연합의 각 기능 플레이어에 대한 쉐이프 값의 배열, 즉 테스트 데이터 세트의 관찰을 표시합니다. 쉐이프 값은 아래 그림 (그림 19)과 같이 보입니다.

  복잡한 XGBR 모델의 쉐이프 기능 중요성은 무엇입니까?

  Shap은 모델의 결과에 기여한 기능을 식별하는 데 도움이됩니다. 각 기능이 예측과 그 영향에 어떤 영향을 미쳤는지 보여줍니다. Shap은 또한 모델의 기능의 기여도를 모델의 다른 사람들과 비교합니다.

  Shap은 기능의 가능한 모든 순열을 고려하여이를 달성합니다. 기능이 있거나없는 모델 결과를 계산하고 비교하여 전체 팀과 함께 각 기능 기여를 계산합니다 (모든 플레이어는 고려 된 기능). 복잡한 XGBR 모델에 대한 쉐이프 요약 플롯을 구현하고 해석하는 방법? SHAP 요약 플롯은 쉐이프 기능 기여, 중요성 및 결과에 미치는 영향을 보는 데 사용될 수 있습니다.

  다음은 그림 (그림 20)이 요약 플롯을 생성하기위한 소스 코드를 보여줍니다.

  위의 그림 (그림 -21)은 Bigmart 데이터에 대한 쉐이프 요약 플롯을 보여줍니다. 위에서부터 우리는 Shap이 BigMart 데이터 세트의 기능을 중요 순서대로 배열했음을 알 수 있습니다. 오른쪽에서, 우리는 상단에 고 부가가치 기능에서 배열 된 기능이 하단에 배열 된 낮은 값을 볼 수 있습니다. 또한 모델 기능이 결과에 미치는 영향을 해석 할 수 있습니다. 기능 충격은 쉐이프 평균 값을 중심으로 수평으로 표시됩니다. 쉐이프 평균값의 왼쪽의 특징에 대한 쉐이프 값은 부정적인 영향을 나타내는 핑크색으로 표시됩니다. SHAP 평균 값의 오른쪽에있는 기능 쉐이프 값은 긍정적 인 영향에 대한 기능 기여를 나타냅니다. 쉐이프 값은 또한 결과에 대한 특징의 크기 또는 영향을 나타냅니다.

  따라서, Shap은 예측 된 결과에 대한 각 기능의 기여의 크기와 방향을 나타내는 모델의 전체 그림을 나타냅니다.

  . 복잡한 XGBR 모델에 대한 셰이프 의존성 플롯을 구현하고 해석하는 방법?

  쉐이프 기능 의존성 플롯을 사용하면 기능 관계를 다른 기능과 해석하는 데 도움이됩니다. 위의 플롯에서는 item_mrp가 outlet_type에 의존하는 것 같습니다. outlet_types 1 ~ 3의 경우 item_mrp는 추세가 증가하는 반면, outlet_type 0에서 outlet_type 1에서 위의 내용에서 볼 수 있듯이 Item_Mrp는 추세가 감소합니다.

  # plot single tree
  plot_tree(xgbr_model)
  plt.figure(figsize=(10,5))
  plt.show()

  복잡한 XGBR 모델에 대한 Shap Force 플롯을 구현하고 해석하는 방법?

  지금까지 우리는 전 세계 수준에서 쉐이프 기능 중요성, 영향 및 의사 결정을 보았습니다. Shap Force 플롯은 로컬 관찰 수준에서 모델 의사 결정에 직관을 얻는 데 사용될 수 있습니다. 쉐이프 포스 플롯을 사용하기 위해 아래 코드를 사용할 수 있습니다. 자신의 데이터 세트 이름을 사용해야합니다. 다음 코드는 테스트 데이터 세트의 첫 번째 관찰, 즉 x_unseen_test.iloc [0]를 살펴 봅니다. 이 숫자는 다른 관찰을 조사하기 위해 변경 될 수 있습니다.

  # plot single tree
  plot_tree(xgbr_model)
  plt.figure(figsize=(10,5))
  plt.show()

  우리는 위의 힘 플롯을 아래와 같이 해석 할 수 있습니다. 기본 값은 SHAP 대리 LR 모델을 사용하여 로컬 인스턴스 #0의 예측 값을 나타냅니다. 짙은 핑크색으로 표시된 기능은 예측 값을 높이는 반면, 파란색으로 표시된 기능은 예측을 낮은 값으로 끌어 올리는 기능입니다. 기능이있는 숫자는 기능 원본 값입니다. 복잡한 XGBoost 모델에 대한 쉐이프 의사 결정 플롯을 구현하고 해석하는 방법? 샤이프 의존성 플롯을 표시하려면 아래 그림 24와 같이 다음 코드를 사용할 수 있습니다.

  쉐이프 의사 결정 플롯은 모델 예측에 대한 다른 모델 기능의 영향을 보는 또 다른 방법입니다. 아래 의사 결정 도표에서 우리는 예측 된 결과, 즉 품목 배출구 판매에 대한 다양한 모델 기능의 영향을 시각화하려고 시도했습니다. 아래 결정 도표에서 우리는 특징 item_mrp가 예측 된 결과에 긍정적 인 영향을 미친다는 것을 관찰합니다. 품목 배출구 판매가 증가합니다. 마찬가지로, outlet_identifier_out018은 또한 판매를 인상함으로써 긍정적으로 기여합니다. 반면에, item_type는 결과에 부정적인 영향을 미칩니다. 항목 배출구 판매가 줄어 듭니다. 마찬가지로 outlet_identifier_27도 부정적인 기여로 판매를 줄입니다. 아래 플롯은 대형 마트 판매 데이터에 대한 의사 결정 도표를 보여줍니다.

  TreeExplainer를 사용하여 복잡한 XGBR 모델에 대한 Shap Force 플롯을 구현하고 해석하는 방법?

  대리 모델을 사용하여 블랙 박스 모델 쉐이프 설명을 구현하고 해석하는 방법? 대리 모델 (여기에서 사용 된 선형 회귀 모델)과 함께 쉐이프 설명을 사용하려면 다음 코드를 사용하십시오. 선형 회귀 모델은 블랙 박스 모델의 예측과 훈련 세트 독립적 인 기능을 사용하여 훈련됩니다.

  쉐이프 설명자 대리 모델의 경우 쉐이프 값은 아래와 비슷합니다.

  # feature importance of the model
  feature_importance_xgb = pd.DataFrame()
  feature_importance_xgb['variable'] = X_train.columns
  feature_importance_xgb['importance'] = xgbr_model.feature_importances_

  대리 LR 모델을 사용하여 블랙 박스 모델의 쉐이프 요약 플롯을 구현하고 해석하는 방법? 블랙 박스 대리 모델에 대한 쉐이프 요약 플롯을 표시하려면 코드가 아래에서 보일 것입니다.

  블랙 박스 대리 LR 모델에 대한 위의 쉐이프 요약 플롯에서, item_type 및 item_mrp는 item_type가 전반적인 중립 영향을 미치는 가장 높은 기여 기능 중 하나이며, 항목 _mrp는 결과를 증가시키는 데 기여하는 오른쪽쪽으로 당기고있는 것으로 보인다 (IATIM_OUTLET_SALES). 블랙 박스 대리의 쉐이프 의존성 플롯을 구현하고 해석하는 방법 간단한 LR 모델? 대리 LR 모델을 사용하여 SHAP DEPONECE 플롯을 구현하려면 다음 코드를 사용하십시오.

  이것의 출력은 다음과 같습니다.

  위의 플롯에서 블랙 박스 대리 LR 모델의 경우 MRP는 출구 유형 0 및 1에 대한 경향이 증가하고 출구 유형 3에 대한 경향이 감소한다고 말할 수 있습니다. 모델의 비교 테이블

  아래는 각 모델을 비교하기위한 테이블을 살펴볼 것입니다

  Aspect	LIME	SHAP	Blackbox Surrogate LR Model	XGBR Model (Complex)
  Explainability	Local-level explainability for individual predictions	Global-level and local-level explainability	Limited explainability, no local-level insights	Limited local-level interpretability
  Model Interpretation	Uses synthetic dataset with perturbed values to analyze model’s decision rationale	Uses game theory to evaluate feature contributions	No local-level decision insights	Global-level interpretability only
  Explanation Score	Average explanation score = 0.6451	Provides clear insights into feature importance	Lower explanation score compared to LIME XGBR	Higher prediction accuracy but lower explanation
  Accuracy of Closeness to Predicted Value	Matches predicted values closely in some cases	Provides better accuracy with complex models	Low accuracy of closeness compared to LIME	Matches predicted values well but limited explanation
  Usage	Helps diagnose and understand individual predictions	Offers fairness and transparency in feature importance	Not suitable for detailed insights	Better for high-level insights, not specific
  Complexity and Explainability Tradeoff	Easier to interpret but less accurate for complex models	Higher accuracy with complex models, but harder to interpret	Less accurate, hard to interpret	Highly accurate but limited interpretability
  Features	Explains local decisions and features with high relevance to original data	Offers various plots for deeper model insights	Basic model with limited interpretability	Provides global explanation of model decisions
  Best Use Cases	Useful for understanding decision rationale for individual predictions	Best for global feature contribution and fairness	Used when interpretability is not a major concern	Best for higher accuracy at the cost of explainability
  Performance Analysis	Provides a match with XGBR prediction but slightly lower accuracy	Performs well but has a complexity-accuracy tradeoff	Limited performance insights compared to LIME	High prediction accuracy but with limited interpretability

  라임의 혼란스러운 기능과 모델 설명

  의 통찰력 또한, 석회 혼란스러운 값을 분석 할 때, 우리는 석회가 선택한 기능을 어떻게 배정하고 교란 된 가중치를 그들에게 할당하고 원본에 더 가깝게 예측을 가져 오려고 노력합니다.

  . 모든 라임 모델과 관측치 (상위 3 개의 행 및 선택된 기능의 경우)를 가져 오기.

  위에서, 우리는 관찰 # 0의 경우 원래 XGBR 모델 예측과 라임 XGBR 모델 예측이 일치하는 반면, 동일한 원본 기능 값의 경우 관찰 # 0에 대한 BlackBox 대리 모델 예측이 꺼져 있음을 알 수 있습니다. 동시에 Lime XGBR 모델은 높은 설명 점수 (독창적 인 기능과의 유사성)를 보여주었습니다. 복잡한 라임 XGBR 모델에 대한 설명 점수의 평균은 0.6451이고 블랙 박스 대리 LR 라임 모델은 0.5701입니다. 이 경우 라임 XGBR의 평균 설명 점수는 블랙 박스 모델보다 높습니다. 예측 값의 친밀감의 정확성

  아래에서는 세 가지 모델에 대한 예측 값의 근접성의 % 정확도를 분석했습니다.

  간단한 LR 모델과 라임 복합체 XGBR 모델에 의한 예측 값의 % 정확도는 동일하며 두 모델 모두 관찰 #1에 대해 100 % 정확도를 달성합니다. 이는 예측 된 값이 복잡한 XGBR 모델에 의한 실제 예측과 밀접하게 일치 함을 나타냅니다. 일반적으로 친밀감의 정확도가 높을수록 더 정확한 모델을 반영합니다.

  예측과 실제 값을 비교할 때 불일치가 관찰됩니다. 관찰 #3의 경우 예측 값 (2174.69)은 실제 값 (803.33)보다 상당히 높습니다. 마찬가지로, 친밀감의 % 정확도는 라임 복합체 XGBR 및 BlackBox 대리 LR 모델에 대해 계산되었습니다. 결과는 테이블에 자세히 설명 된 것처럼 다양한 성능 메트릭을 강조합니다.

  위에서부터 우리는 관찰 # 1을 위해 Blackbox 대리 LR 모델이 가장 잘 수행된다는 것을 알 수 있습니다. 다른 두 관측치 ( #2 및 #3)의 경우 동시에 모델 성능은 모두 동일합니다. 라임 복합체 XGBR 모델의 평균 성능은 약 176이고 BlackBox 대리 LR 모델은 약 186입니다. 따라서, 우리는 라임 복합 모델 정확도를 말할 수 있습니다 & lt; 라임 블랙 박스 대리 LR 모델 정확도.

  결론 라임과 셰이프는 기계 학습 및 AI 모델의 설명을 향상시키는 강력한 도구입니다. 그들은 복잡하거나 블랙 박스 모델을 더 투명하게 만듭니다. Lime은 모델의 의사 결정 과정에 대한 지역 수준의 통찰력을 제공하는 것을 전문으로합니다. Shap은 전 세계 및 지역 수준 모두에서 기능 기여를 설명하는 더 넓은 시야를 제공합니다. Lime의 정확성은 항상 XGBR과 같은 복잡한 모델과 일치하지는 않지만 개별 예측을 이해하는 데 매우 중요합니다. 반면에 Shap의 게임 이론 기반 접근 방식은 공정성과 투명성을 촉진하지만 때로는 해석하기가 더 어려울 수 있습니다. XGBR과 같은 Blackbox 모델과 복잡한 모델은 예측 정확도가 높지만 종종 설명 가능성이 줄어드는 비용을 제공합니다. 궁극적으로 이러한 도구들 사이의 선택은 예측 정확도와 모델 해석 성 사이의 균형에 따라 달라지며, 이는 사용되는 모델의 복잡성에 따라 달라질 수 있습니다. 키 테이크 아웃

  라임과 쉐프는 복잡한 AI 모델의 해석 가능성을 향상시킵니다.

  라임은 예측에 대한 지역 수준의 통찰력을 얻는 데 이상적입니다 Shap은 특징의 중요성과 공정성에 대한보다 세계적인 이해를 제공합니다.

  모델 복잡성이 높을수록 종종 정확도가 향상되지만 설명 성이 줄어 듭니다. 이러한 도구들 사이의 선택은 정확도와 해석 가능성의 필요성에 달려 있습니다.

  참조 자세한 내용은 를 사용하십시오 소스 코드 리포지토리 limedocumentation Shapdocumentation

  자주 묻는 질문
  q1. 모델 설명 성과 해석 성의 차이점은 무엇입니까?
  • 모델 설명은 지역 관찰 및 글로벌 수준에서 의사 결정을위한 모델 설명을 생성하는 것과 관련이 있습니다. 따라서 모델 해석 성은 복잡한 기술 형식에서 모델 설명을 사용자 친화적 인 형식으로 변환하는 데 도움이됩니다. AI 및 ML에서 모델 설명이 중요한 이유는 무엇입니까? 
  • Q3. 라임과 쉐이프를 사용하여 모든 모델을 해석 할 수 있습니다. 예, 라임과 셰이프는 모델의 비수성입니다. 이것은 모든 기계 학습 모델에 적용될 수 있음을 의미합니다. 두 도구 모두 모델의 설명 가능성과 해석 가능성을 향상시킵니다. 모델 설명을 달성하는 데있어 어떤 과제는 무엇입니까?

    a. 모델 설명을 달성하는 데있어서의 과제는 모델 정확도와 모델 설명 사이의 균형을 찾는 데 있습니다. 비 기술적 사용자가 설명을 해석 할 수 있도록하는 것이 중요합니다. 이러한 설명의 품질은 높은 모델 정확도를 달성하면서 유지해야합니다.

위 내용은 ML 및 AI 모델 설명 및 해석 가능성의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!