자연어 처리를 이용한 보험 문서 클러스터링 전략 및 방법
번역가 | Li Rui
리뷰어 | Sun Shujuan
보험 업계의 자연어 처리(NLP)는 고급 기호 추론을 활용하는 동시에 확장성을 향상시키는 하이브리드 기계 학습/기호 접근 방식의 이점을 누릴 수 있습니다.
보험 문서 및 정책: 복잡한 사용 사례
보험 분야에서 최대 87%의 데이터 과학 프로젝트가 개념 증명에서 생산으로 넘어가지 못하는 것으로 알려져 있습니다. 예외. 그들은 이 공간과 그 복잡함과 필연적으로 관련된 몇 가지 어려움을 극복해야 합니다.
주요 어려움은 다음과 같습니다.
- 보험 관련 문서의 복잡한 레이아웃.
- 관련 주석이 포함된 대규모 자료가 부족합니다.
레이아웃의 복잡성이 너무 커서 동일한 언어 개념이라도 문서의 위치에 따라 의미와 가치가 크게 바뀔 수 있습니다.
아래의 간단한 예를 살펴보십시오. 정책에 "테러" 보장이 있는지 여부를 식별하는 엔진을 구축하려는 경우 위치에 관계없이 다른 값을 할당해야 합니다.
(1) 선언 페이지 하위 제한 부분.
(2) 정책의 "제외" 섹션.
(3) 하나 이상의 보험 보증을 추가합니다.
(4) 보장 범위에 특정 보증을 추가합니다.
고품질의 적절한 크기의 주석이 달린 보험 문서 말뭉치의 부족은 이러한 복잡한 문서에 주석을 다는 데 따른 본질적인 어려움과 수만 개의 보험 증권에 주석을 다는 데 필요한 노력의 양과 직접적인 관련이 있습니다.
그리고 이것은 빙산의 일각에 불과합니다. 이와 더불어 보험의 개념을 정상화할 필요성도 고려해야 한다.
언어 정규화: 보험 언어에서 눈에 보이지 않지만 강력한 힘
데이터베이스를 다룰 때 개념의 정규화는 잘 알려진 프로세스입니다. 추론을 적용하고 주석 처리 속도를 높이는 것이 핵심이기 때문에 보험 분야의 NLP에도 중요합니다.
정규화 개념은 동일한 태그 언어 요소로 그룹화하는 것을 의미하며 이는 매우 다르게 보일 수 있습니다. 많은 예가 있지만 가장 중요한 예는 자연재해를 보장하는 보험에서 나옵니다.
이 경우 홍수 구역마다 다른 하위 제한이 적용됩니다. 홍수 위험이 가장 높은 지역을 종종 "고위험 홍수 구역"이라고 합니다. 이 개념은 다음과 같이 표현될 수 있습니다:
(1) 레벨 1 홍수 지역
(2) 홍수 위험 지역(SFHA)
(3) 홍수 지역 A
등
실제로 모든 보험 보장에는 함께 그룹화할 수 있는 많은 용어가 있으며, 가장 중요한 자연 재해 보장은 특정 지리적 영역과 고유한 위험에 따라 2~3단계로 구분됩니다(I, II, III).
이에 찾을 수 있는 모든 가능한 요소를 곱하면 변형의 수가 빠르게 매우 커질 수 있습니다. 이로 인해 올바른 정보를 검색, 추론 또는 라벨링하려고 할 때 기계 학습 주석자와 자연어 처리(NLP) 엔진이 모두 정체됩니다.
새로운 유형의 언어 클러스터링: 하이브리드 접근 방식
복잡한 자연어 처리(NLP) 작업을 해결하는 더 나은 방법은 기계 학습 기반 미시 언어 클러스터링을 통해 보험 업무를 개선하는 하이브리드(기계 학습/기호) 기술을 기반으로 합니다. 프로세스의 결과와 라이프사이클은 기호 엔진에 의해 상속됩니다.
비지도 학습 방법에서는 전통적인 텍스트 클러스터링이 의미론적 패턴을 추론하고 비슷한 주제, 비슷한 의미를 가진 문장 등을 가진 문서를 그룹화하는 데 사용되는 반면, 하이브리드 방법은 상당히 다릅니다. 미시 언어 클러스터는 사전 정의된 정규화된 값을 사용하여 레이블이 지정된 데이터에 대해 훈련된 기계 학습 알고리즘을 사용하여 세부적인 수준에서 생성됩니다. 미시 언어 클러스터가 추론되면 추가 기계 학습 활동이나 기호 계층을 기반으로 하는 하이브리드 파이프라인 기반 추론 논리에 사용할 수 있습니다.
이것은 프로그래밍의 전통적인 황금률인 "문제 해결"과 일치합니다. 복잡한 사용 사례(보험 분야의 대부분의 사용 사례와 마찬가지로)를 해결하는 첫 번째 단계는 해당 사용 사례를 더 작고 더 맛있는 덩어리로 나누는 것입니다.
혼합 언어 클러스터링으로 수행할 수 있는 작업은 무엇이며 확장성은 얼마나 됩니까?
기호 엔진은 훈련 단계에서 볼 수 없는 상황을 처리할 때 기계 학습의 유연성이 없기 때문에 매우 정확하지만 확장 가능하지 않은 것으로 분류되는 경우가 많습니다.
그러나 이러한 유형의 언어 클러스터링은 기계 학습을 활용하여 개념을 식별한 다음 파이프라인에서 다음 기호 엔진의 복잡하고 정확한 논리로 전달함으로써 이 문제를 해결합니다.
가능성은 무궁무진합니다. 예를 들어 기호 단계는 개념이 속한 문서 세그먼트를 기반으로 기계 학습 인식의 본질적인 가치를 변경할 수 있습니다.
다음은 기계 학습 모듈에서 전달된 레이블을 어떻게 사용하는지 알아보기 위해 "분할"(텍스트를 관련 영역으로 분할)이라는 표기 프로세스를 사용하는 예입니다.
모델이 100페이지짜리 보험에서 특정 보장이 제외되는지 여부를 이해해야 한다고 상상해 보세요.
머신 러닝 엔진은 먼저
- "미술"
- "예술 작품"
- "예술 예술 품목
- 보석
- 등 "예술" 범위의 가능한 모든 변형을 통합합니다.
이후 파이프라인의 기호 섹션에서는 '제외' 섹션에 'Arts' 태그가 언급되어 있는지 확인하여 적용 범위가 정책에서 제외되는지, 아니면 적용되는지(하위 항목으로) 이해합니다. -제한 목록) 부분).
이로 인해 기계 학습 주석자는 정책에서의 위치에 따라 모든 'Arts' 변형에 다른 라벨을 할당하는 것에 대해 걱정할 필요가 없습니다. 변형에 'Arts'(Arts) 주석만 달면 됩니다. 마이크로 언어 클러스터 역할을 합니다.
복잡한 작업의 또 다른 유용한 예는 데이터 집계입니다. 하이브리드 엔진이 특정 적용 범위의 하위 제한 사항과 적용 범위 정규화 문제를 추출하도록 설계된 경우 처리해야 할 추가 복잡성 계층이 있습니다. 즉, 집계를 위한 언어 항목의 순서입니다.
현재 작업은 특정 적용 범위의 하위 제한뿐만 아니라 해당 한정자(이벤트별, 집계별 등)도 추출하는 것이라고 생각하세요. 이 세 항목은 여러 가지 다른 주문으로 배열될 수 있습니다.
- 미술 항목당 $100,000
- 미술 항목당 $100,000
- 항목당 $100,000 미술
- $100,000 미술
- 미술 $100,000
집계하여 모두 악용 이러한 데이터 순열은 동시에 기계 학습 모델의 복잡성을 크게 증가시킬 수 있습니다. 반면에 하이브리드 접근 방식에서는 기계 학습 모델이 정규화된 레이블을 식별한 다음 기호 추론을 통해 기계 학습 부분의 입력 데이터를 기반으로 올바른 순서를 식별할 수 있습니다.
이것은 정규화된 개념을 식별하기 위해 확장 가능한 기계 학습 알고리즘 위에 무제한의 복잡한 기호 논리 및 추론을 적용할 수 있음을 보여주는 두 가지 예일 뿐입니다.
구축 및 유지 관리가 더 쉬운 확장 가능한 워크플로
확장성 외에도 상징적 추론은 전체 프로젝트 워크플로에 다른 이점을 제공합니다.
- 복잡한 작업에 대해 다른 기계 학습 워크플로를 구현할 필요가 없으며, 다른 태그를 구현해야 함 그리고 유지. 또한 단일 기계 학습 모델을 재교육하는 것은 여러 모델을 재교육하는 것보다 더 빠르고 리소스를 덜 소비합니다.
- 비즈니스 로직의 복잡한 부분은 기호적으로 처리되므로 데이터 주석자가 기계 학습 파이프라인에 사람 주석을 추가하는 것이 훨씬 쉽습니다.
- 위에서 언급한 것과 같은 이유로 테스터가 기계 학습 표준화 프로세스에 직접 피드백을 제공하는 것이 더 쉽습니다. 또한 워크플로의 기계 학습 부분이 언어 요소를 정규화하므로 사용자는 문서에 레이블을 지정할 수 있는 태그 목록이 더 적습니다.
- 기호 규칙은 자주 업데이트할 필요가 없습니다. 자주 업데이트되는 것은 기계 학습 부분이며, 이는 사용자 피드백의 이점도 얻습니다.
결론
- 보험 분야의 복잡한 프로젝트에서 기계 학습은 추론 논리를 간단한 태그로 압축하기 어렵기 때문에 어려움을 겪을 수 있으며 이는 또한 주석 작성자의 삶을 더욱 어렵게 만듭니다.
- 텍스트 배치와 추론은 동일한 언어 형식을 가진 개념의 실제 의미를 크게 바꿀 수 있습니다.
- 순수한 기계 학습 워크플로에서는 논리가 복잡할수록 프로덕션 수준의 정확성을 달성하기 위해 일반적으로 더 많은 교육 문서가 필요합니다.
- 이러한 이유로 기계 학습에는 효과적인 모델을 구축하기 위해 사전 레이블이 지정된 수천 개(심지어 수만 개)의 문서가 필요합니다.
- 하이브리드 접근 방식은 복잡성을 줄입니다. 기계 학습과 사용자의 주석은 언어 클러스터/태그를 생성하며, 이는 목표를 달성하기 위한 기호 엔진의 시작점 또는 빌딩 블록으로 사용됩니다.
- 검증된 사용자 피드백은 가장 세부적인 부분(워크플로의 상징적인 부분에서 처리할 수 있음)을 변경하지 않고도 모델을 재교육하는 데 사용할 수 있습니다.
원제: 보험 정책: 하이브리드 NLP를 통한 문서 클러스터링, 저자: Stefano Reitano
위 내용은 자연어 처리를 이용한 보험 문서 클러스터링 전략 및 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

핫 AI 도구

Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool
무료로 이미지를 벗다

Clothoff.io
AI 옷 제거제

AI Hentai Generator
AI Hentai를 무료로 생성하십시오.

인기 기사

뜨거운 도구

메모장++7.3.1
사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경

드림위버 CS6
시각적 웹 개발 도구

SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)

뜨거운 주제











기계 학습 및 데이터 과학 분야에서 모델 해석 가능성은 항상 연구자와 실무자의 초점이었습니다. 딥러닝, 앙상블 방법 등 복잡한 모델이 널리 적용되면서 모델의 의사결정 과정을 이해하는 것이 특히 중요해졌습니다. explainable AI|XAI는 모델의 투명성을 높여 머신러닝 모델에 대한 신뢰와 확신을 구축하는 데 도움이 됩니다. 모델 투명성을 향상시키는 것은 여러 복잡한 모델의 광범위한 사용은 물론 모델을 설명하는 데 사용되는 의사 결정 프로세스와 같은 방법을 통해 달성할 수 있습니다. 이러한 방법에는 기능 중요도 분석, 모델 예측 간격 추정, 로컬 해석 가능성 알고리즘 등이 포함됩니다. 특성 중요도 분석은 모델이 입력 특성에 미치는 영향 정도를 평가하여 모델의 의사결정 과정을 설명할 수 있습니다. 모델 예측 구간 추정

이 글에서는 학습 곡선을 통해 머신러닝 모델에서 과적합과 과소적합을 효과적으로 식별하는 방법을 소개합니다. 과소적합 및 과적합 1. 과적합 모델이 데이터에 대해 과도하게 훈련되어 데이터에서 노이즈를 학습하는 경우 모델이 과적합이라고 합니다. 과적합된 모델은 모든 예를 너무 완벽하게 학습하므로 보이지 않거나 새로운 예를 잘못 분류합니다. 과대적합 모델의 경우 완벽/거의 완벽에 가까운 훈련 세트 점수와 형편없는 검증 세트/테스트 점수를 얻게 됩니다. 약간 수정됨: "과적합의 원인: 복잡한 모델을 사용하여 간단한 문제를 해결하고 데이터에서 노이즈를 추출합니다. 훈련 세트로 사용되는 작은 데이터 세트는 모든 데이터를 올바르게 표현하지 못할 수 있기 때문입니다."

일반인의 관점에서 보면 기계 학습 모델은 입력 데이터를 예측된 출력에 매핑하는 수학적 함수입니다. 보다 구체적으로, 기계 학습 모델은 예측 출력과 실제 레이블 사이의 오류를 최소화하기 위해 훈련 데이터로부터 학습하여 모델 매개변수를 조정하는 수학적 함수입니다. 기계 학습에는 로지스틱 회귀 모델, 의사결정 트리 모델, 지원 벡터 머신 모델 등 다양한 모델이 있습니다. 각 모델에는 적용 가능한 데이터 유형과 문제 유형이 있습니다. 동시에, 서로 다른 모델 간에는 많은 공통점이 있거나 모델 발전을 위한 숨겨진 경로가 있습니다. 연결주의 퍼셉트론을 예로 들면, 퍼셉트론의 은닉층 수를 늘려 심층 신경망으로 변환할 수 있습니다. 퍼셉트론에 커널 함수를 추가하면 SVM으로 변환할 수 있다. 이 하나

1950년대에는 인공지능(AI)이 탄생했다. 그때 연구자들은 기계가 사고와 같은 인간과 유사한 작업을 수행할 수 있다는 것을 발견했습니다. 이후 1960년대에 미국 국방부는 인공 지능에 자금을 지원하고 추가 개발을 위해 실험실을 설립했습니다. 연구자들은 우주 탐사, 극한 환경에서의 생존 등 다양한 분야에서 인공지능의 응용 분야를 찾고 있습니다. 우주탐험은 지구를 넘어 우주 전체를 포괄하는 우주에 대한 연구이다. 우주는 지구와 조건이 다르기 때문에 극한 환경으로 분류됩니다. 우주에서 생존하려면 많은 요소를 고려해야 하며 예방 조치를 취해야 합니다. 과학자와 연구자들은 우주를 탐험하고 모든 것의 현재 상태를 이해하는 것이 우주가 어떻게 작동하는지 이해하고 잠재적인 환경 위기에 대비하는 데 도움이 될 수 있다고 믿습니다.

C++의 기계 학습 알고리즘이 직면하는 일반적인 과제에는 메모리 관리, 멀티스레딩, 성능 최적화 및 유지 관리 가능성이 포함됩니다. 솔루션에는 스마트 포인터, 최신 스레딩 라이브러리, SIMD 지침 및 타사 라이브러리 사용은 물론 코딩 스타일 지침 준수 및 자동화 도구 사용이 포함됩니다. 실제 사례에서는 Eigen 라이브러리를 사용하여 선형 회귀 알고리즘을 구현하고 메모리를 효과적으로 관리하며 고성능 행렬 연산을 사용하는 방법을 보여줍니다.

번역기 | 검토자: Li Rui | Chonglou 인공 지능(AI) 및 기계 학습(ML) 모델은 오늘날 점점 더 복잡해지고 있으며 이러한 모델에서 생성되는 출력은 이해관계자에게 설명할 수 없는 블랙박스입니다. XAI(Explainable AI)는 이해관계자가 이러한 모델의 작동 방식을 이해할 수 있도록 하고, 이러한 모델이 실제로 의사 결정을 내리는 방식을 이해하도록 하며, AI 시스템의 투명성, 이 문제를 해결하기 위한 신뢰 및 책임을 보장함으로써 이 문제를 해결하는 것을 목표로 합니다. 이 기사에서는 기본 원리를 설명하기 위해 다양한 설명 가능한 인공 지능(XAI) 기술을 살펴봅니다. 설명 가능한 AI가 중요한 몇 가지 이유 신뢰와 투명성: AI 시스템이 널리 수용되고 신뢰되려면 사용자가 의사 결정 방법을 이해해야 합니다.

머신 러닝은 명시적으로 프로그래밍하지 않고도 컴퓨터가 데이터로부터 학습하고 능력을 향상시킬 수 있는 능력을 제공하는 인공 지능의 중요한 분야입니다. 머신러닝은 이미지 인식, 자연어 처리, 추천 시스템, 사기 탐지 등 다양한 분야에서 폭넓게 활용되며 우리의 삶의 방식을 변화시키고 있습니다. 기계 학습 분야에는 다양한 방법과 이론이 있으며, 그 중 가장 영향력 있는 5가지 방법을 "기계 학습의 5개 학교"라고 합니다. 5개 주요 학파는 상징학파, 연결주의 학파, 진화학파, 베이지안 학파, 유추학파이다. 1. 상징주의라고도 알려진 상징주의는 논리적 추론과 지식 표현을 위해 상징을 사용하는 것을 강조합니다. 이 사고 학교는 학습이 기존을 통한 역연역 과정이라고 믿습니다.

MetaFAIR는 대규모 기계 학습을 수행할 때 생성되는 데이터 편향을 최적화하기 위한 새로운 연구 프레임워크를 제공하기 위해 Harvard와 협력했습니다. 대규모 언어 모델을 훈련하는 데는 수개월이 걸리고 수백 또는 수천 개의 GPU를 사용하는 것으로 알려져 있습니다. LLaMA270B 모델을 예로 들면, 훈련에는 총 1,720,320 GPU 시간이 필요합니다. 대규모 모델을 교육하면 이러한 워크로드의 규모와 복잡성으로 인해 고유한 체계적 문제가 발생합니다. 최근 많은 기관에서 SOTA 생성 AI 모델을 훈련할 때 훈련 프로세스의 불안정성을 보고했습니다. 이는 일반적으로 손실 급증의 형태로 나타납니다. 예를 들어 Google의 PaLM 모델은 훈련 과정에서 최대 20번의 손실 급증을 경험했습니다. 수치 편향은 이러한 훈련 부정확성의 근본 원인입니다.
