기계 학습 모델은 뛰어난 정확도로 유기 반응 메커니즘을 분류합니다.
화학 반응의 발견은 실험 데이터를 얼마나 빨리 얻을 수 있는지뿐만 아니라 화학자가 해당 데이터를 얼마나 쉽게 이해하는지에 따라 영향을 받습니다. 새로운 촉매 반응의 기계적 기초를 밝혀내는 것은 전산 및 물리 유기 화학에 대한 전문 지식이 필요한 특히 복잡한 문제입니다. 그러나 촉매 반응은 가장 효율적인 화학 공정을 나타내기 때문에 연구하는 것이 중요합니다.
최근 영국 맨체스터 대학교(UoM) 화학과의 Burés와 Larrosa는 기계 학습 모델을 보고하여 심층 신경망 모델을 훈련하여 일반적인 운동 데이터를 분석하고 해당 데이터를 자동으로 설명할 수 있음을 보여주었습니다. 추가적인 사용자 입력 없이 메커니즘 카테고리를 사용할 수 있습니다. 이 모델은 뛰어난 정확도로 다양한 유형의 메커니즘을 식별합니다.
이 연구 결과는 AI 기반 메커니즘 분류가 메커니즘 설명을 단순화하고 자동화할 수 있는 강력하고 새로운 도구임을 보여줍니다. 이 연구는 완전 자동화된 유기 반응의 발견과 개발을 더욱 발전시킬 것으로 예상됩니다.
연구 제목은 "기계 학습을 활용한 유기 반응 메커니즘 분류"이며, 2023년 1월 25일 "Nature"에 게재되었습니다.
논문 링크: https://www.nature.com/articles/s41586-022-05639-4
화학의 메커니즘을 해명하는 전통적인 방법 반응
기질을 제품으로 전환하는 것과 관련된 기본 단계의 정확한 순서를 결정하는 것은 합성 방법을 합리적으로 개선하고, 새로운 촉매를 설계하고, 산업 공정을 안전하게 확장하는 데 중요합니다. 반응 메커니즘을 규명하려면 여러 동역학 곡선을 수집해야 하며, 인간 전문가는 데이터에 대한 동역학 분석을 수행해야 합니다. 반응 모니터링 기술은 지난 수십 년 동안 운동 데이터 수집이 완전히 자동화될 수 있을 정도로 크게 향상되었지만 기계적 설명을 뒷받침하는 이론적 프레임워크는 같은 속도로 발전하지 않았습니다.
현재 동역학 분석 파이프라인은 실험 데이터에서 동역학 특성을 추출하고, 가능한 모든 메커니즘에 대한 동역학 특성을 예측하고, 실험적으로 추출된 특성과 예측된 특성을 비교하는 세 가지 주요 단계로 구성됩니다.
100년 넘게 화학자들은 반응 속도에서 기계적 정보를 추출해 왔습니다. 오늘날에도 여전히 사용되는 한 가지 방법은 출발 물질의 처음 몇 퍼센트 소비에 초점을 맞춰 반응의 초기 속도를 평가하는 것입니다. 이 방법은 대부분의 경우 시간에 따른 반응물 농도의 변화가 반응 시작 시 선형이고 분석이 간단하기 때문에 널리 사용됩니다. 이 기술은 통찰력이 있지만 시간 경과에 따라 발생하는 반응 속도 및 농도의 변화를 무시합니다.
지난 수십 년 동안 반응 공정 전반에 걸쳐 반응 성분의 농도를 평가하기 위한 더욱 발전된 방법이 개발되었습니다. 이러한 방법은 반응 동역학 다이어그램에서 반응 단계에 참여하는 구성 요소의 수(반응 구성 요소의 순서라고도 함)를 나타내는 수학적 기술을 통해 더욱 촉진됩니다. 이러한 기술은 확실히 계속해서 화학 반응성에 대한 통찰력을 제공할 것이지만 촉매 시스템의 동역학 거동을 설명하는 보다 포괄적인 기계론적 가설을 제공하기보다는 반응 구성 요소의 순서를 분석하는 데 국한됩니다.
그림 1: 동역학 분석을 위한 관련성 및 최첨단 기술. (출처: Paper)
AI는 동역학 분석 분야를 변화시킵니다.
기계 학습은 분자 및 경로 설계부터 분자 합성, 반응 메커니즘 이해에 이르기까지 화학자가 문제를 해결하는 방식에 혁명을 일으키고 있습니다. Burés와 Larrosa는 이제 기계 학습 모델을 사용하여 시뮬레이션된 운동 특성을 기반으로 반응을 분류함으로써 운동 분석에 이러한 혁신을 가져오고 있습니다.
여기에서 연구원들은 시뮬레이션된 동역학 데이터를 기반으로 훈련된 딥 러닝 모델이 시간적 농도 분포에서 다양한 메커니즘을 올바르게 설명할 수 있음을 보여줍니다. 기계 학습 모델은 속도 법칙 도출과 동역학 특성 추출 및 예측의 필요성을 제거하여 동역학 분석을 단순화하고 모든 합성 실험실에서 반응 메커니즘의 설명을 크게 촉진합니다.
사용 가능한 모든 동역학 데이터의 전체적인 분석으로 인해 이 방법은 반응 곡선을 조사하는 능력을 향상시키고 동역학 분석 중에 잠재적인 인적 오류를 제거하며 분석 가능한 동역학의 범위를 확장하여 비정상 상태(활성화 및 비활성화 과정) 및 가역적 반응. 이 접근 방식은 현재 사용 가능한 운동 분석 방법을 보완하며 가장 까다로운 상황에서 특히 유용합니다.
특정 연구
연구원들은 20가지 유형의 반응 메커니즘을 정의하고 각 유형에 대한 속도 법칙을 개발했습니다. 각 메커니즘은 일련의 운동 상수(k1, … kn)와 화학종 농도의 상미분 방정식(ODE) 함수로 수학적으로 설명됩니다. 그런 다음 그들은 반응물의 붕괴와 생성물의 생산을 설명하는 수백만 개의 시뮬레이션을 생성하여 이러한 방정식을 풀었습니다. 이러한 시뮬레이션된 운동 데이터는 학습 알고리즘을 훈련하여 각 기계 클래스의 특징적인 특징을 식별하는 데 사용됩니다. 결과 분류 모델은 초기 및 시간 농도 데이터를 포함한 동역학 곡선을 입력으로 사용하고 반응의 기계적 클래스를 출력합니다.
그림 2: 기계적 범위 및 데이터 구성. (출처: 논문)
딥 러닝 모델을 훈련하려면 많은 양의 데이터가 필요한 경우가 많으며, 이는 이 데이터를 실험적으로 수집해야 할 때 상당한 어려움을 초래할 수 있습니다.
Burés와 Larrosa의 알고리즘 교육 접근 방식은 대량의 실험적 운동 데이터를 생성하는 병목 현상을 방지합니다. 이 경우, 연구원들은 정상 상태 근사치를 사용하지 않고도 모델 훈련 및 검증을 위한 500만 개의 역학 샘플을 생성하기 위해 일련의 ODE를 수치적으로 풀 수 있었습니다.
이 모델에는 훈련 가능한 매개변수가 576,000개 포함되어 있으며 두 가지 유형의 신경망 조합을 사용합니다. (1) 장단기 기억 신경망, 시간 데이터 계열(예: 시간 집중 데이터)을 처리하는 데 사용되는 순환 신경망; (2) 비시간적 데이터(즉, 각 운동 실행의 장단기 기억에서 추출된 특징 및 촉매의 초기 농도)를 처리하기 위해 완전히 연결된 신경망. 모델은 합이 1이 되는 각 메커니즘에 대한 확률을 출력합니다.
연구원들은 시뮬레이션된 운동 곡선의 테스트 세트를 사용하여 훈련된 모델을 평가하고 92.6%의 정확도로 이러한 곡선을 메커니즘 클래스에 올바르게 할당했음을 보여주었습니다.
그림 3: 각 운동 곡선에 대해 6개의 시점이 있는 테스트 세트의 기계 학습 모델 성능. (출처: 논문)
의도적으로 "noisy" 데이터를 도입하는 경우에도 모델이 잘 작동하므로 실험 데이터를 분류하는 데 사용할 수 있습니다.
그림 4: 오류 및 데이터 포인트 수가 기계 학습 모델 성능에 미치는 영향. (출처: Paper)
마지막으로 연구원들은 이전에 보고된 여러 실험적 운동 곡선을 사용하여 모델을 벤치마킹했습니다. 예측된 메커니즘은 이전 동역학 연구의 결론과 잘 일치합니다. 어떤 경우에는 모델이 원본 작업에서 감지되지 않은 기계적 세부 사항도 식별했습니다. 도전적인 반응을 위해 모델은 세 가지 매우 유사한 기계적 범주를 제안합니다. 그러나 저자는 이 결과가 버그가 아니라 모델의 특징이라고 정확하게 밝혔습니다. 이는 메커니즘을 탐색하기 위해 더 구체적인 실험이 필요함을 시사하기 때문입니다.
그림 5: 실험적 운동 데이터를 사용한 사례 연구. (출처: 논문)
요약하자면, Burés와 Larrosa는 역학 연구에서 기계론적 가설을 도출하는 긴 프로세스를 자동화할 뿐만 아니라 까다로운 반응 메커니즘 분석의 역학을 수행하는 방법을 개발했습니다. 데이터 분석의 모든 기술 발전과 마찬가지로 결과적인 기계적 분류는 추가 실험적 지원이 필요한 가설로 간주되어야 합니다. 역학 데이터를 잘못 해석할 위험은 항상 존재하지만 소수의 실험을 기반으로 정확한 반응 경로를 높은 정확도로 식별하는 알고리즘의 능력은 더 많은 연구자가 역학 분석을 시도하도록 설득할 수 있습니다.
따라서 이 접근 방식은 특히 화학자가 기계 학습 알고리즘에 더 익숙해짐에 따라 반응 개발 파이프라인에 동역학 분석을 대중화하고 통합하도록 촉진할 수 있습니다.
위 내용은 기계 학습 모델은 뛰어난 정확도로 유기 반응 메커니즘을 분류합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

핫 AI 도구

Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool
무료로 이미지를 벗다

Clothoff.io
AI 옷 제거제

AI Hentai Generator
AI Hentai를 무료로 생성하십시오.

인기 기사

뜨거운 도구

메모장++7.3.1
사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경

드림위버 CS6
시각적 웹 개발 도구

SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)

뜨거운 주제











기계 학습 및 데이터 과학 분야에서 모델 해석 가능성은 항상 연구자와 실무자의 초점이었습니다. 딥러닝, 앙상블 방법 등 복잡한 모델이 널리 적용되면서 모델의 의사결정 과정을 이해하는 것이 특히 중요해졌습니다. explainable AI|XAI는 모델의 투명성을 높여 머신러닝 모델에 대한 신뢰와 확신을 구축하는 데 도움이 됩니다. 모델 투명성을 향상시키는 것은 여러 복잡한 모델의 광범위한 사용은 물론 모델을 설명하는 데 사용되는 의사 결정 프로세스와 같은 방법을 통해 달성할 수 있습니다. 이러한 방법에는 기능 중요도 분석, 모델 예측 간격 추정, 로컬 해석 가능성 알고리즘 등이 포함됩니다. 특성 중요도 분석은 모델이 입력 특성에 미치는 영향 정도를 평가하여 모델의 의사결정 과정을 설명할 수 있습니다. 모델 예측 구간 추정

이달 초 MIT와 기타 기관의 연구자들은 MLP에 대한 매우 유망한 대안인 KAN을 제안했습니다. KAN은 정확성과 해석성 측면에서 MLP보다 뛰어납니다. 그리고 매우 적은 수의 매개변수로 더 많은 수의 매개변수를 사용하여 실행되는 MLP보다 성능이 뛰어날 수 있습니다. 예를 들어 저자는 KAN을 사용하여 더 작은 네트워크와 더 높은 수준의 자동화로 DeepMind의 결과를 재현했다고 밝혔습니다. 구체적으로 DeepMind의 MLP에는 약 300,000개의 매개변수가 있는 반면 KAN에는 약 200개의 매개변수만 있습니다. KAN은 MLP와 같이 강력한 수학적 기반을 가지고 있으며, KAN은 Kolmogorov-Arnold 표현 정리를 기반으로 합니다. 아래 그림과 같이 KAN은

C++의 기계 학습 알고리즘이 직면하는 일반적인 과제에는 메모리 관리, 멀티스레딩, 성능 최적화 및 유지 관리 가능성이 포함됩니다. 솔루션에는 스마트 포인터, 최신 스레딩 라이브러리, SIMD 지침 및 타사 라이브러리 사용은 물론 코딩 스타일 지침 준수 및 자동화 도구 사용이 포함됩니다. 실제 사례에서는 Eigen 라이브러리를 사용하여 선형 회귀 알고리즘을 구현하고 메모리를 효과적으로 관리하며 고성능 행렬 연산을 사용하는 방법을 보여줍니다.

대규모 언어 모델(LLM)을 인간의 가치와 의도에 맞추려면 인간의 피드백을 학습하여 유용하고 정직하며 무해한지 확인하는 것이 중요합니다. LLM 정렬 측면에서 효과적인 방법은 인간 피드백 기반 강화 학습(RLHF)입니다. RLHF 방법의 결과는 훌륭하지만 몇 가지 최적화 문제가 있습니다. 여기에는 보상 모델을 훈련한 다음 해당 보상을 극대화하기 위해 정책 모델을 최적화하는 것이 포함됩니다. 최근 일부 연구자들은 더 간단한 오프라인 알고리즘을 탐구했는데, 그 중 하나가 직접 선호 최적화(DPO)입니다. DPO는 RLHF의 보상 기능을 매개변수화하여 선호도 데이터를 기반으로 직접 정책 모델을 학습하므로 명시적인 보상 모델이 필요하지 않습니다. 이 방법은 간단하고 안정적입니다.

머신 러닝은 명시적으로 프로그래밍하지 않고도 컴퓨터가 데이터로부터 학습하고 능력을 향상시킬 수 있는 능력을 제공하는 인공 지능의 중요한 분야입니다. 머신러닝은 이미지 인식, 자연어 처리, 추천 시스템, 사기 탐지 등 다양한 분야에서 폭넓게 활용되며 우리의 삶의 방식을 변화시키고 있습니다. 기계 학습 분야에는 다양한 방법과 이론이 있으며, 그 중 가장 영향력 있는 5가지 방법을 "기계 학습의 5개 학교"라고 합니다. 5개 주요 학파는 상징학파, 연결주의 학파, 진화학파, 베이지안 학파, 유추학파이다. 1. 상징주의라고도 알려진 상징주의는 논리적 추론과 지식 표현을 위해 상징을 사용하는 것을 강조합니다. 이 사고 학교는 학습이 기존을 통한 역연역 과정이라고 믿습니다.

번역기 | 검토자: Li Rui | Chonglou 인공 지능(AI) 및 기계 학습(ML) 모델은 오늘날 점점 더 복잡해지고 있으며 이러한 모델에서 생성되는 출력은 이해관계자에게 설명할 수 없는 블랙박스입니다. XAI(Explainable AI)는 이해관계자가 이러한 모델의 작동 방식을 이해할 수 있도록 하고, 이러한 모델이 실제로 의사 결정을 내리는 방식을 이해하도록 하며, AI 시스템의 투명성, 이 문제를 해결하기 위한 신뢰 및 책임을 보장함으로써 이 문제를 해결하는 것을 목표로 합니다. 이 기사에서는 기본 원리를 설명하기 위해 다양한 설명 가능한 인공 지능(XAI) 기술을 살펴봅니다. 설명 가능한 AI가 중요한 몇 가지 이유 신뢰와 투명성: AI 시스템이 널리 수용되고 신뢰되려면 사용자가 의사 결정 방법을 이해해야 합니다.

소프트웨어 기술의 선두에 있는 UIUC Zhang Lingming 그룹은 BigCode 조직의 연구원들과 함께 최근 StarCoder2-15B-Instruct 대규모 코드 모델을 발표했습니다. 이 혁신적인 성과는 코드 생성 작업에서 획기적인 발전을 이루었으며 CodeLlama-70B-Instruct를 성공적으로 능가하고 코드 생성 성능 목록의 최상위에 올랐습니다. StarCoder2-15B-Instruct의 독창성은 순수한 자체 정렬 전략에 있습니다. 전체 훈련 프로세스는 개방적이고 투명하며 완전히 자율적이고 제어 가능합니다. 이 모델은 값비싼 수동 주석에 의존하지 않고 StarCoder-15B 기본 모델을 미세 조정한 것에 대한 응답으로 StarCoder2-15B를 통해 수천 개의 명령을 생성합니다.

MetaFAIR는 대규모 기계 학습을 수행할 때 생성되는 데이터 편향을 최적화하기 위한 새로운 연구 프레임워크를 제공하기 위해 Harvard와 협력했습니다. 대규모 언어 모델을 훈련하는 데는 수개월이 걸리고 수백 또는 수천 개의 GPU를 사용하는 것으로 알려져 있습니다. LLaMA270B 모델을 예로 들면, 훈련에는 총 1,720,320 GPU 시간이 필요합니다. 대규모 모델을 교육하면 이러한 워크로드의 규모와 복잡성으로 인해 고유한 체계적 문제가 발생합니다. 최근 많은 기관에서 SOTA 생성 AI 모델을 훈련할 때 훈련 프로세스의 불안정성을 보고했습니다. 이는 일반적으로 손실 급증의 형태로 나타납니다. 예를 들어 Google의 PaLM 모델은 훈련 과정에서 최대 20번의 손실 급증을 경험했습니다. 수치 편향은 이러한 훈련 부정확성의 근본 원인입니다.
