뇌 기능을 시뮬레이션하는 이 AI 모델은 인간처럼 지속적인 학습을 실현합니다.

이미지 처리, 스마트 헬스케어, 자율주행차, 스마트 시티 등 다양한 AI 분야의 혁신이 입증되었듯이 딥 러닝은 의심할 여지 없이 황금기를 경험하고 있습니다. 향후 10년 정도 지나면 AI와 컴퓨터 시스템은 마침내 인간과 같은 학습 및 사고 능력을 갖게 되어 지속적인 정보 흐름을 처리하고 현실 세계와 상호 작용할 수 있게 될 것입니다.

그러나 현재 AI 모델은 새로운 정보에 대해 지속적으로 학습할 때 성능 손실을 겪습니다. 새로운 데이터가 생성될 때마다 기존 데이터 위에 다시 쓰여 이전 정보가 지워지기 때문이다. 이 효과를 "파국적 망각"이라고 합니다. 안정성-가소성 딜레마로 인해 AI 모델은 현재 지식의 안정성을 유지하면서 새로운 정보에 지속적으로 적응하기 위해 메모리를 업데이트해야 합니다. 이 문제로 인해 SOTA AI 모델이 실제 정보로부터 지속적으로 학습하지 못합니다.

한편, 엣지 컴퓨팅 시스템을 사용하면 컴퓨팅을 클라우드 스토리지 및 데이터 센터에서 IoT 연결 장치와 같은 원래 소스에 더 가깝게 이동할 수 있습니다. 이 문제를 해결하기 위해 현장에서 많은 연속 학습 모델이 제안되었지만 리소스가 제한된 엣지 컴퓨팅 장치에 연속 학습을 효율적으로 적용하는 것은 여전히 ​​어려운 과제로 남아 있습니다. 기존 모델에는 높은 컴퓨팅 성능과 대용량 저장 용량이 필요합니다.

최근 싱가포르 기술 디자인 대학교(SUTD) 연구팀은 "저항 스위칭 메모리 재료의 연속 학습 전기 전도" 연구를 통해 에너지 효율이 높은 연속 학습 시스템을 구현할 수 있는 새로운 모델을 설계했습니다. "Advanced Theory and Simulation" 저널에 게재되었습니다.

논문 주소: https://onlinelibrary.wiley.com/doi/abs/10.1002/adts.202200226

팀은 뇌에서 영감을 받은 모델인 BIR(Brain-Inspired Replay), It을 제안했습니다. 자연스럽게 지속적인 학습이 가능합니다. BIR 모델은 인간 두뇌의 기능을 시뮬레이션하기 위한 인공 신경망과 변형 자동 인코더를 기반으로 하며, 저장된 데이터 없이 증분 학습 시나리오에서도 잘 수행될 수 있습니다. 연구원들은 또한 BIR 모델을 사용하여 디지털 메모리 시스템에서 전류를 사용하는 전도성 필라멘트의 성장을 나타냅니다.

아래 그림의 왼쪽 상단은 생성 재생 설정을 보여주고, 오른쪽 상단은 생성 재생을 사용한 인공 신경망 훈련을 보여줍니다. 왼쪽 하단과 오른쪽 하단은 각각 기존 모델과 BIR 모델의 정규화된 현재 정확도를 보여줍니다.

논문 교신저자 중 한 명인 Loke 조교수는 “BIR에서는 학습된 모델에 지식이 저장되어 추가 작업 도입 시 성능 손실을 최소화하고, 참고할 필요도 없다”고 설명했다. 따라서 이 접근 방식은 많은 에너지를 절약할 수 있습니다."

그는 또한 "데이터를 저장하지 않고도 현재 학습 작업의 규정 준수 과제에 대해 89%의 SOTA 정확도를 달성합니다. 이는 약 2배입니다. 또한, BIR 모델이 실제 현장 정보를 독립적으로 처리할 수 있도록 다음 연구 단계에서 성능을 확장할 계획입니다. . 조정 가능한 기능.

Loke는 이 연구가 소규모 실증을 기반으로 하며 아직 초기 단계라고 말했습니다. 그러나 이러한 접근 방식을 사용하면 엣지 AI 시스템이 인간의 통제 없이 독립적으로 개발될 수 있습니다.

위 내용은 뇌 기능을 시뮬레이션하는 이 AI 모델은 인간처럼 지속적인 학습을 실현합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!