구글, 인간을 위험으로부터 보호하기 위해 '인공지능 기계 행동강령' 개발

IT 하우스 뉴스 1월 5일, 구글 자회사 DeepMind는 최근 세 가지 새로운 개발을 발표했습니다. 그 중 하나는 AI 로봇이 인간에게 해를 끼치지 않도록 훈련 데이터를 수집하는 시스템에 대한 '로봇 헌법' 초안을 작성했습니다.

Google의 데이터 수집 시스템 AutoRT는 시각적 언어 모델(VLM)과 대형 언어 모델(LLM)을 활용하여 환경에 적응하고 환경을 이해하며 작업을 결정합니다.

이번 초안으로 작성된 '로봇 헌법'은 아이작 아시모프의 '로봇공학 3원칙'에서 영감을 받아 안전에 중점을 두고 있습니다. 헌법은 LLM에게 인간, 동물, 날카로운 물체, 심지어 전기 제품과 관련된 작업을 피하도록 지시합니다.

DeepMind는 안전성을 높이기 위해 로봇의 관절을 제한하고 힘이 임계값을 초과하면 자동으로 멈추며 물리적 비상 정지 스위치가 장착되어 있다고 밝혔습니다.

Google은 지난 7개월 동안 53대의 AutoRT 로봇을 배치했다고 밝혔습니다. 로봇은 4개의 서로 다른 사무실 건물에 배치되어 77,000회 이상의 시험을 수행했습니다.

일부 로봇은 인간 운영자에 의해 원격으로 제어되는 반면, 다른 로봇은 스크립트에 따라 또는 Google의 RT-2 인공 지능 학습 모델을 사용하여 완전히 자율적으로 작동합니다.

실험에 사용된 로봇은 화려하기보다는 실용적으로 보였습니다. 카메라, 로봇 팔, 이동식 베이스만 장착되어 있었습니다. 각 로봇에 대해 시스템은 VLM을 사용하여 시야 내의 환경과 물체를 이해합니다. 다음으로 LLM은 조리대에 간식을 놓는 등 로봇이 수행할 수 있는 창의적인 작업 목록을 제시하고 로봇이 수행할 적절한 작업을 선택하는 의사결정자 역할을 했습니다.

IT House에 따르면 DeepMind의 또 다른 신기술인 SARA-RT는 기존 Robotic Transformer RT-2보다 더 정확하고 빠른 신경망 아키텍처를 갖는 것으로 밝혀졌습니다.

Google은 또한 로봇이 테이블 닦기와 같은 특정 물리적 작업을 더 잘 수행할 수 있도록 2D 윤곽을 추가하는 RT-Trajectory를 발표했습니다.

위 내용은 구글, 인간을 위험으로부터 보호하기 위해 '인공지능 기계 행동강령' 개발의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!