Google développe un « code de conduite pour les machines à intelligence artificielle » pour protéger les humains du danger

IT House News le 5 janvier, DeepMind, une filiale de Google, a récemment annoncé trois nouveaux développements L'un d'eux a rédigé une « Constitution des robots » pour le système qui collecte les données d'entraînement afin de garantir que les robots IA ne nuisent pas aux humains.

Le système de collecte de données de Google, AutoRT, utilise des modèles de langage visuel (VLM) et des modèles de langage étendus (LLM) pour s'adapter à l'environnement, comprendre l'environnement et déterminer les tâches.

La « Constitution du robot » rédigée cette fois s'inspire des « Trois lois de la robotique » d'Isaac Asimov et se concentre sur la sécurité. La constitution demande aux LLM d'éviter les tâches impliquant des humains, des animaux, des objets tranchants et même des appareils électriques.

DeepMind a déclaré que afin d'améliorer la sécurité, les articulations du robot sont limitées, il s'arrêtera automatiquement lorsque la force dépasse le seuil et il est équipé d'un interrupteur d'arrêt d'urgence physique.

Google a déclaré qu'au cours des 7 derniers mois, ils ont déployé une flotte de 53 robots AutoRT. Les robots ont été déployés dans quatre immeubles de bureaux différents et ont effectué plus de 77 000 essais.

Certains robots sont contrôlés à distance par des opérateurs humains, tandis que d'autres fonctionnent selon des scripts ou de manière totalement autonome à l'aide du modèle d'apprentissage de l'intelligence artificielle RT-2 de Google.

Le robot utilisé dans l'essai avait l'air plus utilitaire que sophistiqué - équipé uniquement d'une caméra, d'un bras robotique et d'une base mobile. Pour chaque robot, le système utilise VLM pour comprendre son environnement et les objets dans son champ de vision. Ensuite, LLM a dressé une liste de tâches créatives que le robot pouvait effectuer, telles que placer des collations sur le comptoir, et a agi en tant que décideur pour choisir les tâches appropriées à effectuer par le robot.

Selon IT House, une autre nouvelle technologie de DeepMind, SARA-RT, s'est avérée avoir une architecture de réseau neuronal plus précise et plus rapide que le Robotic Transformer RT-2 existant.

Google a également annoncé RT-Trajectory, qui ajoute des contours 2D pour aider les robots à mieux effectuer des tâches physiques spécifiques telles que nettoyer les tables.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!