Un rapport indique que le logiciel d'intelligence artificielle de Nvidia peut être facilement piraté, ce qui présente un risque de fuite de la vie privée des utilisateurs.

Selon le rapport britannique du « Financial Times », le logiciel d'intelligence artificielle « NeMo » de Nvidia peut facilement contourner les restrictions de sécurité et peut divulguer la confidentialité des utilisateurs.

Selon les rapports, NeMo est un logiciel destiné aux entreprises clientes qui peut combiner les données des utilisateurs d'entreprise avec de grands modèles de langage pour répondre aux questions des utilisateurs. Ses scénarios d'application incluent le service client et la réponse à des questions médicales simples. La société californienne de sécurité de l’information Robust a déclaré dans un rapport que les utilisateurs malveillants peuvent facilement contourner les restrictions de sécurité du système d’IA interne de NeMo. En quelques heures seulement, les chercheurs de Robust ont contourné les limites de l'utilisation de ces modèles de langage.

IT House a remarqué que dans l'un des tests, les chercheurs ont demandé à NeMo de remplacer "I" par la lettre "J", ce qui a fait NeMo Publié informations personnelles de l'utilisateur dans la base de données. En outre, les chercheurs ont découvert que même si NeMo avait été créé pour fournir uniquement aux utilisateurs des conseils de carrière, des questions guidées amenaient NeMo à discuter de sujets tels que la santé des acteurs hollywoodiens et la guerre franco-prussienne. Cela signifie que les restrictions au sein du système qui empêchaient l'IA de discuter de certains sujets ne sont plus en vigueur.

Le vice-président de Nvidia, Jonathan Cohen, a déclaré que l'architecture NeMo est simplement destinée à aider à créer des chatbots adaptés aux thèmes définis par les développeurs, sous la forme d'open source. Version du logiciel aux développeurs. Actuellement, ces vulnérabilités ont été corrigées. Cohen a refusé de dire combien d'entreprises utilisent l'architecture NeMo, mais a souligné que Nvidia n'avait reçu aucun autre rapport faisant état de vulnérabilités.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!