Google Code révèle un avertissement critique pour les nouveaux Gémeaux adaptés aux enfants

Édition pour enfants Google Gemini: Avertissements de sécurité importants et contrôles parentaux

Les enfants ont commencé à utiliser des chatbots pour obtenir des conseils, ce qui a soulevé des préoccupations croissantes concernant la sécurité des enfants. Les sénateurs américains exhortent les fabricants de chatbot d'IA à fournir plus d'informations. Selon un commissaire, "Si nous voulons que nos enfants éprouvent les riches couleurs de la vie, la joie de l'enfance et l'innocence des jeunes, nous devons prouver que nous les répondrons plus rapidement que de discuter GPT."

Google prévoit de lancer une version adaptée aux enfants de Gémeaux, qui peut être considérée comme une alternative responsable qui empêche les enfants d'utiliser complètement les assistants de l'IA et de remettre le contrôle aux parents.

Se tourner vers Google Gemini est impératif

Google remplace son assistant Google d'origine (Intelligence non artificielle) par des Gémeaux et a mis en place des politiques qui permettent aux parents de limiter l'utilisation de leurs enfants de l'assistant d'origine. Mais lorsque l'assistant d'origine a disparu, il n'y avait pas d'autre choix que d'utiliser son alternative alimentée par l'IA. Cela signifie que les jeunes utilisateurs ont besoin de protections similaires lorsqu'ils se tournent vers les Gémeaux.

Cependant, Gemini est très différent de Google Assistant et est beaucoup plus puissant. Gemini ressemble plus à discuter avec une personne vivante qu'aux bots préprogrammés, donc la possibilité de fausses informations et de contenu inapproprié est considérablement améliorée. Cela signifie que Google doit prendre des mesures de sécurité supplémentaires.

Comme indiqué ci-dessous, les modifications proposées à l'application Google pour Android incluent un avertissement clair aux enfants qui dit que «les Gémeaux ne sont pas un humain et peuvent commettre des erreurs, y compris des erreurs sur les personnes, alors veuillez les vérifier attentivement.» La question clé est de savoir si les enfants ont les compétences de pensée critique dont ils ont besoin pour vérifier les réponses des Gémeaux. Pour Google Assistant, ce n'est pas un gros problème.

Google prépare les chatbots Gemini AI pour les enfants

Android App Expert , Assemberbug, qui s'est associé à Android Authority , a récemment découvert le plan de Google pour "Gemini pour les utilisateurs des enfants". Le rapport a révélé que dans la dernière version de la version Android de Google App, il existe un code inactif pour le texte suivant (reformaté pour plus de clarté):

• Assistant_Scrappy_Welcome_screen_Title_For_Kid_Users
• - Passer de Google Assistant à Gemini
• Assistant_welcome_screen_description_for_kid_users
• - Créez des histoires, posez des questions, obtenez une aide aux devoirs et plus encore.
• Assistant_welcome_screen_footer_for_kid_users
• - Les termes Google s'appliquent. Google traitera vos données comme décrit dans la politique de confidentialité de Google et l'instruction de confidentialité de l'application Gemini. Les Gémeaux ne sont pas un humain et peuvent faire des erreurs, y compris des erreurs sur les humains, veuillez donc le vérifier attentivement.

Gemini Children's Edition: une étape critique

Étant donné que "l'édition pour enfants Gemini" n'a pas été publiée publiquement, il est trop tôt pour affirmer l'efficacité de Google dans la mise en œuvre de ces importantes mesures de sécurité. Mais donner le contrôle des parents est une étape cruciale, et l'intégration de ces mesures de sécurité avec les systèmes de contrôle parental établies de Google donnera à Gemini un avantage sur les chatbots compétitifs qui manquent actuellement de cette fonctionnalité, comme Chatgpt.

La popularité croissante de l'intelligence artificielle signifie qu'il peut être impossible d'éviter complètement les enfants de l'exposition, mais les efforts de Google doivent être considérés comme une étape positive pour éviter certaines des situations mises en évidence par Dame Rachel de Souza.

Vous pouvez trouver l' instruction complète de confidentialité des applications Gemini au Gemini App Privacy Center de Google .

Google Gemini Children's Edition: Croissance des soucis

MISE À JOUR 5 avril: Compte tenu des développements récents, la mise à jour prévue de Google "Gemini Children's Edition" s'est avérée à la fois à la fois en temps opportun et nécessaire.

Alors que les sénateurs américains Alex Padilla et Peter Welch ont officiellement demandé à AI Chatbot Sites de personnages.ai et replika.com pour fournir des informations sur leurs mesures de sécurité, la demande pour les mises à jour des Gémeaux pour enfants de Google a augmenté, selon CNN , ils ont écrit:

«Nous écrivons pour exprimer nos préoccupations concernant les risques posés par les chatbots IA basés sur les personnages et les personnes et les applications compagnons à la santé mentale et à la sécurité des jeunes utilisateurs.»

Leur demande est venue après le personnage.AI a été examinée par des parents qui pensaient que leurs enfants avaient été gravement blessés après avoir utilisé des chatbots, a déclaré CNN .

En tant qu'assistant d'IA universel, les Gémeaux de Google entrent dans différentes catégories avec des produits comme le personnage.ai et la réplique, qui visent à imiter des personnages et des compagnons personnalisés personnalisés. Cependant, comme les adultes et les enfants sont exposés à de plus en plus d'informations générées par l'IA, ces informations mettent la responsabilité des utilisateurs et leur obligent à faire une vérification due diligence - une capacité que les enfants n'ont pas, donc garantir la sécurité des enfants reste cruciale.

Veuillez noter que le personnage.ai interdit explicitement les mineurs de moins de 13 ans (citoyens de l'UE de moins de 16 ans) de l'utiliser et a depuis supprimé des chatbots illégaux de la plate-forme. La limite d'âge pour l'application Replika a plus de 18 ans. Cependant, les deux applications affichent actuellement uniquement des cotes de guidage parental dans l'Android Play Store , chaque téléchargement d'applications dépassant 10 millions de fois.

Suivez le compte Instagram @paul_monckton .

Forbes New Google Survey annonce un complet Google Photos révisées Auteur: Paul Monckton Forbes de Google Gemini AI Chatbots est maintenant disponible gratuitement - mais il y a un piège de Paul Monckton

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!