Pourquoi ne pas poser des questions de santé à un chatbot IA ?

News le 28 avril, depuis qu'OpenAI, Microsoft et Google ont lancé les chatbots IA, de nombreuses personnes ont commencé à essayer une nouvelle façon de rechercher sur Internet : avoir une conversation avec un modèle, et il apprend les connaissances de l'ensemble du réseau.

Les experts disent qu'étant donné que nous avions auparavant tendance à interroger les problèmes de santé via les moteurs de recherche, nous poserons inévitablement des questions à des outils tels que ChatGPT, Bing et Bard. Cependant, ces outils commettent des erreurs familières en matière de confidentialité et en créent de nouvelles. "Les consommateurs devraient au moins considérer ces outils avec scepticisme car, comme beaucoup d'autres technologies populaires, ils sont influencés par le pouvoir de la publicité et du marketing.

Avant de partager des informations sensibles sur la santé ou tout autre secret avec un chatbot IA, il y en a quelques-uns." choses que vous devez savoir :

1. Ces robots enregistreront-ils mon historique de discussion ?

Oui, ChatGPT, Bing et Bard stockent tous les entrées des utilisateurs. Cependant, Google Bard, qui est testé auprès d'un petit nombre d'utilisateurs, propose un paramètre qui permet aux utilisateurs de demander à l'entreprise de cesser de sauvegarder les enregistrements des requêtes et de les supprimer de leur association avec le compte Google de l'utilisateur. Cliquez simplement sur la barre de menu dans le coin supérieur gauche et fermez « Bard Activity ».

Les utilisateurs peuvent également désactiver l'option « Historique des discussions et formation » dans les paramètres d'OpenAI pour limiter la durée de stockage des enregistrements de discussion. La société a déclaré qu'elle ne conserverait les enregistrements de discussion que pendant 30 jours après la fermeture et éviterait de les utiliser pour la formation à l'intelligence artificielle.

2. Que font ces entreprises de nos enregistrements de chat ?

Ces entreprises utilisent les requêtes et les réponses des utilisateurs pour former des modèles d'IA afin de fournir de meilleures réponses. Cependant, ces chats peuvent être utilisés pour bien plus que cela. Lorsque Google et Microsoft ont déployé des chatbots à intelligence artificielle, ils ont également laissé de la place dans leurs politiques de confidentialité pour l'utilisation des journaux de discussion des utilisateurs à des fins publicitaires. Cela signifie que si vous posez une question sur les chaussures orthopédiques, vous verrez peut-être des publicités pour cette catégorie à l'avenir.

Ces publicités peuvent avoir peu d'impact sur les utilisateurs. Mais lorsque les problèmes de santé et la publicité numérique se rejoignent, des dommages peuvent en résulter. Des rapports précédents ont révélé qu'un certain nombre de sites de vérification des symptômes, notamment WebMD et Drugs.com, partageaient les problèmes de santé potentiellement sensibles des utilisateurs, tels que la dépression ou le VIH, ainsi que les identifiants des utilisateurs avec des sociétés de publicité externes.

De plus, les courtiers en données vendront de grandes listes de personnes et leurs problèmes de santé à des acheteurs, qui peuvent inclure des gouvernements ou des compagnies d'assurance. Certaines personnes atteintes de maladies chroniques déclarent avoir vu des publicités ciblées inquiétantes sur Internet.

Compte tenu de cela, les utilisateurs doivent réfléchir à la mesure dans laquelle ils font confiance à ces entreprises pour protéger leurs données contre les publicités intrusives et décider de la quantité d'informations sur la santé à partager avec Google ou Microsoft.

OpenAI a déclaré que l'entreprise enregistrerait uniquement les résultats de recherche des utilisateurs pour former et améliorer ses modèles. Un porte-parole d'OpenAI a déclaré que la société n'utilisait pas les interactions des utilisateurs avec des chatbots pour créer des profils d'utilisateurs ou faire de la publicité, et n'avait pas l'intention de le faire à l'avenir.

Rory Mir, directeur associé de l'organisation communautaire à l'Electronic Frontier Foundation, une organisation à but non lucratif chargée de la protection de la vie privée, a déclaré que certaines personnes ne souhaitent peut-être pas que leurs données soient utilisées pour la formation en IA, quelle que soit la position de ces entreprises en matière de publicité. Il a ajouté : « À un moment donné, les données qu'ils détiennent peuvent tomber entre les mains d'une autre entreprise en laquelle vous n'avez pas vraiment confiance. »

3. Quelqu'un verra-t-il mon historique de discussion ?

Parfois, des évaluateurs humains seront impliqués pour examiner les réponses du chatbot. Cela signifie qu'ils verront également les questions posées par les utilisateurs. Google, par exemple, enregistre de nombreuses discussions pour examen et annotation pendant une durée pouvant aller jusqu'à quatre ans. Bien que ces modérateurs ne puissent pas consulter les comptes Google des utilisateurs, Google recommande aux utilisateurs de ne partager aucune information personnelle identifiable dans les discussions, y compris les noms, adresses ou autres détails susceptibles d'identifier l'utilisateur ou d'autres personnes.

4. Combien de temps mon historique de discussion sera-t-il sauvegardé ?

Mill a déclaré : « Les entreprises qui collectent nos données et les conservent pendant de longues périodes peuvent présenter des risques en matière de confidentialité et de sécurité, et ces entreprises peuvent être piratées ou partager ces données avec des partenaires commerciaux non fiables.

Confidentialité d'OpenAI L'entreprise conserve les utilisateurs. » données "uniquement aussi longtemps que nous devons fournir des services à nos utilisateurs ou à d'autres fins commerciales légitimes", selon la politique. Cela pourrait durer indéfiniment, a refusé de préciser un porte-parole de l’entreprise.

De plus, Google et Microsoft conserveront également les données des utilisateurs jusqu'à ce que l'utilisateur demande leur suppression.

5. Puis-je faire confiance aux informations de santé fournies par les robots ?

Dai Tinglong, professeur de gestion des opérations et d'analyse commerciale de l'impact de l'intelligence artificielle sur les soins de santé à la Johns Hopkins University Business School aux États-Unis, a déclaré qu'Internet est comme une collection d'informations sur la santé, certaines informations sont utiles , et certains ne sont pas très utiles. Les grands modèles de langage comme ChatGPT peuvent faire un meilleur travail que les moteurs de recherche classiques pour filtrer le spam.

Par exemple, ChatGPT peut être meilleur que Google Scholar pour aider quelqu'un à trouver des recherches pertinentes sur ses symptômes ou son état de santé spécifique. Dans le cadre de ses recherches, le professeur Dai Tinglong examine si les chatbots peuvent diagnostiquer correctement les maladies rares que les médecins ne parviennent pas à détecter.

Mais le professeur Dai Tinglong a souligné que cela ne signifie pas que nous devons compter sur les chatbots pour fournir des conseils précis en matière de santé. Il a déclaré que les modèles étaient capables de fabriquer des informations et de les présenter comme des faits, et que leurs mauvaises réponses pouvaient paraître tout à fait crédibles.

De plus, les modèles d'IA obtiennent également des informations provenant de sources peu fiables. Par exemple, lorsqu'un utilisateur demande pourquoi il se sent tout le temps fatigué, Bard peut fournir un certain nombre de réponses possibles, citant même un site Web sur le tempérament des petits Shih Tzu. Combiné à la tendance humaine à accorder trop de confiance aux recommandations des chatbots, cela pourrait causer de gros problèmes.

Le professeur Dai Tinglong a prévenu : « Bien que les performances de cette technologie soient impressionnantes, elle ressemble désormais à un bébé, ou peut-être à un adolescent. Les gens ne font que la tester, et quand les gens commenceront à s'y fier, cela deviendra très dangereux. .”

6. Comment garantir la sécurité lors de l'interrogation d'informations sur la santé ?

En raison de l’accès inégal aux soins de santé ou de leur coût élevé, tout le monde n’a pas la possibilité de consulter un médecin lorsqu’il ne se sent pas bien. Si vous ne souhaitez pas que vos informations médicales soient stockées sur le serveur d'une entreprise ou utilisées comme matériel publicitaire, vous pouvez utiliser un navigateur protégeant la confidentialité.

Avant de vous inscrire à un service de santé basé sur le chat IA (comme un robot thérapeutique), comprenez d'abord les limites de la technologie et vérifiez la politique de confidentialité de l'entreprise pour voir si elle utilise des données pour « améliorer le service » ou partager des données avec des « fournisseurs » ou des « partenaires commerciaux » non identifiés. Les deux termes sont souvent des euphémismes utilisés par les annonceurs. (Xiao Xiao)

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!