L'invite: Chatgpt génère de faux passeports

Le géant de la puce Nvidia a déclaré lundi qu'il commencerait à fabriquer des superordinateurs d'IA - des machines qui peuvent traiter des quantités abondantes de données et exécuter des algorithmes complexes - entièrement aux États-Unis pour la première fois. L'annonce intervient après que le président Trump a signalé que les semi-conducteurs importés seraient ciblés par des tarifs cette semaine et ont annoncé une enquête sur le commerce de la sécurité nationale sur les importations de puces en provenance de Chine. Nvidia a déclaré avoir déjà commencé à produire ses puces Blackwell dans l'usine de Phoenix, Arizona de TSMC et prévoit de travailler avec des partenaires comme Foxconn et Wistron pour créer d'autres usines à Houston et à Dallas. Il prévoit de construire des robots pour faire fonctionner les installations, qui seront conçues à l'aide de «jumeaux numériques» - une simulation virtuelle de leurs objets et environnements du monde réel - pour construire les plantes plus rapidement. Mais même en gardant des chips de côté, les tarifs de Trump pourraient rendre les centres de données d'IA plus chers, car ils dépendent des matières premières importées d'autres pays, a rapporté Forbes .

Et si vous n'avez pas encore eu l'occasion, consultez notre septième liste annuelle AI 50 ici.

Passons maintenant aux gros titres.

Éthique et droit

Les collèges communautaires à travers le pays sont confrontés à une attaque des inscriptions d'étudiants «BOT» qui s'inscrivent aux classes par centaines à des dizaines de millions de dollars en fonds d'assistance fédérale et fédéral, a rapporté la voix de San Diego. Ces étudiants «bot» utilisent de faux alias et soumettent des devoirs générés par AI afin de rester «inscrits» assez longtemps pour collecter l'aide. En 2024, environ 25% des candidats aux collèges communautaires en Californie étaient des bots.

Performance de pointe

Google a formé un modèle d'IA qui vise à déchiffrer les modèles et les structures dans les sons de dauphin dans le but de comprendre leur signification et de déterminer s'ils ont un langage. Nommé Dolphingamma, le modèle se compose de 400 millions de paramètres et est formé sur les données du projet Wild Dolphin, un organisme sans but lucratif qui étudie et recueille des données sur les dauphins tachetés de l'Atlantique. L'objectif final du projet est de construire une technologie qui pourrait faciliter les interactions bidirectionnelles entre les chercheurs humains et les dauphins dans l'océan .

Rétention des talents

L'IA continue d'être un objectif blanc chaud pour les entreprises - comme le talent nécessaire pour le construire. À cette fin, Google Deepmind fait que ses employés signent des non-concurrents qui peuvent durer aussi longtemps qu'un an , les empêchant de rejoindre un rival pendant 12 mois après avoir cessé de travailler chez Google, selon Business Insider. Les employés continuent d'être payés pendant la période de congé de jardin prolongée. Nando de Frietas, un ancien directeur de Google Deepmind, a partagé sa frustration avec les contrats sur X: "C'est un abus de pouvoir, qui ne justifie aucune fin."

Humains de l'IA

May Habib, PDG et cofondatrice de 1,9 milliard de dollars à valeur de startup de startup à valeur de l' IA , dit qu'elle ne vend pas seulement le logiciel d'IA de son entreprise - qui permet à 300 sociétés comme Intuit, Salesforce et Uber de créer des applications AI pour des fonctions spécifiques à travers le marketing, les RH et les ventes - « Vendre une façon différente de faire les choses». La société, présentée sur la liste Forbes AI 50, se développe pour lancer une nouvelle plate-forme pour les «agents» de l'IA - des systèmes qui peuvent effectuer des travaux spécifiques de manière autonome. De lancer des clients comme Visa sur son logiciel de traduction basé sur l'apprentissage automatique naissant en 2016 pour former maintenant une famille de modèles d'IA plus efficaces surnommés Palmyre (nommé d'après l'ancienne ville syrienne) pour le monde de l'entreprise, la stratégie de l'entreprise est restée la même: construire ce que ses clients veulent.

Plongée profonde

Fin mars, OpenAI a ajouté de nouvelles capacités de génération d'images à son produit Star Product Chatgpt. La mise à jour est devenue virale, entraînant un déluge d'images générées par les Studio Ghibli-AI publiées sur les réseaux sociaux et attirant des millions d'utilisateurs sur la plate-forme.

Mais de nouvelles recherches de la société de cybersécurité Cato Networks ont révélé que Chatgpt peut désormais être amené à créer une multitude de faux documents , y compris des passeports, des cartes de sécurité sociale et des permis de conduire . Il peut également être utilisé pour faire tourner des contrôles et reçus contrefaits convaincants. La porte-parole d'OpenAI, Taya Christianson, a déclaré: «Notre objectif est de donner aux utilisateurs autant de liberté que possible.» Les images générées par Chatgpt incluent les métadonnées C2PA pour les identifier comme générées par l'AI-AI et OpenAI prennent des mesures contre les personnes qui violent les politiques d'utilisation de l'entreprise.

Etay Maor, un stratège en chef de la sécurité chez Cato Networks qui étudie les cyber-gangs depuis 20 ans, a déclaré que ces documents forgés sont généralement vendus sur la toile sombre et ont été largement difficiles à obtenir. Mais grâce aux outils d'IA comme Chatgpt, la création de faux documents réalistes est devenu des ordres de grandeur plus facile et plus rapide. Des documents tels que les passeports et les permis de conduire sont essentiels pour vérifier l'identité d'une personne et les ID manipulées ouvrent les vannes aux criminels pour commettre une fraude financière, d'assurance et médicale . Les implications pour une mauvaise utilisation sont larges et variées, de l'accès aux comptes bancaires aux abus de prescription, a déclaré Maor. "Pas seulement quelqu'un qui est un criminel professionnel, n'importe qui peut le faire. Et c'est ce qui est super troublant à ce sujet", a-t-il déclaré. En quelques secondes, il a également pu inciter Chatgpt à créer un faux passeport d'une personne qui me ressemblait quelque peu.

L'utilisation de l'IA par les cybercriminels n'est pas nouvelle. ChatGPT D'autres outils d'IA ont été utilisés pour créer du code de logiciels malveillants, écrire des e-mails de phishing et des cyberattaques de superficiel. Ce ne sont pas seulement les outils d'IA qui génèrent du texte, mais les technologies qui s'adressent à d'autres médiums comme la voix, les images et les vidéos ont ajouté des couches supplémentaires qui aident les cybercriminels à effectuer une fraude complexe.

"Tous ces différents éléments qui renforcent la confiance - style d'une personne, leurs visuels, leur voix, leurs références officielles - tous ces éléments constitutifs de confiance disparaissent", a déclaré Maor.

Démo hebdomadaire

Une startup appelée Intouch utilise l'IA pour appeler vos parents ou grands-parents pour les vérifier et avoir une conversation si vous n'avez pas le temps, 404 médias ont rapporté. L'IA peut être invitée à parler et à poser des questions sur certains sujets. Une fois l'appel terminé, la personne qui met en place l'appel reçoit un résumé généré par l'IA de l'appel et des notes sur l'humeur de la personne. "L'idée d'avoir une IA appelle votre parent solitaire parce que vous ne pouvez pas ou ne vous sentez pas comme c'est dystopique, insultant et surtout non humain , encore plus que d'autres créations basées sur l'IA", écrit Joseph Cox.

Comportement du modèle

La secrétaire à l'Éducation Linda McMahon a confondu à plusieurs reprises l'IA (intelligence artificielle) avec A1 (marque de sauce Steak) tout en prononçant un discours au sommet ASU GSV à San Diego. La marque de sauce a saisi le moment, partageant une image sur Instagram: "Vous l'avez entendue. Chaque école devrait avoir accès à A1."

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!