Audience judiciaire du Sénat : l'IA est difficile à contrôler et peut être utilisée par des éléments malveillants pour développer des armes biochimiques

Le 26 juillet, selon le média étranger TechCrunch, la commission judiciaire du Sénat américain a tenu hier une audition sur l'intelligence artificielle. Au cours de la réunion, de nombreux praticiens de l'industrie de l'IA ont averti que les êtres humains ne peuvent donc pas contrôler correctement le développement rapide de l'IA. L'IA pourrait causer de graves dommages au cours des prochaines années, et des éléments malveillants pourraient utiliser des outils d'IA qui contournent la supervision pour créer des armes biologiques et chimiques.

Le président de la sous-commission judiciaire du Sénat, Richard Blumenthal, qui a présidé l'audience, a déclaré que les humains se sont révélés capables d'inventer de nouvelles technologies qui étaient incroyables à l'époque. Il a comparé l’IA au deuxième « Projet Manhattan » américain ou au deuxième « Plan d’atterrissage habité sur la Lune » de la NASA, mais les représentants de l’industrie présents dans l’auditoire ont montré davantage d’inquiétudes à l’égard de l’IA. Dario Amodei, PDG de la startup américaine d'IA Anthropic, a déclaré lors de l'audience qu'il

il craint que la technologie de pointe de l'IA ne soit utilisée pour créer des virus dangereux et d'autres armes biochimiques dans seulement deux ans

. a reçu un investissement de 300 millions de dollars (note IT Home : environ 2,147 milliards de yuans) et s'appuie sur le centre de données de Google pour former des modèles d'IA « plus fiables ». Yoshua Bengio, professeur d'IA à l'Université de Montréal et « le père de la science moderne de l'IA », s'est dit choqué par les énormes progrès réalisés par des modèles tels que GPT-4. Il estime que

actuellement, les pays devraient coopérer activement. pour contrôler le développement de l'IA, établir un système similaire aux règles réglementaires de la technologie nucléaire

. Stuart Russell, professeur d'informatique à l'Université de Californie à Berkeley, estime que le fonctionnement actuel de l'intelligence artificielle est plein d'imprévisibilité. Par rapport à d'autres technologies contrôlables et puissantes, l'intelligence artificielle manque à ce stade d'un super outil de gestion. , nous ne pouvons donc pas comprendre avec précision les véritables intentions de l'intelligence artificielle et toutes les actions qu'elle peut entreprendre

Selon les rapports, au cours des six derniers mois, l'industrie a généralement cru que le moment où la « super IA » pourrait apparaître dans les superproductions hollywoodiennes était révolu. Quelques années plus tard, cela a déclenché des inquiétudes généralisées dans tous les secteurs de la société concernant les divers problèmes que la « super IA » pourrait entraîner

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!