L'IA a besoin à la fois de pragmatiques et de rêveurs du ciel bleu

Les penseurs de l’IA semblent provenir de deux communautés. L’un est ce que j’appelle les visionnaires du ciel bleu, qui spéculent sur les possibilités futures de la technologie, invoquant des fantasmes utopiques pour susciter l’enthousiasme. Les visions du ciel bleu sont convaincantes, mais elles sont souvent assombries par des visions irréalistes et des défis éthiques quant à ce qui peut et doit être construit.

En revanche, ce que j'appelle un pragmatique de la boue est celui qui se concentre sur les problèmes et les solutions. Ils espèrent réduire les dommages que peuvent causer les systèmes d’intelligence artificielle largement utilisés. Ils se concentrent sur la correction des systèmes biaisés et défectueux, tels que les systèmes de reconnaissance faciale qui identifient souvent par erreur les personnes comme des criminels ou violent la vie privée. Les pragmatiques espèrent réduire le nombre d’erreurs médicales mortelles que l’IA peut commettre et guider les voitures autonomes vers des véhicules à conduite sûre. Ils visent également à améliorer les décisions basées sur l’IA concernant les prêts hypothécaires, les admissions à l’université, le recrutement et les libérations conditionnelles.

En tant que professeur d'informatique avec une longue expérience dans la conception d'applications innovantes qui ont été largement mises en œuvre, je pense que ceux qui sont prévoyants bénéficieront des informations réfléchies de Mud Boot Realists. La combinaison des travaux des deux camps est plus susceptible de produire des résultats bénéfiques qui mèneront au succès des technologies de nouvelle génération.

Alors que la pensée futuriste des spéculateurs du ciel bleu inspire notre admiration et obtient l'essentiel de notre financement, la pensée de la boue nous rappelle que certaines applications d'IA menacent la vie privée, propagent de la désinformation et sont ouvertement racistes, sexistes et autres problèmes éthiques. Il est indéniable que les machines font partie de notre avenir, mais serviront-elles de la même manière tous les humains du futur ? Je pense que la prudence et le caractère pratique du camp d’entraînement dans la boue profiteront à l’humanité à court et à long terme en garantissant la diversité et l’égalité dans le développement d’algorithmes qui ont un impact de plus en plus important sur notre vie quotidienne. Si les penseurs du ciel bleu intègrent les préoccupations des réalistes aux bottes de boue dans leurs conceptions, ils peuvent créer des technologies futures plus susceptibles de faire progresser les valeurs, les droits et la dignité humains.

Blue Sky Thinking a commencé dès les premiers jours du développement de l’intelligence artificielle. La littérature est dominée par les auteurs qui ont été les pionniers de la technologie et ont préfiguré son inévitable transformation sociale. Les « pères » de l’intelligence artificielle sont généralement considérés comme Marvin Minsky et John McCarthy du MIT et Allen Newell et Herb Simon de l’université Carnegie Mellon. Ils se sont réunis lors de conférences, telles que la Conférence de Dartmouth en 1956, qui ont inspiré la prédiction de Simon en 1965 selon laquelle « les machines seront capables d'effectuer n'importe quel travail que les humains peuvent faire d'ici 20 ans ».

Il existe de nombreux autres contributeurs à l'intelligence artificielle, dont trois lauréats du Turing Award 2018 : Geoffrey Hinton, Yoshua Bengio et Yann LeCun. Leurs travaux sur les algorithmes d’apprentissage profond constituent une contribution importante, mais leur célébration continue de l’importance et du caractère inévitable de l’IA inclut la citation inquiétante de Hinton en 2016 : « Les gens devraient arrêter de former des radiologues maintenant. Il est clair que « dans cinq ans, l’apprentissage profond fera mieux ». que les radiologues. » Une vision plus centrée sur l’humain est que les algorithmes d’apprentissage profond deviendront un autre outil qui responsabilisera les radiologues et autres cliniciens sur des choses comme les mammographies et les analyses de sang. Capables de poser des diagnostics plus précis et de fournir des plans de traitement plus appropriés.

Le thème du chômage généralisé causé par les robots remplaçant les humains a été légitimé par un rapport de 2013 de l'Université d'Oxford, qui affirmait que 47 % des emplois pourraient être automatisés. Le livre The Rise of the Robots du futuriste Martin Ford, paru en 2015, a capturé cette idée, dressant un tableau inquiétant d'emplois peu et hautement qualifiés devenant si entièrement automatisés que les gouvernements le feront. Un revenu de base universel doit être assuré car il reste si peu d'emplois. . La réalité est qu’une automatisation bien conçue peut augmenter la productivité, réduisant ainsi les prix, augmentant la demande et apportant des avantages à de nombreuses personnes. Ces changements ont déclenché un phénomène parallèle de création vigoureuse de nouveaux emplois, qui a contribué aux niveaux d’emploi élevés actuels aux États-Unis et dans certains autres pays.

Oui, il existe des auteurs qui proposent des mises en garde et des visions alternatives, comme le professeur Joseph Weizenbaum du MIT dans son livre de 1976 Computer Power and Human Reason, mais ce sont des exceptions.

Les pragmatiques du Mud Boot ont déclenché une nouvelle vague de critiques réfléchies sur l’IA. Ils font passer le débat d’un optimisme fantaisiste à une identification claire des menaces à la dignité humaine, à l’équité et à la démocratie. Des articles d'opinion et un symposium à la Maison Blanche en 2016 ont été des initiatives utiles, et le livre de 2016 de la mathématicienne Cathy O'Neil, Weapons of Math Destruction a élargi le public. Elle se concentre sur la façon dont les algorithmes opaques d’intelligence artificielle peuvent être nocifs lorsqu’ils sont appliqués à grande échelle pour décider des demandes de libération conditionnelle, d’hypothèque et d’emploi. Les exemples puissants d'O'Neill favorisent une réflexion centrée sur les personnes.

D’autres livres comme Race After Technology: Abolitionist Tools for the New Jim Code de Ruha Benjamin suivent comment changer les algorithmes pour augmenter les opportunités économiques et réduire les préjugés raciaux.

Le livre de 2019 de la psychologue sociale Shoshanna Zuboff, The Age of Surveillance Capitalism

, démontre le passage de Google de sa première devise « Ne soyez pas méchant » à un effort calculé pour « obscurcir ces processus et leurs effets ». La solution de Zuboff consiste à appeler à des changements dans les modèles économiques, à un contrôle démocratique et à des sanctuaires de protection de la vie privée. La chercheuse Kate Crawford publie une autre analyse dévastatrice dans son livre Atlas of Artificial Intelligence de 2021, qui se concentre sur le pouvoir d'extraction et de destruction de l'IA pour l'emploi, l'environnement, les relations et la démocratie. Elle a peaufiné ce point lors d’une conférence fascinante à la National Academy of Engineering, décrivant les actions constructives que les chercheurs et les développeurs d’IA peuvent entreprendre tout en encourageant la réglementation gouvernementale et les efforts individuels pour protéger la vie privée. Les activistes de Mud Boot sont reconnus pour leurs contributions actives à la recherche qui mènent à des conceptions ingénieuses qui profitent aux gens. En octobre 2021, Cynthia Rudin a reçu le prix Artificial Intelligence for Good d'un million de dollars de l'Association pour l'avancement de l'intelligence artificielle. Son travail sur les formes explicables de l’IA est une réponse à la complexité vertigineuse des algorithmes opaques et de type boîte noire qui font qu’il est difficile pour les gens de comprendre pourquoi on leur a refusé une libération conditionnelle, une hypothèque ou un emploi. De nombreux penseurs des bottes de boue sont des femmes, mais les hommes parlent également de la nécessité d'une supervision humaine.

Le pionnier de la technologie Jaron Lanier a également exprimé ses inquiétudes

dans ses Dix arguments pour supprimer vos comptes de réseaux sociaux maintenant

, qui identifie les dangers des réseaux sociaux et recommande aux utilisateurs de mieux contrôler leur utilisation des réseaux sociaux. Dans

Les nouvelles lois de la robotique du juriste Frank Pasquale, les développeurs d'IA devraient valoriser l'expertise humaine, éviter les courses aux armements technologiques et être responsables des technologies qu'ils créent. Cependant, garantir le contrôle humain grâce à une conception centrée sur l’humain nécessitera des changements importants dans les politiques nationales, les pratiques commerciales, les programmes de recherche et les programmes d’enseignement. Ce camp de travailleurs diversifiés, notamment des femmes, des personnes non binaires, des personnes handicapées et des personnes de couleur, transmet des messages importants pour garantir que les rêves du ciel bleu soient transformés en produits et services réalisables qui profitent à l'humanité et protègent l'environnement.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!