Pour l'intelligence artificielle, il faut vraiment que les humains soient impressionnés ! L'avertissement du père de ChatGPT mérite d'être pris en compte

« Réduire le risque que l’IA anéantisse l’humanité devrait être une priorité mondiale, aux côtés d’autres risques à l’échelle de la société tels que les pandémies et la guerre nucléaire. »

Comme un seau d'eau froide versé, y compris les meilleurs experts dans le domaine de l'intelligence artificielle, des personnalités de niveau « Parrain de l'IA », des magnats de l'industrie tels que le PDG d'Open AI Sam Altman et le PDG de DeepMind Demis Hassabis, ainsi que des centaines de praticiens signés conjointement a écrit une lettre ouverte.

Dans la lettre, ils appellent les gouvernements et le public à être suffisamment prudents à l'égard de l'intelligence artificielle. Ils craignent qu'avec les progrès rapides de la technologie de l'IA, elle ne constitue une menace existentielle pour l'humanité.

Cela ne peut que rappeler aux gens les avertissements et les appels de Musk. Il espère suspendre le développement et les expériences d'intelligence artificielle à grande échelle. « L'intelligence artificielle avancée peut représenter un changement profond dans l'histoire de la vie sur terre, et devrait l'être. compte tenu de l’attention et des ressources correspondantes. » Planification et gestion.

Les deux avertissements lourds avant et après obligent les gens à réfléchir sérieusement à la manière dont nous devrions faire face à l’arrivée de l’ère de l’intelligence artificielle.

En ce qui concerne l'IA, tout le monde est en fait sur la même ligne de départ

Bien que ChatGPT lancé par Open AI ait pris d'assaut le monde et suscité l'enthousiasme des gens pour l'intelligence artificielle, l'industrie a estimé que l'IA était bel et bien entrée dans le « moment iPhone ».

En d’autres termes, tout comme Steve Jobs a lancé l’iPhone et lancé officiellement l’ère de l’Internet mobile, l’humanité est sur le point de commencer (ou est déjà) entrée dans l’ère de l’intelligence artificielle.

Cependant, ce qui est différent de l'ère de l'Internet mobile, c'est qu'il est encore difficile de dire qui est le leader. Qu'il s'agisse des États-Unis, de la Chine ou de l'Europe, personne n'ose dire qu'il s'agit de Steve Jobs, car. personne n'a lancé un produit historique comme l'iPhone.

Dans cette époque turbulente, bien qu'OpenAI ait une demi-position d'avance, elle n'est peut-être que le « pionnier du roi ». Aucune entreprise n'a encore établi de barrières et de fossés solides, et les acteurs de tous horizons sont relativement sur la même ligne de départ. .

Peut-être qu’il ne faudra pas quelques années pour découvrir qui est votre « destin ».

L'avertissement du père de ChatGPT mérite d'être pris en compte

En tant que PDG d'Open AI, Sam Altman a des sentiments qui transcendent les intérêts commerciaux. Il a souligné à plusieurs reprises les risques de l'intelligence artificielle.

Le développement rapide de modèles d'intelligence artificielle tels que ChatGPT peut constituer une menace potentielle pour la société et l'emploi. Si l'intelligence artificielle devient incontrôlable, elle entraînera des décès humains à grande échelle et même l'extinction d'espèces, tout comme le risque de pandémies et de guerres nucléaires. .

Ainsi, Sam Altman s'est joint à de nombreuses personnes pour appeler le gouvernement à renforcer la supervision, mais le problème est que les agences gouvernementales sont souvent à la traîne dans la supervision des nouvelles choses et des nouvelles technologies, et elles ne savent pas comment superviser. Je ne sais pas ce que signifie l'IA.

La cognition humaine est dans un processus d'amélioration continue. La plupart des gens le croient parce qu'ils le voient. Mais le paradoxe est que si vous attendez que l'IA représente réellement une menace existentielle pour l'humanité, il est peut-être trop tard.

Autant faire une hypothèse, si la technologie nucléaire ne dispose pas de méthodes de supervision et d'examen pertinentes, à quoi ressemblera la société humaine ? Dans un sens, la technologie de l’IA pourrait être plus destructrice que la technologie nucléaire.

Avantages et inconvénients de l'intelligence artificielle

Du point de vue de l'amélioration de la productivité, l'intelligence artificielle aura un très grand effet et libérera grandement les gens du travail physique pénible et d'un travail mental de faible valeur.

Les robots de balayage, les robots de cuisine, les robots industriels, les robots miniers et les robots médicaux peuvent tous grandement faciliter la vie des gens. L’IA présente un grand potentiel en termes d’analyse de données, de reconnaissance d’images, de précision et d’efficacité.

Mais avec la popularisation de l'IA, un grand nombre d'emplois répétitifs seront remplacés, de nombreuses personnes seront au chômage et l'intrusion de l'intelligence artificielle dans la vie privée est inquiétante, en plus de l'actualité, de la guerre, de la sécurité, du droit, de la discrimination algorithmique et l’éthique (comme le fossé entre riches et pauvres) et d’autres défis.

Kissinger a déclaré que les humains ne sont pas encore prêts et qu’ils doivent redéfinir leur relation avec cette nouvelle espèce, l’IA. Cette opinion mérite en effet l’attention et la considération de personnes de tous horizons.

Mais tout le monde a un grand consensus, c'est-à-dire que dans l'ensemble, l'IA est plus bénéfique que nuisible aux êtres humains, et personne ne peut dire que la technologie de l'IA devrait être étranglée au berceau. Elle se développera de toute façon, la clé est donc le développement et le contrôle. Les contradictions peuvent réaliser leurs avantages et éliminer leurs inconvénients.

Les humains doivent vraiment être impressionnés par l'intelligence artificielle

À l'ère d'Internet, Internet regorge de toutes sortes d'informations fausses, négatives et nuisibles, ce qui pose de grands défis à la capacité des gens à juger et à distinguer les informations.

À l'ère de l'intelligence artificielle, il est difficile de faire la distinction entre le vrai et le faux. Si l'IA veut tromper les gens, ce sera sans doute plus facile. En fait, il existe déjà des cas d'escrocs utilisant la technologie de l'IA pour tromper les gens. et vos amis sur votre téléphone portable, vous ne connaissez pas l'autre personne. Est-ce une vraie personne ou un menteur prétendant être une vraie personne.

De plus, par rapport à la puissante pensée numérique de l'IA (qui devient de plus en plus forte, comme la fabrication aléatoire de type IA), quelles sont les valeurs et les avantages de la pensée humaine ? Plus sérieusement, face à l’IA, quelle place reste-t-il à la lumière de la civilisation humaine ?

Mais la course à l'IA a commencé. Il semble que peu de gens soient prêts à s'arrêter et à réfléchir attentivement aux risques de l'IA. Tout le monde veut courir plus vite, qu'importe ?

Les facteurs apportés par les humains eux-mêmes rendent l'avenir plein d'incertitude. La direction que prendra l’intelligence artificielle pour l’humanité dépend en grande partie de nos efforts actuels.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!