Maison Périphériques technologiques IA Comment AI Agent envisage la conception au niveau de l'entreprise

Comment AI Agent envisage la conception au niveau de l'entreprise

Jan 15, 2024 pm 08:39 PM

Après l'explosion des modèles à grande échelle cette année, la technologie actuelle de l'intelligence artificielle en est encore au stade du système de deuxième génération et n'a pas encore atteint le niveau de l'intelligence artificielle générale (AGI). Cependant, dans certains domaines, AI Agent peut déjà être utilisé pour le traitement. En tant qu'application côté B typique, comment concevoir un agent IA qui répond aux besoins de l'entreprise ?

Avec le développement rapide de l'intelligence artificielle, divers modèles, produits et outils avancés à grande échelle émergent les uns après les autres. En tant que chef de produit côté B, nous devons adopter activement cette technologie d'intelligence artificielle transformatrice et l'appliquer à notre propre entreprise pour garantir que l'efficacité de l'entreprise ne soit pas à la traîne du développement de l'industrie

D'une manière générale, si une entreprise ne développe pas de manière indépendante des modèles à grande échelle, elle doit s'appuyer sur des capacités de modèles tiers à grande échelle pour développer des capacités d'IA afin de créer des produits ou des outils d'IA adaptés à l'entreprise elle-même.

Comme le montre la figure ci-dessous, les orientations courantes des modèles à grande échelle incluent le traitement du langage naturel (NLP), le multimodal (multimodal) et la reconnaissance vocale. Les grands fabricants de modèles organisent des formations en IA basées sur des capacités dans des directions spécifiques, permettant à l'IA de remplacer les humains dans des tâches « reproductibles » et « standardisables » dans certains domaines.

浅谈AI Agent在B端的设计思路

L'image est tirée de "Battle of Hundreds of Models!" d'Open Privacy Computing. Pour quel grand modèle d’IA êtes-vous le plus optimiste ? 》

Afin de déterminer les capacités d'IA requises pour notre entreprise, nous devons mener des recherches sur les modèles d'IA correspondants et évaluer les capacités de sortie des grands modèles. Nous pouvons évaluer de grands modèles sous plusieurs aspects tels que le rappel, la précision, la sécurité, l'interprétabilité, la stabilité, le coût et le potentiel de développement, pour finalement sélectionner un grand modèle qui répond à nos besoins. Sur ce sujet, j'ai détaillé comment choisir un grand modèle qui vous convient dans un précédent article.

Cependant, la technologie actuelle de l'IA en est encore au stade du système de deuxième génération et n'a pas encore atteint le niveau AGI. Il existe encore quelques problèmes avec les modèles à grande échelle actuellement accessibles, notamment sur les aspects suivants :

1. Illusion de l'IA :

L'illusion de l'IA fait référence aux limites de l'intelligence artificielle en termes de mémoire des connaissances, de capacité de compréhension, de méthodes de formation et de technologie de modèle, ce qui conduit à des performances inexactes ou peu fiables dans les résultats de sortie. Les problèmes courants incluent le biais des données et une mauvaise interprétabilité

En raison de l'existence de l'illusion de l'IA, même si nous nous attendons à ce que l'IA soit capable de produire des solutions fiables de manière stable, il y aura toujours une certaine proportion de mauvaises réponses. Par exemple, si l’IA est précise à 50 % dans un certain domaine, il y aura 25 mauvaises réponses sur 50. Pour les entreprises qui exigent une grande précision, l’IA ne peut pas être appliquée directement.

2. Réponses aux questions de conformité

L'essence de l'IA est de prédire les résultats sur la base de statistiques et n'a pas la capacité de juger clairement le bien et le mal. Par conséquent, lorsqu’il s’agit de questions éthiques, juridiques et autres, l’IA ne peut pas porter de jugements ou de distinctions précis, ce qui peut avoir un impact négatif sur l’entreprise

3. Pas assez natif :

Actuellement, la méthode d'interaction de l'intelligence artificielle se fait principalement par entrées-sorties. Les utilisateurs saisissent du contenu et l’intelligence artificielle produit des résultats. Cependant, ce procédé n'est pas adapté aux habitudes d'utilisation de tous les personnels de l'entreprise

Prenons l'exemple du scénario de traduction. Le processus métier d'un traducteur comprend généralement les étapes suivantes :

  1. Déterminer les besoins en traduction : confirmez la langue source, la langue cible, le style de traduction, les différences culturelles dans les différentes régions et les plans d'adaptation, etc.
  2. Traduction par lots : les tâches de traduction impliquent généralement plusieurs éléments de contenu et les traducteurs doivent effectuer le traitement par lots en même temps.
  3. Relecture : une fois la traduction terminée, elle doit être relue par un relecteur pour déterminer si elle répond aux besoins de l'entreprise.
  4. Modification : Si le résultat de la traduction ne répond pas aux besoins, il doit être modifié. Une fois la révision terminée, poursuivez le processus de traduction, de relecture et de révision jusqu'à ce que la révision soit approuvée.
  5. Livraison : appliquez le contenu de relecture à votre entreprise.

Cependant, si vous souhaitez utiliser l'IA pour la traduction afin de réduire les coûts de main-d'œuvre, l'utilisation directe de la méthode d'interaction de saisie de dialogue de grands modèles de langage entraînera les problèmes suivants :

1) Interrompre le flux de travail existant et rendre difficile le développement d'habitudes d'utilisation :

L'utilisation de grandes fenêtres de dialogue de modèle de langage interrompra le processus métier du travail de traduction original. À l'origine, il vous suffisait de terminer le travail sur l'outil ou le document de traduction. Après avoir rejoint le dialogue du modèle à grande échelle, chaque texte traduit nécessite une interaction de saisie dans la zone de saisie.

2) La limite supérieure d'augmentation des coûts de fonctionnement :

Les modèles linguistiques à grande échelle ont des limites en termes de durée de conversation. Si le contenu de la traduction est volumineux, l'interaction doit être effectuée par lots, ce qui augmentera les coûts de main-d'œuvre.

3) Augmentation des coûts de fonctionnement pour répondre à des besoins particuliers de traduction :

S'il existe des besoins de traduction spécifiques, tels que la traduction terminologique ou la spécification d'un style de traduction, une interaction est requise à chaque fois, ce qui consomme encore plus de main d'œuvre.

Les problèmes ci-dessus empêchent l’IA d’améliorer efficacement l’efficacité de la traduction commerciale. En raison de la lourdeur de l'opération, il est difficile pour les utilisateurs de prendre des habitudes d'utilisation. Ils pensent souvent inconsciemment qu'il est préférable de traduire directement par eux-mêmes plutôt que d'utiliser l'IA, le coût de remplacement est donc élevé.

De plus, la traduction IA a un problème d'illusion et ne peut pas offrir une expérience utilisateur au-delà des attentes.

Ainsi, [(nouvelle expérience-ancienne expérience)-coût de remplacement] n'est pas supérieur à 0 L'utilisation directe de la méthode d'interaction native de l'IA ne peut pas améliorer efficacement les tarifs commerciaux, des méthodes plus natives sont donc nécessaires.

浅谈AI Agent在B端的设计思路

1. Qu'est-ce que l'agent IA

Au vu des défis actuels auxquels est confrontée l’intelligence artificielle, nous devons réfléchir à la manière de construire nos propres applications côté B. Une solution possible consiste à essayer de créer un agent IA personnalisé pour l'entreprise

Le soi-disant agent AI, également connu sous le nom d'agent d'intelligence artificielle, fait référence à un programme automatisé capable de comprendre, d'apprendre et d'effectuer des tâches. Cela peut être comparé à « traiter l’IA comme un stagiaire et lui permettre d’effectuer des tâches insignifiantes, alors que nous sommes chargés de guider ce stagiaire pour garantir que ses résultats répondent aux résultats attendus ».

Contrairement aux grands modèles, les méthodes d'interaction d'AI Agent ne se limitent pas à inviter les gens. Il s’agit d’un système basé sur des objectifs de travail spécifiques et produisant des résultats qui répondent aux besoins. Le cœur d'AI Agent est un grand modèle, qui comprend également des extensions du module de perception, du module de planification et du module d'action

浅谈AI Agent在B端的设计思路

  1. Module de perception : Le module de perception rassemble les données en mots rapides à saisir via des connexions avec des sources de données commerciales et des sources de données externes.
  2. Module d'action : Le module d'action peut effectuer les opérations commerciales correspondantes en fonction des résultats de la perception et de la planification grâce à la connexion avec l'interface de capacité commerciale. En outre, les données de feedback dans la pratique commerciale peuvent également être optimisées grâce au système de feedback avec des codes, des stratégies et des mots d'invite.
  3. Module de planification : Le module de planification est le cœur d'AI Agent. En plus de tirer parti de la capacité des grands modèles, il est également nécessaire de concevoir en fonction des besoins métier combinés à la logique du code. Ici, nous devons concevoir le fonctionnement du cerveau et adopter des méthodes d’entrée et de sortie appropriées pour piloter les affaires.
2. Comment concevoir un agent IA

Alors comment concevoir un agent IA qui répond aux besoins de l'entreprise ?

1. Trouvez le bon scénario commercial

Tout d'abord, nous devons déterminer le scénario adapté à l'agent IA et évaluer l'adéquation du scénario sélectionné en simulant l'entrée des données et en collectant les résultats de sortie. Lors de l’évaluation des résultats, il est nécessaire d’examiner s’ils répondent aux attentes. Si les résultats ne sont pas ceux attendus, vous devez évaluer la gravité de l’erreur et s’il est possible d’améliorer la précision et le rappel. S'il y a place à l'amélioration, l'IA peut être adaptée pour répondre aux besoins de notre scène en optimisant les mots d'invite ou en introduisant la construction de modules de perception, d'action et de planification.

2. Triez les attentes d'entrée et de sortie

Nous devons clarifier les « objectifs » et les « exigences » de l'agent IA afin de déterminer ce que nous saisissons et ce que l'agent doit produire.

Sur la base de ces « objectifs » et « exigences », nous devrions réfléchir à la manière de choisir les méthodes d'entrée et de sortie appropriées pour répondre aux besoins de l'entreprise et lui donner du pouvoir. Cela nous aidera à concevoir le processus de sortie ultérieur et à l'évaluer pendant la phase de vérification de la conception pour déterminer s'il répond aux exigences.

3. Triez le processus de sortie

Lorsque nous sommes confrontés à des exigences de sortie complexes, nous devons concevoir plusieurs processus de conversation d'IA afin que les différentes IA puissent collaborer les unes avec les autres pour finalement obtenir des résultats de sortie qui répondent aux exigences. Par exemple, dans les scénarios de classification de texte, nous pouvons d'abord utiliser le grand modèle de la version 3.5 pour une classification précise de premier niveau afin de répondre aux besoins.

Étant donné que le coût de la version 4.0 est des dizaines de fois supérieur à celui de la version 3.5 et que la version 3.5 est suffisante pour la classification de premier niveau, vous pouvez choisir d'utiliser la version 3.5 pour réduire les coûts. Ensuite, nous pouvons utiliser la version 4.0 pour la classification secondaire afin d'obtenir de meilleurs résultats de classification et de garantir que nous produisons le contenu requis.

Lors de la conception du processus, vous devez prendre en compte les facteurs suivants :

  • Facteurs de coût : les coûts des différents grands modèles et de leurs versions sont différents. Nous devons peser les avantages commerciaux et choisir un plan d'utilisation raisonnable des grands modèles pour éviter de perdre plus que le gain.
  • Facteurs d'effet : Les effets des différents grands modèles et de leurs versions sont différents, et ils ont leurs atouts dans différents domaines. Nous devons choisir la solution la plus adaptée en fonction des besoins d'utilisation.

Après avoir examiné de manière approfondie les facteurs de coût et d'efficacité, nous avons finalement déterminé un plan adapté

4. Mécanisme d'inspection de sortie

Afin d'éviter que le contenu trompeur des résultats de l'IA n'affecte l'entreprise, nous devons établir un mécanisme de vérification efficace. Les méthodes de vérification courantes incluent la correspondance de lexique, la correspondance d'expressions régulières et l'inspection manuelle. Bloquez le contenu trompeur en utilisant un thésaurus ou des moyens manuels. En outre, nous pouvons également créer un agent d'inspection de la qualité pour permettre à l'IA elle-même d'effectuer une inspection de la qualité sur la sortie afin de filtrer le contenu problématique et d'améliorer le taux de détection du contenu trompeur.

5. Solution d'illusion

La survenue d'hallucinations est un phénomène qui ne peut être complètement éradiqué. Afin d'éviter des effets néfastes sur notre entreprise, nous devons formuler un plan de sécurité, tel que :

1) Inspection manuelle : avant que la sortie de l'IA ne soit transmise à l'utilisateur, un lien d'inspection manuelle est introduit. Ce n'est qu'une fois l'inspection manuelle réussie que les résultats sont transmis à l'utilisateur. De cette façon, nous pouvons parfaitement empêcher l’illusion de l’IA d’avoir un impact négatif sur les entreprises, et nous pouvons également utiliser les résultats de l’IA pour améliorer l’efficacité. Cependant, cette méthode nécessite un examen humain, elle augmentera donc certains coûts de main-d'œuvre.

浅谈AI Agent在B端的设计思路

2) Packaging raisonnable : étant donné que nous sommes une application d'IA pour la face B, nous pouvons utiliser des méthodes telles que le packaging de l'application de sortie en tant qu'"assistant IA" pour faire comprendre directement aux utilisateurs : "Les résultats de sortie ici sont générés par l'IA et sont à titre de référence seulement. De cette façon, nous pouvons permettre aux utilisateurs de former des attentes psychologiques raisonnables et d’éviter les réactions indésirables en cas de production hallucinatoire.

3. Résumé

Sur la base des idées ci-dessus, nous pouvons créer des agents de traduction côté B, des agents de classification des données, des agents de service client intelligents et d'autres services. Bien sûr, ce ne sont là que quelques-unes de mes réflexions personnelles.

Veuillez voter pour moi

Je participe à la sélection Tout le monde est chef de produit 2023. J'espère que les amis qui aiment mes articles pourront venir me soutenir~

.

Cliquez sur le lien ci-dessous pour accéder à ma page de candidature personnelle et cliquez sur le cœur rouge pour voter pour moi.

Chaque personne peut voter jusqu'à 30 votes par jour. En votant, vous aurez une chance de gagner à la loterie et vous recevrez des cadeaux tels que des livres, des périphériques commémoratifs Tout le monde est un chef de produit et une adhésion à la classe Starting Point !

Veuillez cliquer sur le lien ci-dessous pour voter : https://996.pm/7d9yE

Chroniqueur

Le gâteau au citron est propre et hygiénique. Compte officiel : Le gâteau au citron est propre et hygiénique. Tout le monde est chroniqueur chef de produit. Un produit B-end dans l'industrie du jeu. Il a été responsable du contenu lié au CRM, au contrôle des risques, à la BI, au SDK et à l'IA dans l'industrie du jeu. Il publie régulièrement des réflexions personnelles ou des articles de synthèse ~

.

Cet article a été initialement publié sur Tout le monde est un chef de produit. La réimpression sans autorisation est interdite

.

L'image du titre provient d'Unsplash, basée sur la licence CC0

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Meilleurs paramètres graphiques
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Comment réparer l'audio si vous n'entendez personne
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Où trouver la courte de la grue à atomide atomique
1 Il y a quelques semaines By DDD

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

J'ai essayé le codage d'ambiance avec Cursor Ai et c'est incroyable! J'ai essayé le codage d'ambiance avec Cursor Ai et c'est incroyable! Mar 20, 2025 pm 03:34 PM

Le codage des ambiances est de remodeler le monde du développement de logiciels en nous permettant de créer des applications en utilisant le langage naturel au lieu de lignes de code sans fin. Inspirée par des visionnaires comme Andrej Karpathy, cette approche innovante permet de dev

Top 5 Genai Lunets de février 2025: GPT-4.5, Grok-3 et plus! Top 5 Genai Lunets de février 2025: GPT-4.5, Grok-3 et plus! Mar 22, 2025 am 10:58 AM

Février 2025 a été un autre mois qui change la donne pour une IA générative, nous apportant certaines des mises à niveau des modèles les plus attendues et de nouvelles fonctionnalités révolutionnaires. De Xai's Grok 3 et Anthropic's Claude 3.7 Sonnet, à Openai's G

Comment utiliser YOLO V12 pour la détection d'objets? Comment utiliser YOLO V12 pour la détection d'objets? Mar 22, 2025 am 11:07 AM

Yolo (vous ne regardez qu'une seule fois) a été un cadre de détection d'objets en temps réel de premier plan, chaque itération améliorant les versions précédentes. La dernière version Yolo V12 introduit des progrès qui améliorent considérablement la précision

Sora vs Veo 2: Laquelle crée des vidéos plus réalistes? Sora vs Veo 2: Laquelle crée des vidéos plus réalistes? Mar 10, 2025 pm 12:22 PM

Veo 2 de Google et Sora d'Openai: Quel générateur de vidéos AI règne en suprême? Les deux plates-formes génèrent des vidéos d'IA impressionnantes, mais leurs forces se trouvent dans différents domaines. Cette comparaison, en utilisant diverses invites, révèle quel outil répond le mieux à vos besoins. T

Google & # 039; s Gencast: Prévision météorologique avec Mini démo Gencast Google & # 039; s Gencast: Prévision météorologique avec Mini démo Gencast Mar 16, 2025 pm 01:46 PM

Gencast de Google Deepmind: une IA révolutionnaire pour les prévisions météorologiques Les prévisions météorologiques ont subi une transformation spectaculaire, passant des observations rudimentaires aux prédictions sophistiquées alimentées par l'IA. Gencast de Google Deepmind, un terreau

Chatgpt 4 o est-il disponible? Chatgpt 4 o est-il disponible? Mar 28, 2025 pm 05:29 PM

Chatgpt 4 est actuellement disponible et largement utilisé, démontrant des améliorations significatives dans la compréhension du contexte et la génération de réponses cohérentes par rapport à ses prédécesseurs comme Chatgpt 3.5. Les développements futurs peuvent inclure un interg plus personnalisé

Quelle IA est la meilleure que Chatgpt? Quelle IA est la meilleure que Chatgpt? Mar 18, 2025 pm 06:05 PM

L'article traite des modèles d'IA dépassant Chatgpt, comme Lamda, Llama et Grok, mettant en évidence leurs avantages en matière de précision, de compréhension et d'impact de l'industrie. (159 caractères)

O1 vs GPT-4O: le nouveau modèle Openai est-il meilleur que GPT-4O? O1 vs GPT-4O: le nouveau modèle Openai est-il meilleur que GPT-4O? Mar 16, 2025 am 11:47 AM

O1'S O1: Une vague de cadeaux de 12 jours commence par leur modèle le plus puissant à ce jour L'arrivée de décembre apporte un ralentissement mondial, les flocons de neige dans certaines parties du monde, mais Openai ne fait que commencer. Sam Altman et son équipe lancent un cadeau de don de 12 jours

See all articles