Wie AI Agent über Design auf Unternehmensebene denkt

Nach der Explosion großer Modelle in diesem Jahr befindet sich die aktuelle Technologie der künstlichen Intelligenz noch im Systemstadium der zweiten Generation und hat noch nicht das Niveau der künstlichen allgemeinen Intelligenz (AGI) erreicht. In einigen Bereichen kann AI Agent jedoch bereits zur Bearbeitung eingesetzt werden. Wie entwirft man als typische B-End-Anwendung einen KI-Agenten, der die Geschäftsanforderungen erfüllt?

Mit der rasanten Entwicklung der künstlichen Intelligenz entstehen nacheinander verschiedene fortschrittliche Großmodelle, Produkte und Werkzeuge. Als B-Side-Produktmanager müssen wir diese transformative Technologie der künstlichen Intelligenz aktiv nutzen und auf unser eigenes Unternehmen anwenden, um sicherzustellen, dass die Effizienz des Unternehmens nicht hinter der Entwicklung der Branche zurückbleibt

Wenn ein Unternehmen nicht unabhängig groß angelegte Modelle entwickelt, muss es sich im Allgemeinen auf die groß angelegten Modellfunktionen Dritter verlassen, um KI-Fähigkeiten zu entwickeln und KI-Produkte oder -Tools zu entwickeln, die für das Unternehmen selbst geeignet sind.

Wie in der folgenden Abbildung dargestellt, umfassen gängige groß angelegte Modellrichtungen die Verarbeitung natürlicher Sprache (NLP), multimodale (multimodale) und Spracherkennung. Große Modellhersteller führen KI-Schulungen auf der Grundlage von Fähigkeiten in bestimmten Richtungen durch, sodass KI in bestimmten Bereichen den Menschen bei „wiederholbaren“ und „standardisierbaren“ Aufgaben ersetzen kann.

Das Bild ist ein Zitat aus „Battle of Hundreds of Models“ von Open Privacy Computing! Welches große KI-Modell bevorzugen Sie? 》

Um die für unser Unternehmen erforderlichen KI-Fähigkeiten zu ermitteln, müssen wir die entsprechenden KI-Modelle erforschen und die Ausgabefähigkeiten großer Modelle bewerten. Wir können große Modelle anhand mehrerer Dimensionen wie Rückruf, Genauigkeit, Sicherheit, Interpretierbarkeit, Stabilität, Kosten und Entwicklungspotenzial bewerten, um letztendlich ein großes Modell auszuwählen, das unseren Anforderungen entspricht. Zu diesem Thema habe ich in einem früheren Artikel detailliert beschrieben, wie Sie ein großes Modell auswählen, das zu Ihnen passt.

Allerdings befindet sich die aktuelle KI-Technologie noch im Systemstadium der zweiten Generation und hat das AGI-Niveau noch nicht erreicht. Es gibt immer noch einige Probleme mit den derzeit verfügbaren Großmodellen, vor allem unter folgenden Gesichtspunkten:

1. KI-Illusion:

KI-Illusion bezieht sich auf die Einschränkungen der künstlichen Intelligenz im Wissensgedächtnis, im Verständnisvermögen, in den Trainingsmethoden und in der Modelltechnologie, die zu einer ungenauen oder unzuverlässigen Leistung bei den Ausgabeergebnissen führen. Häufige Probleme sind Datenverzerrungen und schlechte Interpretierbarkeit

Aufgrund der Existenz von KI-Illusionen wird es, selbst wenn wir erwarten, dass KI stabil zuverlässige Lösungen ausgeben kann, immer noch einen gewissen Anteil falscher Antworten geben. Wenn die KI beispielsweise in einem bestimmten Bereich eine Genauigkeit von 50 % hat, gibt es 25 von 50 falschen Antworten. Für Unternehmen, die eine hohe Genauigkeit erfordern, kann KI nicht direkt angewendet werden.

2. Antworten auf Compliance-Fragen

Die Essenz der KI besteht darin, Ergebnisse auf der Grundlage von Statistiken vorherzusagen und nicht in der Lage zu sein, eindeutig richtig und falsch zu beurteilen. Wenn es um ethische, rechtliche und andere Fragen geht, kann KI daher keine genauen Urteile oder Unterscheidungen treffen, was sich negativ auf das Unternehmen auswirken kann

3. Nicht nativ genug:

Derzeit erfolgt die Interaktionsmethode der künstlichen Intelligenz hauptsächlich durch Input-Output. Benutzer geben Inhalte ein und künstliche Intelligenz gibt Ergebnisse aus. Allerdings ist dieser Prozess nicht für die Nutzungsgewohnheiten aller Geschäftsleute geeignet

Nehmen Sie das Übersetzungsszenario als Beispiel. Der Geschäftsprozess eines Übersetzers umfasst normalerweise die folgenden Schritte:

1. Bestimmen Sie den Übersetzungsbedarf: Bestätigen Sie die Ausgangssprache, die Zielsprache, den Übersetzungsstil, kulturelle Unterschiede in verschiedenen Regionen und Anpassungspläne usw.
2. Batch-Übersetzung: Übersetzungsaufgaben umfassen in der Regel mehrere Inhalte, und Übersetzer müssen die Verarbeitung stapelweise gleichzeitig abschließen.
3. Korrekturlesen: Nachdem die Übersetzung fertiggestellt ist, muss sie von einem Korrektor Korrektur gelesen werden, um festzustellen, ob sie den Geschäftsanforderungen entspricht.
4. Änderung: Wenn das Übersetzungsergebnis nicht den Anforderungen entspricht, muss es geändert werden. Nachdem die Überarbeitung abgeschlossen ist, setzen Sie den Übersetzungs-, Korrekturlese- und Überarbeitungsprozess fort, bis die Überarbeitung genehmigt wird.
5. Lieferung: Wenden Sie Korrekturleseinhalte auf Ihr Unternehmen an.

Wenn Sie jedoch KI für die Übersetzung verwenden möchten, um Arbeitskosten zu sparen, führt die direkte Verwendung der Dialogeingabe-Interaktionsmethode eines großen Sprachmodells zu folgenden Problemen:

1) Unterbrechen Sie den bestehenden Arbeitsablauf und erschweren Sie die Entwicklung von Nutzungsgewohnheiten:

Die Verwendung großer Sprachmodell-Dialogfenster unterbricht den Geschäftsprozess der ursprünglichen Übersetzungsarbeit. Ursprünglich mussten Sie nur die Arbeit am Übersetzungstool oder Dokument abschließen. Nach dem Beitritt zum umfangreichen Modelldialog ist für jeden übersetzten Text eine Eingabeinteraktion im Eingabefeld erforderlich.

2) Die Obergrenze der Betriebskostensteigerung:

Bei großen Sprachmodellen ist die Konversationslänge begrenzt. Wenn der Übersetzungsinhalt umfangreich ist, muss die Interaktion stapelweise durchgeführt werden, was die Arbeitskosten erhöht.

3) Erhöhte Betriebskosten zur Erfüllung spezieller Übersetzungsanforderungen:

Wenn spezifische Übersetzungsbedürfnisse bestehen, wie z. B. die Übersetzung von Terminologie oder die Festlegung eines Übersetzungsstils, ist jedes Mal eine Interaktion erforderlich, die weitere Arbeitskräfte beansprucht.

Die oben genannten Probleme verhindern, dass KI die Effizienz von Geschäftsübersetzungen effektiv verbessert. Aufgrund der umständlichen Bedienung ist es für Benutzer schwierig, Nutzungsgewohnheiten zu entwickeln. Sie denken oft unbewusst, dass es besser ist, direkt selbst zu übersetzen, als KI zu verwenden, sodass die Wiederbeschaffungskosten hoch sind.

Darüber hinaus weist die KI-Übersetzung ein Illusionsproblem auf und kann keine Benutzererfahrung bieten, die über den Erwartungen liegt.

Daher sind [(neue Erfahrung – alte Erfahrung)-Ersatzkosten] nicht größer als 0. Die direkte Verwendung der nativen Interaktionsmethode von AI kann die Geschäftsraten nicht effektiv verbessern, daher sind einige weitere native Methoden erforderlich.

1. Was ist AI Agent

Angesichts der aktuellen Herausforderungen, vor denen künstliche Intelligenz steht, müssen wir darüber nachdenken, wie wir auf der B-Seite eigene Anwendungen erstellen können. Eine Möglichkeit besteht darin, zu versuchen, einen auf das Unternehmen zugeschnittenen KI-Agenten zu entwickeln

Der sogenannte AI Agent, auch Agent der künstlichen Intelligenz genannt, bezeichnet ein automatisiertes Programm, das Aufgaben verstehen, lernen und ausführen kann. Man kann es damit vergleichen, „die KI wie einen Praktikanten zu behandeln und sie triviale Aufgaben übernehmen zu lassen, während wir dafür verantwortlich sind, diesen Praktikanten anzuleiten, um sicherzustellen, dass sein Output den erwarteten Ergebnissen entspricht.“

Im Gegensatz zu großen Modellen beschränken sich die Interaktionsmethoden von AI Agent nicht auf Aufforderungen an Menschen. Es handelt sich um ein System, das auf spezifischen Arbeitszielen basiert und bedarfsgerechte Ergebnisse liefert. Der Kern von AI Agent ist ein großes Modell, das auch Erweiterungen des Wahrnehmungsmoduls, des Planungsmoduls und des Aktionsmoduls umfasst

1. Wahrnehmungsmodul: Das Wahrnehmungsmodul fügt Daten durch Verbindungen mit Geschäftsdatenquellen und externen Datenquellen zu Eingabeaufforderungen zusammen.
2. Aktionsmodul: Das Aktionsmodul kann durch die Verbindung mit der Geschäftsfähigkeitsschnittstelle entsprechende Geschäftsoperationen basierend auf den Ergebnissen der Wahrnehmung und Planung durchführen. Darüber hinaus können durch das Feedbacksystem mit Codes, Strategien und Ansagewörtern auch die Feedbackdaten in der Unternehmenspraxis optimiert werden.
3. Planungsmodul: Das Planungsmodul ist der Kern von AI Agent. Neben der Nutzung der Fähigkeiten großer Modelle ist es auch erforderlich, das Design auf der Grundlage von Geschäftsanforderungen in Kombination mit Codelogik zu entwickeln. Hier müssen wir verstehen, wie das Gehirn funktioniert, und geeignete Eingabe- und Ausgabemethoden anwenden, um das Geschäft voranzutreiben.
2. So entwerfen Sie einen KI-Agenten

Wie entwirft man also einen KI-Agenten, der die Geschäftsanforderungen erfüllt?

1. Finden Sie das richtige Geschäftsszenario

Zunächst müssen wir das für den KI-Agenten geeignete Szenario ermitteln und die Eignung des ausgewählten Szenarios bewerten, indem wir die Dateneingabe simulieren und Ausgabeergebnisse sammeln. Bei der Beurteilung der Output-Ergebnisse ist zu prüfen, ob diese den Erwartungen entsprechen. Wenn die Ergebnisse nicht den Erwartungen entsprechen, müssen Sie die Schwere des Fehlers bewerten und prüfen, ob Verbesserungspotenzial bei Präzision und Rückruf besteht. Wenn es Raum für Verbesserungen gibt, kann die KI durch die Optimierung von Aufforderungswörtern oder durch die Einführung der Konstruktion von Wahrnehmungs-, Aktions- und Planungsmodulen an die Bedürfnisse unserer Szene angepasst werden.

2. Sortieren Sie die Input- und Output-Erwartungen

Wir müssen die „Ziele“ und „Anforderungen“ für den KI-Agenten klären, um zu bestimmen, was wir eingeben und was der Agent ausgeben muss.

Basierend auf diesen „Zielen“ und „Anforderungen“ sollten wir darüber nachdenken, wie wir die geeigneten Eingabe- und Ausgabemethoden auswählen, um den Geschäftsanforderungen gerecht zu werden und das Unternehmen zu stärken. Dies hilft uns, den nachfolgenden Ausgabeprozess zu entwerfen und ihn während der Entwurfsverifizierungsphase zu bewerten, um festzustellen, ob er den Anforderungen entspricht.

3. Sortieren Sie den Ausgabeprozess

Wenn wir mit komplexen Ausgabeanforderungen konfrontiert sind, müssen wir mehrere KI-Konversationsprozesse entwerfen, damit die verschiedenen KIs zusammenarbeiten können, um letztendlich Ausgabeergebnisse zu erzielen, die den Anforderungen entsprechen. Beispielsweise können wir in Textklassifizierungsszenarien zunächst das große Modell der Version 3.5 für eine genaue Klassifizierung der ersten Ebene verwenden, um den Anforderungen gerecht zu werden.

Da die Kosten für Version 4.0 um ein Vielfaches höher sind als für Version 3.5 und Version 3.5 für die Klassifizierung der ersten Ebene ausreicht, können Sie sich für die Verwendung von Version 3.5 entscheiden, um Kosten zu sparen. Anschließend können wir Version 4.0 für die Sekundärklassifizierung verwenden, um bessere Klassifizierungsergebnisse zu erzielen und sicherzustellen, dass wir den erforderlichen Inhalt ausgeben.

Beim Entwerfen des Prozesses müssen Sie die folgenden Faktoren berücksichtigen:

Kostenfaktoren: Die Kosten verschiedener großer Modelle und ihrer Versionen sind unterschiedlich. Wir müssen die Geschäftsvorteile abwägen und einen angemessenen Nutzungsplan für große Modelle wählen, um zu vermeiden, dass mehr verloren geht als gewonnen wird.
Wirkungsfaktoren: Die Wirkung verschiedener großer Modelle und ihrer Versionen ist unterschiedlich und sie haben ihre Stärken in unterschiedlichen Bereichen. Wir müssen die am besten geeignete Lösung basierend auf den Nutzungsanforderungen auswählen.

Nach umfassender Betrachtung der Faktoren Kosten und Effektivität haben wir schließlich einen geeigneten Plan ermittelt

4. Ausgabekontrollmechanismus

Um zu verhindern, dass irreführende Inhalte in KI-Ausgabeergebnissen das Geschäft beeinträchtigen, müssen wir einen wirksamen Überprüfungsmechanismus einrichten. Zu den gängigen Überprüfungsmethoden gehören Lexikonabgleich, regulärer Ausdrucksabgleich und manuelle Überprüfung. Blockieren Sie irreführende Inhalte mithilfe von Thesaurus oder manuellen Mitteln. Darüber hinaus können wir auch einen Qualitätsprüfagenten erstellen, damit die KI selbst eine Qualitätsprüfung der Ausgabe durchführen kann, um problematische Inhalte herauszufiltern und die Erkennungsrate irreführender Inhalte zu verbessern.

5. Illusionslösung

Das Auftreten von Halluzinationen ist ein Phänomen, das nicht vollständig ausgerottet werden kann. Um negative Auswirkungen auf unser Geschäft zu vermeiden, müssen wir einen Sicherheitsplan formulieren, wie zum Beispiel:

1) Manuelle Inspektion: Bevor die KI-Ausgabe an den Benutzer geliefert wird, wird ein Link zur manuellen Inspektion eingeführt. Erst nach bestandener manueller Prüfung werden die Ergebnisse an den Benutzer ausgegeben. Auf diese Weise können wir perfekt verhindern, dass KI-Illusionen negative Auswirkungen auf das Geschäft haben, und wir können den Output von KI auch zur Effizienzsteigerung nutzen. Diese Methode erfordert jedoch eine menschliche Überprüfung, sodass bestimmte Arbeitskosten steigen.

2) Angemessene Verpackung: Da wir eine KI-Anwendung für die B-Seite sind, können wir Methoden wie die Verpackung der Ausgabeanwendung als „KI-Assistent“ verwenden, um den Benutzern direkt klar zu machen: „Die Ausgabeergebnisse werden hier generiert.“ von AI und dienen nur als Referenz.“ Auf diese Weise können wir es den Benutzern ermöglichen, vernünftige psychologische Erwartungen zu entwickeln und unerwünschte Reaktionen zu vermeiden, wenn halluzinatorische Reaktionen auftreten.

3. Zusammenfassung

Basierend auf den oben genannten Ideen können wir B-Seiten-Übersetzungsagenten, Datenklassifizierungsagenten und andere Dienstleistungen aufbauen. Dies sind natürlich nur einige meiner persönlichen Gedanken zum Austausch und zur Diskussion.

Bitte stimmen Sie für mich

Ich nehme an der Auswahl „Jeder ist ein Produktmanager“ 2023 teil. Ich hoffe, dass Freunde, denen meine Artikel gefallen, kommen und mich unterstützen können~

Klicken Sie auf den Link unten, um zu meiner persönlichen Kandidaturseite zu gelangen, und klicken Sie auf das rote Herz, um für mich zu stimmen.

Jede Person kann bis zu 30 Stimmen pro Tag abgeben. Durch die Abstimmung haben Sie die Chance, eine Lotterie zu gewinnen, und Sie erhalten Geschenke wie Bücher, Erinnerungszubehör für „Jeder ist ein Produktmanager“ und eine Mitgliedschaft im Starting Point Classroom!

Bitte klicken Sie auf den Link unten, um abzustimmen: https://996.pm/7d9yE

Kolumnist

Zitronenkuchen ist sauber und hygienisch: Jeder ist ein Produktmanager-Kolumnist. Ein B-End-Produkt in der Spielebranche. Er war für CRM, Risikokontrolle, BI, SDK und KI-bezogene Inhalte in der Spielebranche verantwortlich. Er veröffentlicht regelmäßig persönliche Gedanken oder zusammenfassende Artikel

Dieser Artikel wurde ursprünglich auf „Jeder ist Produktmanager“ veröffentlicht. Nachdruck ohne Genehmigung ist verboten

Das Titelbild stammt von Unsplash, basierend auf der CC0-Lizenz

Das obige ist der detaillierte Inhalt vonWie AI Agent über Design auf Unternehmensebene denkt. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!