CIO-Aktien: Wie man generative KI im Unternehmen nutzt

Generative KI bietet Unternehmen innovative Möglichkeiten, aber in dieser neuen Ära müssen Führungskräfte der Anwendung generativer KI große Aufmerksamkeit schenken, um die Codequalität sicherzustellen und technische Risiken zu reduzieren. Führungskräfte sollten die Zuverlässigkeit und Sicherheit von KI-Lösungen sorgfältig bewerten und wirksame Überwachungsmaßnahmen entwickeln, um potenzielle Probleme rechtzeitig zu erkennen und zu beheben. Durch die Festlegung strenger technischer Standards und Überwachungsmechanismen können Unternehmen

Generative KI besser nutzen, um Organisationen bereits in einem frühen Stadium zu verändern, und hat tiefgreifende Auswirkungen auf die IT-Strategie. Während große Sprachmodelle die technische Agilität beschleunigen, verursachen sie auch Probleme mit der technischen Verschuldung. Stephen O'Grady, Chefanalyst und Mitbegründer von Red Monk, betonte: „Generative Systeme können die Geschwindigkeit der Codegenerierung erhöhen, was zur Anhäufung technischer Schulden führt.“

Aber das sollte CIOs nicht davon abhalten, sie zu erkunden und umzusetzen AI, fügte Juan Perez, Senior Vice President und Chief Information Officer bei Salesforce, hinzu. Er betrachtet KI als eine Anwendung, die eine ordnungsgemäße Governance, Sicherheitskontrollen, Wartung und Support sowie ein Lebenszyklusmanagement erfordert. Er sagte, dass die Auswahl des am besten geeigneten Modells und der zugrunde liegenden Daten für die Unterstützung der KI-Reise von entscheidender Bedeutung sei, da die Anzahl der KI-Produkte weiter zunehme.

Bei richtiger Anwendung kann generative KI qualitativ hochwertigere Produkte zu geringeren Kosten produzieren. Neal Sample, Chief Information Officer der Walgreens Boots Alliance, sagte: „Es geht nicht darum, ob KI einen positiven Einfluss auf das Gesamtgeschäft haben wird, sondern auf das Ausmaß und die Geschwindigkeit der Auswirkungen. Er betonte, dass es darum geht, eine verantwortungsvolle KI-Entwicklung zu fördern.“ , staatliche Regulierung und Unternehmensführung sind von größter Bedeutung.

Generative KI: Der Kern der IT-Strategie

Modelle des maschinellen Lernens haben das Potenzial, schnellere IT-Iterationen zu ermöglichen. Andrea Malagodi, Chief Information Officer der Code-Testplattform Sonar, sagte, dass diese Modelle zumindest diese routinemäßigen, sich wiederholenden Aufgaben automatisieren und so die Bandbreite der Softwareentwickler freisetzen könnten, damit sie sich auf kreativere Arbeiten auf höherer Ebene konzentrieren können. „Die Investition in generative KI-Tools zur Unterstützung dieser Teams ist eine Investition in ihr Wachstum, ihre Produktivität und ihre allgemeine Zufriedenheit“, sagte er

Meerah Rajavel, Chief Information Officer bei Palo Alto Networks, fügte hinzu, dass generative KI die Entwicklung, insbesondere Code, erheblich erleichtern wird Generation für ausgereifte Programmiersprachen wie Java, Python und C++, aber ihre Leistungsfähigkeit endet hier nicht. Sie glaubt, dass KI dazu beitragen kann, Codetests nach hinten zu verlagern, um Unit-Tests, Debugging und die Identifizierung von Fehlkonfigurationen zu Beginn des Softwareentwicklungszyklus zu unterstützen. „Als CIO ist es eine Schlüsselkomponente meiner Arbeit, unseren Entwicklern die besten Tools zur Verfügung zu stellen, die ihnen zum Erfolg verhelfen, und KI wird zweifellos dazu beitragen, die Effizienz zu steigern.“ Kern der diesjährigen IT-Strategie. Das Potenzial von KI beschränkt sich jedoch nicht nur auf den IT-Bereich, sondern kann auch bei der Kundenbetreuung, der Verbesserung der Produktivität und der Förderung abteilungsübergreifender Innovationen eine Rolle spielen. Busse betonte: „Die Aufgabe des CIO besteht darin, die effiziente Entwicklung des Unternehmens zu unterstützen, und KI ist für uns ein wichtiges Mittel, um abteilungsübergreifende Abläufe erheblich zu fördern, mehr Wert für das Unternehmen zu schaffen und zu fördern.“ die Gesamtentwicklung der Organisation.

Die Code-Generierung ist also nicht der einzige Bereich, der von der neuesten KI-Welle profitiert. Sunny Bedi, Chief Information Officer und Chief Data Officer beim Cloud-Data-Warehouse-Unternehmen Snowflake, sagte, die Mitarbeiterproduktivität sei am stärksten betroffen. Er prognostiziert, dass in Zukunft alle Mitarbeiter eng mit KI-Assistenten zusammenarbeiten werden, um das Onboarding-Erlebnis für neue Mitarbeiter zu personalisieren, die interne Kommunikation zu koordinieren und innovative Ideen zu entwickeln. Er fügte hinzu, dass Unternehmen durch die Nutzung der sofort einsatzbereiten Funktionen großer Sprachmodelle auch ihre Abhängigkeit von Dritten für Vorgänge wie Suche, Dokumentenextraktion, Inhaltserstellung und -überprüfung sowie Chatbots reduzieren können.

Wie KI technische Schulden lindert

Generative KI-Modelle sind nicht der Hauptverursacher von IT-Schulden, sondern vielmehr ihre Anwendung. „Die Aspekte, die Sie für die Implementierung von KI in Ihrem Unternehmen auswählen, und die Art und Weise, wie Sie sie implementieren, müssen sorgfältig abgewogen werden, um die Entstehung technischer Schulden zu vermeiden“, bemerkte Sample weiter, dass bei der Anwendung von KI-Modellen auf bestehende Technologie-Ökosysteme (z. B. Bei der Verwendung veralteter Verbindungen und der gleichzeitigen Integration generativer KI in den Stack erhöht sich das Risiko der Anhäufung technischer Schulden.

Andererseits kann generative KI bei richtiger Anwendung dazu beitragen, alte technische Schulden zu beseitigen, indem Legacy-Anwendungen neu geschrieben und Rückstandsaufgaben automatisiert werden. Allerdings sollten CIOs nicht ohne die richtige Cloud-Umgebung und -Strategie einsteigen. „Wenn Unternehmen generative KI zu früh implementieren, kann die bestehende technische Verschuldung weiter wachsen oder in einigen Fällen zu einer langfristigen technischen Verschuldung werden“, sagte Steve Watt, Chief Information Officer bei Hyland, dem Unternehmen hinter der Enterprise-Management-Software-Suite OnBase. . Daher empfiehlt er, einen Plan zum Abbau bestehender technischer Schulden zu entwickeln, damit neue KI-gesteuerte Initiativen nicht scheitern.

Zunächst können Unternehmen ihre IT-Schulden erhöhen, wenn sie mit KI und großen Sprachmodellen experimentieren. Busse glaubt jedoch, dass große Sprachmodelle auf lange Sicht die Schulden reduzieren werden, dies hängt jedoch von der Fähigkeit der KI ab, dynamisch auf sich ändernde Bedürfnisse zu reagieren. „Durch die Einbettung von KI in Ihre Geschäftsprozesse können Sie sich schneller an Prozessänderungen anpassen und so die technische Verschuldung reduzieren“, sagte er -generierter Code Als Reaktion auf Zweifel wurde in Berichten betont, dass Codeänderungen und die Wiederverwendung von Code seit dem Aufkommen von KI-Assistenten zugenommen hätten. O’Grady von Red Monk sagte, die Qualität des von KI generierten Codes hänge von vielen Faktoren ab, darunter dem eingesetzten Modell, dem vorliegenden Anwendungsfall und den Fähigkeiten des Entwicklers. „Genau wie menschliche Entwickler geben KI-Systeme auch in Zukunft fehlerhaften Code aus.“ Benchmarks, was auf einen grundsätzlichen blinden Fleck im Trainingsumfeld hindeutet. Der Bericht erklärt, dass KI-Assistenten zwar funktionalen Code generieren können, dies jedoch nicht immer über die funktionale Korrektheit hinausgeht, um andere Kontexte wie Effizienz, Sicherheit und Wartbarkeit zu berücksichtigen, geschweige denn die Einhaltung von Codierungskonventionen.

Malagodi ist davon überzeugt, dass es in diesem Bereich noch viel Raum für Verbesserungen gibt. „Während generative KI schneller mehr Codezeilen generieren kann, kann der Prozess sehr zeitaufwändig werden, wenn die Qualität nicht gut ist“, sagte er. Er forderte CIOs und CTOs auf, die notwendigen Maßnahmen zu ergreifen, um sicherzustellen, dass der Code von KI generiert wird sauber. „Das bedeutet, dass KI-generierter Code konsistent, absichtlich, anpassungsfähig und verantwortungsbewusst ist, was zu Software führt, die sicher, wartbar, zuverlässig und zugänglich ist.“

Qualitätsprobleme, die diesen Modellen zugrunde liegen, können sich negativ auf die Codeausgabe auswirken. Alastair Pooley, Chief Information Officer der Cloud-Technologie-Intelligence-Plattform Snow Software, sagte, dass generative KI zwar das Potenzial habe, hervorragende technische Ergebnisse zu liefern, Datenqualität, Modellarchitektur und Trainingsverfahren jedoch zu schlechten Ergebnissen führen könnten. „Unzureichend trainierte Modelle oder unvorhergesehene Grenzfälle können zu einer Verschlechterung der Ausgabequalität führen, Betriebsrisiken mit sich bringen und die Systemzuverlässigkeit beeinträchtigen“, sagte er.

Rajavel von Palo Alto Networks fügte hinzu, dass KI wie jedes andere Tool sei und die Ergebnisse davon abhängen, welches Tool Sie verwenden und wie Sie es verwenden. Ihrer Meinung nach kann das von Ihnen gewählte Modell ohne ordnungsgemäße KI-Governance zu minderwertigen Artefakten führen, die nicht mit der Produktarchitektur und den erwarteten Ergebnissen übereinstimmen. Sie fügte hinzu, dass ein weiterer wichtiger Faktor sei, welche KI Sie für den jeweiligen Job wählen, da es kein einheitliches Modell gebe, das für alle passt.

Liste potenzieller KI-Risiken

Neben der IT-Verschuldung und der Codequalität sind beim Einsatz generativer KI eine Reihe potenziell nachteiliger Folgen zu berücksichtigen. „Diese Probleme können Datenschutz und Sicherheit, algorithmische Voreingenommenheit, Arbeitsplatzverlagerung, ethische Dilemmata von KI-generierten Inhalten usw. betreffen“, sagte Pooley.

Ein Aspekt ist, dass böswillige Personen generative KI nutzen, um Angriffe zu starten. Rajavel stellte fest, dass Cyberkriminelle begonnen haben, diese Technologie für groß angelegte Angriffe zu nutzen, da generative KI in der Lage ist, überzeugende Phishing-Kampagnen zu entwerfen und Desinformation zu verbreiten. Angreifer können auch generative KI-Tools und -Modelle selbst ins Visier nehmen, was zu Datenlecks oder einer Verfälschung der Inhaltsausgabe führt.

O'Grady sagte: „Generative Systeme haben das Potenzial, Angreifer zu beschleunigen und ihnen zu helfen. Man kann jedoch sagen, dass die größte Sorge für viele Unternehmen der Verlust privater Daten aus Systemen geschlossener Anbieter ist.“

Diese Technologien können produzieren Sehr interessante Ergebnisse. Überzeugende Ergebnisse, aber die Ergebnisse können auch voller Fehler sein. Zusätzlich zu Fehlern im Modell sind auch Kostenauswirkungen zu berücksichtigen, und es ist leicht, unwissentlich oder unnötig viel Geld für KI auszugeben, entweder durch die Verwendung des falschen Modells oder durch Unkenntnis der Verbrauchskosten, die immer noch nicht effektiv genutzt werden.

Perez sagte: „KI ist nicht ohne Risiken. Sie muss von Grund auf entwickelt werden, wobei der Mensch alle Bereiche kontrolliert, um sicherzustellen, dass jeder seinen Ergebnissen vertrauen kann – von den einfachsten Benutzern bis zu den erfahrensten Ingenieuren.“ Perez Ein weiteres ungelöstes Problem ist die Eigenverantwortung für die KI-Entwicklung und -Wartung, die auch die IT-Teams unter Druck setzt, mit der Nachfrage nach Innovation Schritt zu halten, da vielen IT-Mitarbeitern die Zeit fehlt, KI-Modelle und -Algorithmen zu implementieren und zu trainieren, sagte er.

Ein Problem, das nicht ignoriert werden kann: Beschäftigung

Dann gibt es noch das Ergebnis, das die Aufmerksamkeit der Mainstream-Medien auf sich zieht: KI ersetzt menschliche Arbeitskraft. Es bleibt jedoch abzuwarten, wie sich generative KI auf die Beschäftigung in der IT-Branche auswirken wird. „Im Moment ist es schwierig, die Auswirkungen auf die Beschäftigung vorherzusagen, daher gibt das Anlass zur Sorge“, sagte O’Grady.

Obwohl es in dieser Debatte zweifellos mehrere Standpunkte gibt, glaubt Walgreen’s Sample nicht, dass KI eine existenzielle Bedrohung für die Menschheit darstellt. Stattdessen ist er optimistisch, was das Potenzial der generativen KI zur Verbesserung des Lebens der Arbeitnehmer angeht. Er sagte: „Die negative Sichtweise ist, dass KI viele Arbeitsplätze beeinträchtigen wird, aber die positive Sichtweise ist, dass KI die Menschen besser machen wird. Letztendlich denke ich, dass KI die Notwendigkeit für Menschen beseitigen wird, sich wiederholende Aufgaben zu erledigen, die automatisiert werden könnten.“ Konzentrieren Sie sich auf die Arbeit auf höherer Ebene.“ Für Perez hängt die Qualität generativer KI von den Daten ab, die diese Modelle aufnehmen. „Wenn Sie hochwertige, vertrauenswürdige KI wollen, brauchen Sie hochwertige, vertrauenswürdige Daten“, sagte er. Das Problem besteht jedoch darin, dass Daten oft mit Fehlern behaftet sind und Tools zur Integration von Daten aus verschiedenen Quellen und in verschiedenen Formaten erforderlich sind . von unstrukturierten Daten. Er betonte auch, dass man nicht nur „im Spiel“ sei, sondern den Menschen mehr in die Hand nehme. „Ich betrachte KI als vertrauenswürdigen Berater, aber nicht als alleinigen Entscheidungsträger.“

Um die Softwarequalität aufrechtzuerhalten, sind auch strenge Tests erforderlich, um zu überprüfen, ob der von KI generierte Code korrekt ist. Zu diesem Zweck ermutigt Malagodi Unternehmen, einen „Code Clean“-Ansatz zu übernehmen, einschließlich statischer Analyse und Unit-Tests, um ordnungsgemäße Qualitätsprüfungen sicherzustellen. „Wenn sich Entwickler auf Best Practices für sauberen Code konzentrieren, können sie sicher sein, dass ihr Code und ihre Software sicher, wartbar, zuverlässig und zugänglich sind.“

Wie bei jeder neuen Technologie muss die anfängliche Begeisterung durch entsprechende Maßnahmen gemildert werden Vorsicht. Daher sollten IT-Führungskräfte Schritte zum effektiven Einsatz von KI-Assistenten in Betracht ziehen, z. B. Observability-Tools, die Architekturabweichungen erkennen und die Vorbereitung auf Anwendungsanforderungen unterstützen können.

Governance rund um die KI-Einführung

Pooley sagte: „Generative KI stellt eine neue Ära des technologischen Fortschritts dar, und wenn sie richtig verwaltet wird, hat sie das Potenzial, enorme Vorteile zu bringen. Er schlug jedoch vor, dass CIOs ein Gleichgewicht zwischen Innovationen herstellen sollten.“ und inhärente Risiken, und insbesondere müssen Kontrollen und Leitlinien eingerichtet werden, um Datenschutzverletzungen zu begrenzen, die aus der unkontrollierten Nutzung dieser Tools resultieren. „Wie bei vielen technologischen Möglichkeiten sind CIOs verantwortlich, wenn etwas schief geht.“

Für Sample haben die Regulierungsbehörden die Verantwortung, die Risiken, die KI für die Gesellschaft darstellt, vollständig anzugehen. Als Beispiel nannte er eine kürzlich von der Biden-Regierung erlassene Durchführungsverordnung zur Festlegung neuer KI-Sicherheitsstandards. Ein weiterer Aspekt besteht darin, die Führung bei der Entwicklung von Unternehmensrichtlinien zur Verwaltung dieser schnelllebigen Technologie zu übernehmen. Walgreens hat beispielsweise damit begonnen, ein Governance-Framework rund um KI zu entwickeln, das Überlegungen wie Fairness, Transparenz, Sicherheit und Erklärbarkeit umfasst.

Busse von Workato plädiert außerdem für die Entwicklung interner Richtlinien, die Sicherheit und Governance priorisieren. Er empfahl die Schulung der Mitarbeiter, die Entwicklung eines internen Playbooks und die Implementierung eines Genehmigungsprozesses für KI-Experimente. Pooley stellte fest, dass viele Unternehmen KI-Arbeitsgruppen eingerichtet haben, um Risiken zu begegnen und die Vorteile generativer KI zu nutzen. Einige sicherheitsbewusste Organisationen ergreifen strengere Maßnahmen. O’Grady fügte hinzu, dass viele Käufer weiterhin On-Premise-Systemen den Vorzug geben werden, um eine Durchdringung zu verhindern.

Perez sagte: „CIOs sollten die Führung übernehmen und sicherstellen, dass ihre Teams über die entsprechende Schulung und Fähigkeiten verfügen, um generative KI auf eine Weise zu identifizieren, aufzubauen, zu implementieren und zu nutzen, die dem Unternehmen zugute kommt.“ Er beschrieb die Produkt- und Engineering-Teams von Salesforce als „Wie“. eine Vertrauensschicht zwischen KI-Eingabe und -Ausgabe aufzubauen, um die mit der Verwendung dieser leistungsstarken Technologie verbundenen Risiken zu minimieren.

Dennoch sind die bewusste Einführung von KI und deren Steuerung gleichermaßen wichtig. „Unternehmen beeilen sich, KI zu implementieren, wissen aber nicht genau, was sie bewirkt und wie sie ihrem Unternehmen am besten nutzen können“, sagte Watt von Hyland. Daher ist es wichtig zu verstehen, welche Probleme die Technologie lösen kann und welche Probleme nicht gelöst werden können, ist entscheidend, um zu wissen, wie die Lösung des Problems maximiert werden kann.

Positive Auswirkungen auf das Geschäft

Bei richtiger Prüfung wird generative KI die Agilität in unzähligen Bereichen erhöhen, und CIOs erwarten, dass generative KI eingesetzt wird, um greifbare Geschäftsergebnisse wie das Benutzererlebnis zu erzielen. Perez sagte: „Generative KI wird es Unternehmen ermöglichen, Erlebnisse für Kunden zu schaffen, die früher unmöglich erschienen. KI wird nicht mehr nur ein Werkzeug für Nischenteams sein. Jeder wird die Möglichkeit haben, sie zur Steigerung der Produktivität und Effizienz zu nutzen

Aber die Benutzer.“ Die Vorteile der Erfahrung beschränken sich nicht nur auf externe Kunden. Auch die interne Mitarbeitererfahrung werde davon profitieren, fügte Rajavel hinzu. Sie prognostizierte, dass auf internen Daten geschulte KI-Assistenten die IT-Anfragen halbieren könnten, indem sie einfach Antworten abrufen, die bereits auf internen Unternehmensseiten verfügbar sind.

Sample sagte, Walgreens verbessere das Kundenerlebnis auch durch generative KI-gesteuerte Sprachassistenten, Chatbots und Textnachrichten. Durch die Reduzierung des Anrufvolumens und die Verbesserung der Kundenzufriedenheit können sich die Teammitglieder besser auf die Kunden im Geschäft konzentrieren. Darüber hinaus hat das Unternehmen KI eingesetzt, um Abläufe in den Filialen wie Lieferkette, Verkaufsfläche und Bestandsverwaltung zu optimieren und Führungskräften dabei zu helfen, Entscheidungen über Geschäftsumsätze und -gewinne zu treffen. Aber Wachsamkeit ist der Schlüssel.

O'Grady sagte: „Wie bei allen vorherigen Technologiewellen wird KI zweifellos erhebliche negative Auswirkungen und Kollateralschäden mit sich bringen. Insgesamt wird KI die Entwicklung beschleunigen und die menschlichen Fähigkeiten verbessern, aber gleichzeitig das Spektrum der Probleme erheblich erweitern.“

.

Das obige ist der detaillierte Inhalt vonCIO-Aktien: Wie man generative KI im Unternehmen nutzt. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!