生成式AI正在為企業帶來創新的機遇，但在這個新時代，高階主管需要密切關註生成式AI的應用，以確保程式碼質量，減少技術風險。高階主管應該審慎評估AI解決方案的可靠性和安全性，同時制定有效的監控措施，以便及時發現並糾正潛在問題。透過建立嚴格的技術標準和監督機制，企業能夠更好地利
生成式AI在早期階段就開始改變組織並對IT策略產生了深遠影響。儘管大型語言模型加速了工程敏捷性，但也引發了技術債的問題。 Red Monk公司的首席分析師兼聯合創始人Stephen O'Grady指出：「生成式系統可能會增加程式碼生成速度，從而導致技術債的累積。」
但這不應該阻止CIO們探索和實施AI，Salesforce公司高級副總裁、首席資訊長Juan Perez 補充。他把AI視為一種需要適當治理、安全控制、維護和支援以及生命週期管理的應用。他表示，由於AI產品的數量不斷增加，選擇最合適的模型和底層數據對於支持AI之旅至關重要。
如果正確應用，生成式人工智慧可以以更低的成本生產更高品質的產品。 Walgreens Boots Alliance資訊長Neal Sample表示：「AI是否會對整體業務產生正面影響並不是問題，問題在於影響程度和速度。」他強調，要推動負責任的AI發展，政府監管和公司治理都至關重要。
機器學習模型有潛力實現更快速的IT迭代。程式碼測試平台Sonar公司首席資訊長Andrea Malagodi表示，至少這些模型可以自動執行那些日常的、重複性的任務，從而釋放軟體開發人員的頻寬，讓他們能夠專注於更具創意、更高層級的工作。他說：「投資生成式AI工具來支持這些團隊就是對他們的成長、生產力和整體滿意度的投資。」
Palo Alto Networks公司首席資訊長Meerah Rajavel補充說，生成式AI將大大促進開發，尤其是Java、Python和C 等成熟程式語言的程式碼生成，但它的力量還不止於此。她認為，AI有助於將程式碼測試左移，以協助單元測試、調試和識別軟體開發週期早期的錯誤配置。 「身為CIO，為我們的開發人員提供幫助他們成功的最佳工具，這是我工作的關鍵組成部分，而AI無疑將有助於提高效率。」
AI对于无代码自动化平台公司Workato的首席信息官Carter Busse来说是今年IT战略的核心。然而，AI的潜力不仅仅局限于IT领域，它还可以在客户支持、提高生产力以及促进跨部门创新等方面发挥作用。Busse指出：“CIO的使命是支持业务的高效发展，而AI则是我们推进的关键手段。” AI能够显著促进跨部门运营，为企业创造更多价值，推动组织的整体发展。
因此，代码生成并不是受益于最新AI浪潮的唯一领域。云数据仓库公司Snowflake的首席信息官和首席数据官Sunny Bedi表示，员工生产力受到的影响最大。他预测，未来所有员工都将与AI助手展开密切合作，有助于个性化的新员工入职体验、协调内部沟通以及制作创新想法原型等工作。他补充说，企业通过利用大型语言模型开箱即用的功能，还可以减少对搜索、文档提取、内容创建和审查、以及聊天机器人等操作的第三方依赖。
生成式AI模型并非造成IT债务的主要因素，而是其应用方式。Sample指出：“在组织中选择实施AI的方面以及实施AI的方式需要慎重考虑，以避免技术债务的产生。”他进一步指出，将AI模型应用于现有技术生态系统时（例如，在使用旧堆栈的同时修改连接和集成生成式AI），会增加积累技术债务的风险。
另一方面，如果使用得当，生成式AI可以通过重写遗留应用和自动化积压任务来帮助消除旧的技术债务。也就是说，如果没有正确的云环境和战略，CIO不应该一头扎进去。“如果组织过早地实施生成式AI，现有的技术债务可能会继续增长，或者在某些情况下变成长期的技术债务，”企业管理软件套件OnBase开发公司Hyland首席信息官Steve Watt这样示。因此他建议，制定一项计划来解决现有的技术债务，这样新的AI驱动的计划就不会崩溃。
起初，企业在尝试AI和大型语言模型的时候可能会增加IT债务。但Busse认为，从长远来看，大型语言模型会减少债务，但这要取决于AI动态响应不断变化需求的能力。他说：“通过将AI嵌入到你的业务流程中，你将能够更快地适应流程变化，从而减少技术债务。”
最近，人們對AI產生的程式碼品質提出了質疑，有報告強調，自AI助理出現以來，程式碼改動和程式碼重用的情況有所增加。 Red Monk公司的O’Grady表示，AI產生的程式碼品質取決於許多因素，包括部署的模型、手邊的用例、以及開發人員的技能。 「就像人類開發人員一樣，AI系統確實會輸出有缺陷的程式碼，而且未來還將如此。」
例如，Sonar的Malagodi引用了微軟研究院最近的一項研究，該研究評估了22個模型，發現這些模型在基準測試中普遍表現不佳，暗示了訓練設定中存在基本盲點。報告解釋說，雖然AI助手可以產生功能代碼，但並非總是超越功能正確性的範疇，考慮到效率、安全性和可維護性等其他環境，更不用說遵守代碼約定了。
Malagodi認為，這方面還有很大的進步空間。他說：「雖然生生成式AI可以更快地產生更多行的程式碼，但如果品質不好，這個過程可能會變得非常耗時。」他敦促CIO和CTO採取必要措施，確保AI生成的代碼是乾淨的。 「這意味著AI產生的程式碼是一致的、有意的、適應性強且負責任的，從而打造安全的、可維護的、可靠且可訪問的軟體。」
這些模型根源的品質問題可能會對程式碼輸出產生不利影響。雲端技術智慧平台Snow Software公司資訊長Alastair Pooley表示，雖然生成式AI有潛力產生卓越的技術成果，但資料品質、模型架構和訓練程式都可能導致結果不佳。他說：「訓練不足的模型或不可預見的邊緣情況都可能導致輸出品質下降，帶來營運風險並損害系統可靠性。」所有這些都需要對輸出和品質進行持續的審查和驗證。
Palo Alto Networks公司的Rajavel補充說，AI就像其他工具一樣，結果取決於你使用哪種工具以及如何使用它。對她來說，如果沒有適當的AI治理，你選擇的模型可能會產生不符合產品架構和預期結果的低品質工件結果。她補充說，另一個重要因素是你要為手頭上的工作選擇哪種AI，因為沒有一種模型是放之四海而皆準的。
除了IT債務和程式碼品質之外，部署生成式AI時還需要考慮一系列潛在的不利結果。 「這些問題可能涉及資料隱私和安全、演算法偏見、工作替代、人工智慧生成內容的道德困境等，」Pooley說。
其中一個方面，是惡意個人利用生成式AI發動攻擊。 Rajavel指出，網路犯罪分子已經開始利用這項技術進行大規模攻擊，因為生成式AI能夠起草令人信服的網路釣魚活動並傳播虛假訊息。攻擊者還可以針對生成式AI工具和模型本身，導致資料外洩或毒害內容輸出。
O'Grady表示：「生成式系統有可能加速並幫助攻擊者，然而可以說，許多企業最大的擔憂就是私有資料從封閉的廠商系統中洩漏出去。」
這些技術可以產生非常令人信服的結果，但結果可能也是充滿錯誤的。除了模型中的錯誤之外，還需要考慮成本影響，並且很容易在不知不覺中或者是不必要的情況下，在AI上花費了大量的資金，無論是使用錯誤的模型，不了解消耗成本，還是沒有有效使用。
Perez表示：「AI並非沒有風險，它需要從頭開始構建，由人類控制各個領域，以確保任何人都可以信任其結果——從最基本的用戶到最有經驗的工程師。 「對Perez來說，另一個懸而未決的問題是AI開發和維護所有權，這也給IT團隊帶來了跟上創新需求的壓力，因為許多IT員工缺乏時間來實施和訓練AI模型和演算法。
然後就是引起主流媒體關注的結果：AI取代人類勞動力。但生成式AI將如何影響IT產業的就業情況仍有待確定。 「目前很難預測對就業的影響，因此這是一個潛在的擔憂，」O’Grady說。
儘管這場辯論中無疑存在多種觀點，但Walgreen公司的Sample並不認為AI對人類構成生存威脅。相反，他對生成式AI改善員工生活的潛力持樂觀態度。他說：「消極的觀點認為，AI將會影響很多工作，但正面的觀點認為，AI會讓人類變得更好。最終，我認為AI將讓人們不必再做那些重複性的、本來可以自動化的任務，可以專注於更高層級的工作。」
可以採用多種方法來緩解AI帶來的擔憂。對Perez來說，生成式AI的品質取決於這些模型攝取的資料。他說：「如果你想要高品質的、可信的AI，你就需要高品質的、可信的數據。」然而，問題是數據常常充滿錯誤，需要工具來整合來自不同來源的、不同格式的非結構化資料。他還強調不要局限在“參與其中”，而是讓人類更多地處於駕駛座的位置。 「我將AI視為一種值得信賴的顧問，但不是唯一的決策者。」
為了維護軟體質量，還需要進行嚴格的測試，以檢查AI產生的程式碼是否準確無誤。為此，Malagodi鼓勵企業採用「程式碼乾淨」的方法（包括靜態分析和單元測試），以確保適當的品質檢查。 「當開發人員專注於乾淨程式碼的最佳實踐時，他們就可以確信他們的程式碼和軟體是安全的、可維護的、可靠的且可訪問的。」
Bedi補充說，和任何新技術一樣，最初的熱情是需要適當謹慎的心態來調和。因此，IT領導者應該考慮有效使用AI能助手的步驟，例如可觀察性工具，這些工具能夠偵測架構漂移，並支援為應用需求做好準備。
Pooley表示：「生成式AI代表了技術進步邁向了一個新的時代，如果管理得當，它有可能帶來巨大的好處。 「不過他建議，CIO們應該在創新和固有風險之間進行平衡，尤其是必須採取控制措施和利用指南來限制因不受控制地使用這些工具而導致的資料外洩。 「和許多技術機會一樣，如果出現問題，CIO們發現他們自己是要承擔責任的。」
對Sample來說，監管機構有責任充分解決AI給社會帶來的風險。例如，他提到了拜登政府最近發布的一項行政命令，旨在建立新的AI安全標準。另一方面是帶頭制定企業指導方針來管理這種快節奏的技術，例如，Walgreens已經開始圍繞AI制定治理框架了，其中包括公平、透明、安全和可解釋性等考慮因素。
Workato的Busse同樣主張制定內部指令，優先考慮安全和治理。他建議對員工進行訓練、制定內部行動手冊、以及實施AI實驗的審批流程。 Pooley指出，許多企業已經成立了AI工作小組，以幫助應對風險並利用生成式AI的優勢。一些具有安全意識的組織正在採取更WEI 嚴格的措施。 O’Grady補充說，為了防止滲透，許多買方還是會優先考慮本地系統。
Perez表示：「CIO們應該帶頭確保他們的團隊擁有適當的培訓和技能，以有利於組織的方式識別、建構、實施和使用生成式AI。」他描述了Salesforce公司的產品和工程團隊是如何在AI輸入和輸出之間建立信任層，最大限度地降低使用這種強大技術所帶來的風險。
也就是說，有意採用AI和對其進行治理是同樣重要的。 Hyland的Watt表示：「各個組織都在急於實施AI，但不清楚它的作用以及如何為他們的業務帶來最大利益。」AI並不能解決所有問題，因此，了解這項技術可以解決哪些問題、不能解決哪些問題，這對於了解如何最大限度地解決問題是至關重要的。
透過適當的檢查，生成式AI將在無數領域提高敏捷性，CIO們預計，生成式AI將被用來實現切實的業務成果，例如用戶體驗。 Perez表示：「生成式AI將讓企業能夠為客戶創造曾經感覺不可能的體驗，AI不再只是小眾團隊的工具，每個人都將有機會利用它來提高生產力和效率。」
但使用者體驗的好處並不僅限於外部客戶。 Rajavel補充說，內部員工體驗也將從中受益。她預測，經過內部資料訓練的AI助理只需立即取得企業內部頁面上已有的答案，就可以將IT請求減少一半。
Sample表示，Walgreens也透過生成式AI驅動的語音助理、聊天機器人和簡訊來改善客戶體驗。透過減少通話量和提高客戶滿意度，團隊成員可以更專注於店內客戶。此外，該公司還部署了AI來優化店內運營，例如供應鏈、佔地面積和庫存管理，幫助領導者做出有關業務營收和利潤的決策。但保持警覺是關鍵。
O'Grady表示：「與之前所有的科技浪潮一樣，AI無疑會帶來重大的負面影響和附帶損害。總的來說，AI將加速發展並增強人類的能力，但同時會大大擴大各種問題的範圍。」
以上是CIO分享：如何在企業中駕馭生成式AI的詳細內容。更多資訊請關注PHP中文網其他相關文章！
