如何管理生成式AI
作者丨Dom Couldwell
編譯丨諾亞
出品| 51CTO技術堆疊(微訊號:blog51cto)
#根據麥肯錫公司估計,生成式人工智慧預計每年將為全球經濟帶來2.6兆至4.4兆美元的經濟效益。這項預測是建立在63個新的應用場景之上的,這些場景有望在多個市場中為客戶帶來改進、效率提升和新產品。對於開發者和IT領導者而言,這無疑是一個巨大的機會。
生成式AI的核心在於資料。數據不僅賦予了生成式AI理解和分析周遭世界的能力,也為其變革性的潛能提供了動力。在生成式AI領域取得成功,公司需要有效管理和準備資料。
為成功建構和運營大規模的AI服務,以及支持生成式AI項目,你需要確保在數據準備方面做足功課,並採取明智可持續的資金支持策略。緩慢的步伐和逐漸減弱的支持方式無法在人工智慧領域取得優勢。因此,除了擴大AI服務規模外,還要確保專案的資金來源穩定,以助長長期發展和持續創新。
如果我們不改進資料管理方式,或未能採取正確的方法來應對規模擴大和成本控制問題,那么生成式AI蘊含的巨大潛力將會被白白浪費掉。以下是一些關於我們如何改進資料管理方法以及如何長期支持生成式AI專案的思考。
1.資料從哪裡來
資料以多種形態存在,每種形態的資料若使用得當,都能提升生成式AI洞察的豐富性和品質。
第一種形式是結構化數據,它以規則有序且一致的方式組織起來,包括產品資訊、客戶人口統計資料或庫存水準等項目。這類數據提供了有組織的事實基礎,可以添加到生成式AI專案中以提高回應的品質。
此外,您可能還有外部資料來源可以補充內部結構化資料來源,例如天氣報告、股票價格或交通流量等。這些數據能夠為決策過程帶來實時和真實世界的背景信息,將其融入項目可提供額外高質量數據,但可能沒有必要自行生成這類數據。
另一種常見的數據集是衍生數據,涵蓋了透過分析和建模場景創建的數據。此類深度見解可能包括客戶意圖報告、季節性銷售預測或群組分析等。
最後一種常見數據形式是非結構化數據,與分析師習慣的常規報告或數據格式不同,這類數據包括圖像、文件和音訊文件等格式。這些數據捕捉了人類溝通和表達的細微之處。生成式AI程式常常圍繞著影像或音訊工作,它們是生成式AI模型的常見輸入和輸出。
2.要讓生成式AI實作大規模應用
所有這些多樣的資料集各自存在於自己的環境中。為了使其對生成式AI專案有用,關鍵在於使這一多樣化的資料景觀在即時情況下可供存取。由於涉及如此大量的潛在數據,任何方法都必須能夠在需求增長時動態擴展,並在全球範圍內複製數據,確保資源在接到請求時能靠近用戶,從而避免停機時間並減少交易請求中的延遲。
此外,還需要對這些資料進行預處理,以便生成式AI系統能夠有效利用。這涉及到創建嵌入(embeddings),即代表語義含義的數學值,即向量。嵌入使得生成式AI系統能夠超越特定文本匹配,而是涵蓋資料內含的意義和上下文。無論原始資料形式為何,創建嵌入意味著資料能夠被生成式AI系統理解並使用,同時保留其意義和上下文。
透過這些嵌入,企業可以支援跨所有資料的向量搜尋或混合搜索,同時結合價值和意義。然後將這些結果收集起來傳回用於整合結果的大規模語言模型(LLM)。透過從多個來源提供更多數據,而不是只依賴LLM本身,你的生成式AI專案就能為使用者提供更準確的結果,並降低虛構內容的風險。
為了在實踐中實現這一點,必須選擇正確的底層資料架構。在這個過程中,應盡可能避免資料分散在不同解決方案中形成碎片化拼湊,因為每一個這樣的解決方案都代表著一個需要長期支援、查詢和管理的資料孤島。使用者應該能夠快速向LLM提問並迅速回應,而不是等待多個元件回應並由模型權衡其結果。統一的資料架構應提供無縫的資料集成,使生成式AI能夠充分利用所有可用的資料頻譜。
3.模組化方法的優點
為了擴展生成式AI實施,需要在加快採用速度與維持對關鍵資產的控制之間取得平衡。採用模組化的方式來建構生成式AI代理可以使這個過程變得更容易,因為它可以分解實施過程,避免潛在的瓶頸。
類似於微服務設計在應用程式中的應用,AI服務的模組化方法也鼓勵圍繞應用程式和軟體設計的最佳實踐,消除故障點,並讓更多潛在用戶能夠接觸這項技術。這種方法也使得監控整個企業中AI代理的表現變得更容易,能夠更精確地找出問題發生的位置。
模組化的第一個好處是可解釋性,因為參與生成式AI系統的各組成部分彼此分離,這樣就更容易分析代理是如何運作和做出決策的。 AI通常被視為“黑箱”,而模組化使得追蹤和解釋結果變得更加容易。
第二個好處是安全性,因為各個元件可以透過最佳認證和授權機制進行保護,確保只有授權使用者才能存取敏感資料和功能。模組化也使得合規和治理變得更容易,因為個人識別資訊(PII)或智慧財產權(IP)可以得到保障,與底層LLM保持分離。
4.提供持續靈活的資金模式
除了採用微服務方法之外,還應在整體生成式AI專案中採用平台思維模式。這意味著取代傳統的以專案為基礎的軟體專案資金模型,轉而提供持續且靈活的資金模型。這種方法賦予參與者基於價值做決策的能力,能夠回應新興機會,並發展最佳實踐,而不受制於僵硬的資金週期或商業案例。
以這種方式管理預算也能鼓勵開發人員和業務團隊將生成式AI視為組織已有的基礎設施的一部分,從而更容易平滑規劃工作負載的高峰和低谷,更容易採取「卓越中心」的方法並在長期內保持一致性。
類似的做法是將生成式AI視為企業本身營運的產品,而非單純的軟體。 AI代理應作為產品來管理,因為這更能有效地反映其所創造的價值,並使整合、工具和提示方面的支援資源更容易獲得。簡化這種模式有助於在整個組織內普及對生成式AI的理解,促進最佳實踐的採納,並創造出共享專業知識和協作的生成式AI開發文化。
生成式AI具有巨大的潛力,各公司正競相在其營運中實施新的工具、代理和提示。然而,要將這些潛在專案投入生產,就需要有效管理資料、奠定係統規模化發展的基礎,並建立合適的預算模型以支援團隊。合理安排流程和優先順序將有助於你和你的團隊釋放這項技術的變革潛力。
參考網址:https://www.infoworld.com/article/3713461/how-to-manage-generative-ai.html
以上是如何管理生成式AI的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

Video Face Swap
使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

DMA在C 中是指DirectMemoryAccess,直接內存訪問技術,允許硬件設備直接與內存進行數據傳輸,不需要CPU干預。 1)DMA操作高度依賴於硬件設備和驅動程序,實現方式因係統而異。 2)直接訪問內存可能帶來安全風險,需確保代碼的正確性和安全性。 3)DMA可提高性能,但使用不當可能導致系統性能下降。通過實踐和學習,可以掌握DMA的使用技巧,在高速數據傳輸和實時信號處理等場景中發揮其最大效能。

使用C 中的chrono庫可以讓你更加精確地控制時間和時間間隔,讓我們來探討一下這個庫的魅力所在吧。 C 的chrono庫是標準庫的一部分,它提供了一種現代化的方式來處理時間和時間間隔。對於那些曾經飽受time.h和ctime折磨的程序員來說,chrono無疑是一個福音。它不僅提高了代碼的可讀性和可維護性,還提供了更高的精度和靈活性。讓我們從基礎開始,chrono庫主要包括以下幾個關鍵組件:std::chrono::system_clock:表示系統時鐘,用於獲取當前時間。 std::chron

交易所內置量化工具包括:1. Binance(幣安):提供Binance Futures量化模塊,低手續費,支持AI輔助交易。 2. OKX(歐易):支持多賬戶管理和智能訂單路由,提供機構級風控。獨立量化策略平台有:3. 3Commas:拖拽式策略生成器,適用於多平台對沖套利。 4. Quadency:專業級算法策略庫,支持自定義風險閾值。 5. Pionex:內置16 預設策略,低交易手續費。垂直領域工具包括:6. Cryptohopper:雲端量化平台,支持150 技術指標。 7. Bitsgap:

在C 中處理高DPI顯示可以通過以下步驟實現:1)理解DPI和縮放,使用操作系統API獲取DPI信息並調整圖形輸出;2)處理跨平台兼容性,使用如SDL或Qt的跨平台圖形庫;3)進行性能優化,通過緩存、硬件加速和動態調整細節級別來提升性能;4)解決常見問題,如模糊文本和界面元素過小,通過正確應用DPI縮放來解決。

C 在實時操作系統(RTOS)編程中表現出色,提供了高效的執行效率和精確的時間管理。 1)C 通過直接操作硬件資源和高效的內存管理滿足RTOS的需求。 2)利用面向對象特性,C 可以設計靈活的任務調度系統。 3)C 支持高效的中斷處理,但需避免動態內存分配和異常處理以保證實時性。 4)模板編程和內聯函數有助於性能優化。 5)實際應用中,C 可用於實現高效的日誌系統。

C 中使用字符串流的主要步驟和注意事項如下:1.創建輸出字符串流並轉換數據,如將整數轉換為字符串。 2.應用於復雜數據結構的序列化,如將vector轉換為字符串。 3.注意性能問題,避免在處理大量數據時頻繁使用字符串流,可考慮使用std::string的append方法。 4.注意內存管理,避免頻繁創建和銷毀字符串流對象,可以重用或使用std::stringstream。

在C 中測量線程性能可以使用標準庫中的計時工具、性能分析工具和自定義計時器。 1.使用庫測量執行時間。 2.使用gprof進行性能分析,步驟包括編譯時添加-pg選項、運行程序生成gmon.out文件、生成性能報告。 3.使用Valgrind的Callgrind模塊進行更詳細的分析,步驟包括運行程序生成callgrind.out文件、使用kcachegrind查看結果。 4.自定義計時器可靈活測量特定代碼段的執行時間。這些方法幫助全面了解線程性能,並優化代碼。

在MySQL中,添加字段使用ALTERTABLEtable_nameADDCOLUMNnew_columnVARCHAR(255)AFTERexisting_column,刪除字段使用ALTERTABLEtable_nameDROPCOLUMNcolumn_to_drop。添加字段時,需指定位置以優化查詢性能和數據結構;刪除字段前需確認操作不可逆;使用在線DDL、備份數據、測試環境和低負載時間段修改表結構是性能優化和最佳實踐。
