可以採用哪些KPI來衡量人工智慧專案的成功?
研究機構IDC公司在2020年6月發布的一項研究報告表明,大約28%的人工智慧計畫遭遇失敗。報告給出的理由是缺乏專業知識、缺乏相關數據以及缺乏足夠整合的開發環境。為了建立一個持續改善機器學習的過程並避免陷入困境,確定關鍵績效指標(KPI)現在是當務之急。
而在產業上游,可以由資料科學家來定義模型的技術性能指標。它們將根據所使用的演算法類型而有所不同。在旨在預測某人的身高作為其年齡函數的回歸的情況下,例如,可以求助於線性確定係數。
可以採用一個衡量預測質量的方程式:如果相關係數的平方為零,則迴歸線確定0%的點分佈。反之,如果該係數為100%,則該數字等於1。因此,這表明預測的品質非常好。
預測與現實的偏差
評估迴歸的另一個指標是最小平方法,它指的是損失函數。它包括透過計算實際值與預測線之間偏差的平方和來量化誤差,然後透過最小化平方誤差來擬合模型。在相同的邏輯中,可以利用平均絕對誤差方法,該方法包括計算偏差的基本值的平均值。
法國諮詢機構凱捷公司負責策略、數據和人工智慧服務的CharlottePierron-Perlès總結說:「無論如何,這相當於衡量與我們試圖預測的差距。」
例如,在用於垃圾郵件偵測的分類演算法中,有必要尋找誤報和漏報的垃圾郵件。 PierronPerlès解釋說:「例如,我們為一家化妝品集團開發了一種機器學習解決方案,可以優化生產線的效率。目的是在生產線開始時識別可能導致生產中斷的有缺陷的化妝品。我們在與工廠經營者討論之後與他們一起尋求一個模型來完成檢測,即使這意味著檢測到誤報,也就是說,合格的化妝品可能被誤認為是有缺陷的。」
基於誤報和漏報的概念,其他三個指標允許評估分類模型:
(1)召回率(R)是指模型敏感度的測量值。它是正確識別的真實陽性(以新冠病毒檢測呈陽性為例)與所有應檢測的真實陽性(冠狀病毒檢測呈陽性冠狀病毒檢測呈陰性實際是陽性)的比例:R=真陽性/真陽性假陰性。
(2)精度(P)是指準確度的量測。它是正確的真陽性(新冠病毒檢測呈陽性)與所有確定為陽性的結果(新冠病毒檢測呈陽性 新冠病毒檢測呈陰性)的比例:P=真陽性/真陽性 假陽性。
(3)調和平均值(F-score)衡量模型給出正確預測和拒絕其他預測的能力:F=2×精確度×召回率/精確度召回率
模型的推廣
法國ESNKeyrus公司首席高級資料科學家DavidTsangHinSun強調:「一旦建構成模型,其泛化能力將成為關鍵指標。」
那麼如何估計它?透過測量預測和預期結果之間的差異,然後了解這種差異隨時間的演變。他解釋說,「在一段時間之後,我們可能會遇到分歧。這可能是由於資料集在品質和數量方面的訓練不足而導致的學習不足(或過度擬合)。」
那麼其解決方案是什麼?例如,在影像辨識模型的情況下,可以使用對抗性生成網路透過旋轉或扭曲來增加圖片學習的數量。另一種技術(適用於分類演算法):合成少數過採樣,它包括透過過採樣增加資料集中低發生率範例的數量。
在過度學習的情況下也會出現分歧。在這種配置中,模型在訓練後將不會局限於預期的相關性,但是由於過於專業化,它會捕獲現場資料產生的雜訊並產生不一致的結果。 DavidTsangHinSun指出,「然後有必要檢查訓練資料集的質量,並可能調整變數的權重。」
而經濟體的關鍵績效指標(KPI)仍然存在。法國顧問公司AIBuilders公司執行長StéphaneRoder認為:「我們必須捫心自問,錯誤率是否與業務挑戰相符。例如,保險商Lemonade公司開發了一種機器學習模組,可以在客戶提出索賠後3分鐘內根據所傳達的資訊(包括照片)向客戶賠償保險金。考慮到節省的費用,一定的錯誤率會產生成本。在模型的整個生命週期中,特別是與總體擁有成本(TCO)相比,從開發到維護,檢查這一測量值是非常重要。」
採用水平
即使在同一家公司內,預期的關鍵績效指標(KPI)也可能有所不同。凱捷公司的CharlottePierronPerlès指出:「我們為一家具有國際地位的法國零售商開發了一個消費預測引擎。結果證明該模型的精確目標在百貨公司銷售的產品和新產品之間是不同的。後者的銷售動態取決於因素,尤其是與市場反應相關的因素,從定義上來說,這些因素不太可控。」
最後一個關鍵績效指標是採用水準。 CharlottePierron-Perlès說:「即使一個模型品質很好,僅靠它自己是不夠的。這需要開發具有面向用戶體驗的人工智慧產品,既可用於業務,又可實現機器的承諾學習。」
StéphaneRoder總結說:「這個用戶體驗還將允許用戶提供回饋,這將有助於在日常生產資料流之外提供人工智慧知識。」
以上是可以採用哪些KPI來衡量人工智慧專案的成功?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

AI Hentai Generator
免費產生 AI 無盡。

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

熱門話題

本站6月27日訊息,剪映是由位元組跳動旗下臉萌科技開發的一款影片剪輯軟體,依託於抖音平台且基本面向該平台用戶製作短影片內容,並相容於iOS、安卓、Windows 、MacOS等作業系統。剪映官方宣布會員體系升級,推出全新SVIP,包含多種AI黑科技,例如智慧翻譯、智慧劃重點、智慧包裝、數位人合成等。價格方面,剪映SVIP月費79元,年費599元(本站註:折合每月49.9元),連續包月則為59元每月,連續包年為499元每年(折合每月41.6元) 。此外,剪映官方也表示,為提升用戶體驗,向已訂閱了原版VIP

透過將檢索增強生成和語意記憶納入AI編碼助手,提升開發人員的生產力、效率和準確性。譯自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。雖然基本AI程式設計助理自然有幫助,但由於依賴對軟體語言和編寫軟體最常見模式的整體理解,因此常常無法提供最相關和正確的程式碼建議。這些編碼助手產生的代碼適合解決他們負責解決的問題,但通常不符合各個團隊的編碼標準、慣例和風格。這通常會導致需要修改或完善其建議,以便將程式碼接受到應

大型語言模型(LLM)是在龐大的文字資料庫上訓練的,在那裡它們獲得了大量的實際知識。這些知識嵌入到它們的參數中,然後可以在需要時使用。這些模型的知識在訓練結束時被「具體化」。在預訓練結束時,模型實際上停止學習。對模型進行對齊或進行指令調優,讓模型學習如何充分利用這些知識,以及如何更自然地回應使用者的問題。但是有時模型知識是不夠的,儘管模型可以透過RAG存取外部內容,但透過微調使用模型適應新的領域被認為是有益的。這種微調是使用人工標註者或其他llm創建的輸入進行的,模型會遇到額外的實際知識並將其整合

想了解更多AIGC的內容,請造訪:51CTOAI.x社群https://www.51cto.com/aigc/譯者|晶顏審校|重樓不同於網路上隨處可見的傳統問題庫,這些問題需要跳脫常規思維。大語言模型(LLM)在數據科學、生成式人工智慧(GenAI)和人工智慧領域越來越重要。這些複雜的演算法提升了人類的技能,並在許多產業中推動了效率和創新性的提升,成為企業保持競爭力的關鍵。 LLM的應用範圍非常廣泛,它可以用於自然語言處理、文字生成、語音辨識和推薦系統等領域。透過學習大量的數據,LLM能夠產生文本

編輯|ScienceAI問答(QA)資料集在推動自然語言處理(NLP)研究中發揮著至關重要的作用。高品質QA資料集不僅可以用於微調模型,也可以有效評估大語言模型(LLM)的能力,尤其是針對科學知識的理解和推理能力。儘管目前已有許多科學QA數據集,涵蓋了醫學、化學、生物等領域,但這些數據集仍有一些不足之處。其一,資料形式較為單一,大多數為多項選擇題(multiple-choicequestions),它們易於進行評估,但限制了模型的答案選擇範圍,無法充分測試模型的科學問題解答能力。相比之下,開放式問答

機器學習是人工智慧的重要分支,它賦予電腦從數據中學習的能力,並能夠在無需明確編程的情況下改進自身能力。機器學習在各個領域都有廣泛的應用,從影像辨識和自然語言處理到推薦系統和詐欺偵測,它正在改變我們的生活方式。機器學習領域存在著多種不同的方法和理論,其中最具影響力的五種方法被稱為「機器學習五大派」。這五大派分別為符號派、聯結派、進化派、貝葉斯派和類推學派。 1.符號學派符號學(Symbolism),又稱符號主義,強調利用符號進行邏輯推理和表達知識。該學派認為學習是一種逆向演繹的過程,透過現有的

編輯|KX在藥物研發領域,準確有效地預測蛋白質與配體的結合親和力對於藥物篩選和優化至關重要。然而,目前的研究並沒有考慮到分子表面訊息在蛋白質-配體相互作用中的重要作用。基於此,來自廈門大學的研究人員提出了一種新穎的多模態特徵提取(MFE)框架,該框架首次結合了蛋白質表面、3D結構和序列的信息,並使用交叉注意機制進行不同模態之間的特徵對齊。實驗結果表明,該方法在預測蛋白質-配體結合親和力方面取得了最先進的性能。此外,消融研究證明了該框架內蛋白質表面資訊和多模態特徵對齊的有效性和必要性。相關研究以「S

本站7月5日消息,格芯(GlobalFoundries)於今年7月1日發布新聞稿,宣布收購泰戈爾科技(TagoreTechnology)的功率氮化鎵(GaN)技術及智慧財產權組合,希望在汽車、物聯網和人工智慧資料中心應用領域探索更高的效率和更好的效能。隨著生成式人工智慧(GenerativeAI)等技術在數位世界的不斷發展,氮化鎵(GaN)已成為永續高效電源管理(尤其是在資料中心)的關鍵解決方案。本站引述官方公告內容,在本次收購過程中,泰戈爾科技公司工程師團隊將加入格芯,進一步開發氮化鎵技術。 G
