目錄
重新審視「現代」可觀測性的界限
迎接人工智慧可觀測性時代
首頁 科技週邊 人工智慧 如何提高人工智慧的可觀測性?

如何提高人工智慧的可觀測性?

Nov 01, 2023 am 08:13 AM
人工智慧 it 可觀測性

在當前的時代背景下,我們可以理解對過去的懷念,但是我們必須意識到我們正身處於一個不同的環境中。因此,可觀測性永遠不會再和以前一樣了

AI如何提升可觀測性

最近,可觀測性變得越來越複雜,肯定比IT監控的早期階段要複雜得多,那時所有的事物都在大型主機上運行,日誌和所有可用的監控資料都可以輕鬆地收集和視覺化。

即使在更近期應用成為大多數組織的核心之後,情況也簡單得多。然而,在我們目前的Kubernetes、微服務和無伺服器的世界,情況看起來大不相同。想像用錘子擊碎過去那可以輕鬆觀測的流動,看著它分解成上百塊碎片;但是,所有這些小碎片仍必須保持緊密相連並持續交流。

從本質上講,這種情況是由最初引入的抽象化和虛擬化造成的。當Kubernetes出現時,其短暫而快速的變化和分散式特性增加了許多複雜性。在這種情況下,一切都變得更加難以管理,監控和故障排除也更加困難;許多人感到茫然不知所措,不知道自己陷入了什麼局面。我們可能會問自己——是否真的需要讓一切變得如此複雜?

我們可以理解人們對過去的懷念,但是由於我們現在所處的環境,可觀測性永遠不會再和從前一樣了

重新審視「現代」可觀測性的界限

首先,讓我們回退一步,介紹一些基本原則,從定義開始。在我們的雲端基礎設施和應用程式的背景下,可觀測性是一種藝術,它透過檢查軟體並基於數據做出決策來監控和修復生產系統。關鍵是要注意,這些決策應該專注於特定的結果和服務等級目標,而不僅僅是持續的監控、警報和故障排除

接下來,我們來思考在當今世界中設計一個可靠的可觀測性系統的藝術。特別是在編碼或基礎設施問題已經發展成大數據問題的領域,我們需要找到方法來提高這些現代可觀測性系統的運算、網路和儲存效率需求。要注意的是,更多的數據並不表示一定會有更好的洞見

事實證明,抽象化、虛擬化和微服務只是冰山一角。隨著人工智慧工具的出現和持續採用,例如Copilot、Code Whisperer等,人類處理、分析和關聯數十億個不同的事件來理解他們編寫的程式碼是否按預期運行,這實際上上成為一個無法解決的問題。再次,可觀測性成為一個迫在眉睫的大數據難題。

即使工程師具有理解可觀測性訊號以及如何分析遙測資料的技能-這是難以取得的人才-要分類的海量資料也是不現實的,甚至是驚人的。事實是,大量數據中絕大部分對洞察關鍵業務系統的效能並沒有特別大的用處。

更多並不意味著更好。同時,大多數流行的可觀測性解決方案表明,為了解決龐大的資料流和複雜性這一大數據問題,需要使用大量複雜的功能和額外的工具——所有這些都需要一個昂貴的價格標籤來應對數據的膨脹。但仍有希望

迎接人工智慧可觀測性時代

在微服務和人工智慧生成程式碼的現代可觀測性時代,我們不需要過於複雜或昂貴的可觀測性。是的,隨著人工智慧應用的不斷增長,我們看到了巨大的希望。驅動人工智慧驅動程式碼的大語言模型(LLM)為可觀測性提供了一種新的方法

這是如何運作的? LLM正在變得善於處理、學習和識別大規模重複文字資料中的模式——這正是高度分散式和動態系統中的日誌資料和其他遙測的本質特徵。 LLM知道如何回答基本問題並得出有用的推論、假設和預測。

這種方法並不完美,因為LLM模型還不是為即時設計的,在確定完整的上下文範圍以解決所有可觀測性難題方面也不夠準確。然而,與人類在合理的時間內理解和建立大量機器生成的數據的上下文相比,首先用LLM建立一個基線,了解發生了什麼並獲得有益的建議要容易得多。

因此,LLM對解決可觀測性問題非常相關。它們旨在用於基於文本的系統,以及分析和提供見解。這可以透過整合輕鬆地應用於可觀測性,以提供有意義的建議。

重寫後的內容是:我們認為,在這個領域中,LLM的最大價值之一是更好地支持那些可能沒有很高技術熟練度的從業者,並使他們能夠處理大量複雜的數據問題。大多數需要解決的生產問題都有足夠的時間讓LLM根據歷史情境資料提供協助。透過這種方式,LLM可以使可觀測性更簡單、更經濟高效

同時,儘管人工智慧在可觀測性方面正在變得日益強大,但未來還有更有趣、更具顛覆性的機會。接下來的是可以用自然語言書寫和調查的LLM,而不是晦澀難懂的查詢語言——這對所有級別的用戶來說都是巨大的福音,但對那些比較缺乏實踐經驗的人尤其如此,包括業務部門的管理人員。

現在,使用者不再需要成為所有相關資訊的專家,他們可以編寫與常見參數相關的查詢,並使用業務部門主管使用的自然語言,而不僅僅是生產工程師。這使得廣泛的新流程和利益相關者都能夠獲得可觀測性,而不僅僅是生產工程師

在Logz.io,我們已經開始與LLM集成,並且正在努力在平台上開發令人興奮的新功能,旨在充分利用這些新興的人工智慧能力。我們相信,這將為那些面對大數據挑戰並尋求必要的可觀測性的組織帶來關鍵的創新。儘管市場上仍然存在著成本和複雜性的緊迫問題,但我們相信這給每個人帶來了許多保持樂觀的理由

以上是如何提高人工智慧的可觀測性?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

熱門話題

Java教學
1664
14
CakePHP 教程
1423
52
Laravel 教程
1317
25
PHP教程
1268
29
C# 教程
1246
24
位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 Jun 28, 2024 am 03:51 AM

本站6月27日訊息,剪映是由位元組跳動旗下臉萌科技開發的一款影片剪輯軟體,依託於抖音平台且基本面向該平台用戶製作短影片內容,並相容於iOS、安卓、Windows 、MacOS等作業系統。剪映官方宣布會員體系升級,推出全新SVIP,包含多種AI黑科技,例如智慧翻譯、智慧劃重點、智慧包裝、數位人合成等。價格方面,剪映SVIP月費79元,年費599元(本站註:折合每月49.9元),連續包月則為59元每月,連續包年為499元每年(折合每月41.6元) 。此外,剪映官方也表示,為提升用戶體驗,向已訂閱了原版VIP

使用Rag和Sem-Rag提供上下文增強AI編碼助手 使用Rag和Sem-Rag提供上下文增強AI編碼助手 Jun 10, 2024 am 11:08 AM

透過將檢索增強生成和語意記憶納入AI編碼助手,提升開發人員的生產力、效率和準確性。譯自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。雖然基本AI程式設計助理自然有幫助,但由於依賴對軟體語言和編寫軟體最常見模式的整體理解,因此常常無法提供最相關和正確的程式碼建議。這些編碼助手產生的代碼適合解決他們負責解決的問題,但通常不符合各個團隊的編碼標準、慣例和風格。這通常會導致需要修改或完善其建議,以便將程式碼接受到應

七個很酷的GenAI & LLM技術性面試問題 七個很酷的GenAI & LLM技術性面試問題 Jun 07, 2024 am 10:06 AM

想了解更多AIGC的內容,請造訪:51CTOAI.x社群https://www.51cto.com/aigc/譯者|晶顏審校|重樓不同於網路上隨處可見的傳統問題庫,這些問題需要跳脫常規思維。大語言模型(LLM)在數據科學、生成式人工智慧(GenAI)和人工智慧領域越來越重要。這些複雜的演算法提升了人類的技能,並在許多產業中推動了效率和創新性的提升,成為企業保持競爭力的關鍵。 LLM的應用範圍非常廣泛,它可以用於自然語言處理、文字生成、語音辨識和推薦系統等領域。透過學習大量的數據,LLM能夠產生文本

微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 Jun 11, 2024 pm 03:57 PM

大型語言模型(LLM)是在龐大的文字資料庫上訓練的,在那裡它們獲得了大量的實際知識。這些知識嵌入到它們的參數中,然後可以在需要時使用。這些模型的知識在訓練結束時被「具體化」。在預訓練結束時,模型實際上停止學習。對模型進行對齊或進行指令調優,讓模型學習如何充分利用這些知識,以及如何更自然地回應使用者的問題。但是有時模型知識是不夠的,儘管模型可以透過RAG存取外部內容,但透過微調使用模型適應新的領域被認為是有益的。這種微調是使用人工標註者或其他llm創建的輸入進行的,模型會遇到額外的實際知識並將其整合

你所不知道的機器學習五大學派 你所不知道的機器學習五大學派 Jun 05, 2024 pm 08:51 PM

機器學習是人工智慧的重要分支,它賦予電腦從數據中學習的能力,並能夠在無需明確編程的情況下改進自身能力。機器學習在各個領域都有廣泛的應用,從影像辨識和自然語言處理到推薦系統和詐欺偵測,它正在改變我們的生活方式。機器學習領域存在著多種不同的方法和理論,其中最具影響力的五種方法被稱為「機器學習五大派」。這五大派分別為符號派、聯結派、進化派、貝葉斯派和類推學派。 1.符號學派符號學(Symbolism),又稱符號主義,強調利用符號進行邏輯推理和表達知識。該學派認為學習是一種逆向演繹的過程,透過現有的

為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 Jul 25, 2024 am 06:42 AM

編輯|ScienceAI問答(QA)資料集在推動自然語言處理(NLP)研究中發揮著至關重要的作用。高品質QA資料集不僅可以用於微調模型,也可以有效評估大語言模型(LLM)的能力,尤其是針對科學知識的理解和推理能力。儘管目前已有許多科學QA數據集,涵蓋了醫學、化學、生物等領域,但這些數據集仍有一些不足之處。其一,資料形式較為單一,大多數為多項選擇題(multiple-choicequestions),它們易於進行評估,但限制了模型的答案選擇範圍,無法充分測試模型的科學問題解答能力。相比之下,開放式問答

SK 海力士 8 月 6 日將展示 AI 相關新品:12 層 HBM3E、321-high NAND 等 SK 海力士 8 月 6 日將展示 AI 相關新品:12 層 HBM3E、321-high NAND 等 Aug 01, 2024 pm 09:40 PM

本站8月1日消息,SK海力士今天(8月1日)發布博文,宣布將出席8月6日至8日,在美國加州聖克拉拉舉行的全球半導體記憶體峰會FMS2024,展示諸多新一代產品。未來記憶體和儲存高峰會(FutureMemoryandStorage)簡介前身是主要面向NAND供應商的快閃記憶體高峰會(FlashMemorySummit),在人工智慧技術日益受到關注的背景下,今年重新命名為未來記憶體和儲存高峰會(FutureMemoryandStorage),以邀請DRAM和儲存供應商等更多參與者。新產品SK海力士去年在

SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 Jul 17, 2024 pm 06:37 PM

編輯|KX在藥物研發領域,準確有效地預測蛋白質與配體的結合親和力對於藥物篩選和優化至關重要。然而,目前的研究並沒有考慮到分子表面訊息在蛋白質-配體相互作用中的重要作用。基於此,來自廈門大學的研究人員提出了一種新穎的多模態特徵提取(MFE)框架,該框架首次結合了蛋白質表面、3D結構和序列的信息,並使用交叉注意機制進行不同模態之間的特徵對齊。實驗結果表明,該方法在預測蛋白質-配體結合親和力方面取得了最先進的性能。此外,消融研究證明了該框架內蛋白質表面資訊和多模態特徵對齊的有效性和必要性。相關研究以「S

See all articles