目錄
使用AI推動傳統架構
提高故障檢測和預測能力
清楚地了解應用資源等級
最大限度地發揮AI驅動的資料中心的優勢
靈活性至關重要
提高IT和資料中心效能的四種新興策略
AIOps自動化和擴展企業範圍內的資料中心和IT工作流程
零售商依靠DevOps來加速應用開發
MLOps提供了一種基於生命週期的方法
SecOps依靠AI和ML來保護每個身分和威脅面
人工智慧和資料中心技術的未來
首頁 科技週邊 人工智慧 AI和ML:資料中心的新前沿創新和優化

AI和ML:資料中心的新前沿創新和優化

Apr 20, 2023 pm 03:16 PM
人工智慧 資料中心

AI和ML:資料中心的新前沿創新和優化

隨著對資料處理和儲存的需求持續激增,資料中心正在努力應對不斷發展和擴展的挑戰。平台、設備設計、拓撲結構、功率密度要求和冷卻需求的不斷變化都強調了對新結構設計的迫切需求。

資料中心基礎設施通常難以將當前和預期的IT負載與其關鍵基礎設施保持一致,從而導致不匹配,威脅到它們滿足不斷升級的需求的能力。在此背景下,必須修改傳統的資料中心方法。

資料中心現在正在將人工智慧(AI)和機器學習(ML)技術整合到其基礎架構中,以保持競爭力。透過在傳統資料中心架構中實施人工智慧驅動層,企業可以創建自主資料中心,無需人工幹預即可優化和執行通用資料工程任務。

使用AI推動傳統架構

近年來,資料中心內AI和ML技術的激增引人注目。人工智慧正在推動各種用例的效率和效能。

Nisum執行副總裁Sajid Mohamedy表示,人工智慧驅動的資料中心可以透過優化應用效能和可用性來幫助組織獲得競爭優勢,這反過來又有助於提高客戶滿意度和忠誠度。將AI添加到組合中有助於優化資源分配,從而提高資料中心效率並降低成本。 ”

快速故障檢測和預測、根本原因分析、電力使用優化和資源容量分配優化,只是部署數據和演算法驅動技術,以最大限度提高數據中心效率的幾個例子。

隨著中斷變得越來越頻繁和昂貴,將人工智慧整合到資料中心對於每個資料驅動型企業來說變得越來越必要。人工智慧驅動的資料中心提供了一系列好處,其中最主要的是有可能減少停機時間,並提高整體系統可靠性,最終為組織節省大量成本。

提高故障檢測和預測能力

KPMG U.S.人工智慧負責人Ellen Campana表示,人工智慧歷來被用於增強資料儲存優化、能源利用和可訪問性。然而,近年來,在將AI的效用擴展到故障檢測和預測方面出現了明顯的趨勢,這可以觸發自我修復機制。

「簡化自動偵測的關鍵是為AI提供一個了解硬體和軟體操作細節的窗口,包括網路流量。如果某個節點內的流量變慢,AI可以偵測到該模式並觸發進程或整個節點的重新啟動。 」

IBM Automation首席技術長Pratik Gupta認為,AI具有跨越資料中心和混合雲環境的變革潛力。透過增強應用中的使用者體驗、簡化操作並使CIO和業務決策者能夠從一系列數據中收集洞察力,人工智慧促進了創新和優化。

清楚地了解應用資源等級

Gupta表示,IBM預計到2030年資料中心的能源消耗將增加12%(或更多),這是由於摩爾定律的到期以及資料量、速度和能源密集型工作負載的爆炸式增長。

#「簡單地說,人工智慧可以減少購買、維護、管理和監控的硬體數量。 」

Gupta表示,資料中心管理人員必須清楚地了解其組織的應用資源水平,以便靈活地擴展以滿足即時需求。人工智慧驅動的自動化可以在此過程中發揮關鍵作用,降低資源擁塞和延遲的風險,同時確保硬體工作負載保持安全並維持效能標準。

例如,IBM的Turbonomic可以自動最佳化應用資源等級並根據業務需求進行擴展。

Gupta表示:「這使IT管理人員能夠擁有一個單一的儀表板來監督資源水平、即時做出決策並提高效率,因為這確保其應用不會被過度配置。 」

最大限度地發揮AI驅動的資料中心的優勢

資料中心的AI和ML用例持續成長,但組織在實施之前必須考慮一些關鍵因素。雖然預先包裝好的AI和ML解決方案越來越多,但仍需要超越單點解決方案的整合。DIY AI部署是可能的,但需要對感測器進行投資以收集數據和專業知識,以將數據轉化為可用的見解。

Campana表示:「許多組織選擇實施自己的資料中心,正是因為其可以確保資料不會與其他人的資料匯集在一起,或以其無法控制的方式使用。雖然這是事實,但組織必須承擔維護安全和隱私的責任。 」

有了合適的資源,資料中心可以變得更聰明、更有效率,但實現這一目標需要優化規劃。

Gupta表示:「規劃應該是實施人工智慧驅動的資料中心的關鍵支柱。成功的部署不會在一夜之間發生,在推出之前需要大量的迭代和思考。IT領導者需要考慮一些因素,例如了解可以和應該保留哪些硬件,以及需要將哪些工作負載遷移到雲端。」

靈活性至關重要

人工智慧驅動的資料中心成功的關鍵是採取策略方法。這意味著確定AI和ML的正確用例,投資必要的基礎設施和工具,並培養熟練的員工團隊,以有效管理和維護系統。

Gupta表示,企業經常維護龐大的基礎設施,從分散式資料中心位置到各種雲端部署。 IT領導者需要考慮是否需要為所有資料來源建立一個聚合湖…或將資料準備、ML和AI工具帶到每個位置。隨著企業轉變其IT基礎設施,不僅必須考慮交付的價值,還要考慮產生的漏洞。 」

其補充道:」最好的計劃也可能出錯。技術推廣也是如此,能夠快速調整路線的彈性組織將會更加成功。 「

提高IT和資料中心效能的四種新興策略

AIOps、MLOps、DevOps和SecOps各有其獨特的優勢。當結合後,可以優化資料中心運作和更廣泛的IT效能,降低成本並實現服務改進。

AIOps自動化和擴展企業範圍內的資料中心和IT工作流程

AIOps正在成為企業在資料中心的可持續發展和碳減排工作的核心,並已被證明可以有效地識別出現性能差距的原因。該技術的核心是其能夠根據實時性能數據(因果分析)解釋和建議行動。

例如,Walmart正在使用AIOps來簡化電子商務營運。AIOps依靠ML模型和自然語言處理(NLP)的組合來發現可以提高資料中心營運的準確性、成本效益和效率的新流程工作流程。零售商還使用AIOps即時檢測和解決低效率和不連貫的流程,同時實現技術堆疊自動化和更廣泛的基礎設施管理。

AIOps可在電子商務平台內實現更準確的即時異常檢測。該技術還擅長關聯來自數據中心所有可用來源的數據,以提供360度的營運視圖,並確定可以改進可用性、成本控制和性能的地方。

零售商依靠DevOps來加速應用開發

零售商依靠DevOps來保持競爭力,並縮短新應用和功能的上市時間。DevOps基於強調軟體開發人員和IT營運團隊之間協作和溝通的軟體開發方法。其在簡化新行動應用、網站功能和基於客戶體驗的增強的軟體交付和開發方面被證明是有效的。

Amazon、Target、Nordstrom、Walmart和其他領先的零售商都採用DevOps作為主要軟體開發流程。零售CIO表示,DevOps代碼庫的質量越高,資料中心運作的效率就越高,為全球客戶提供最新的應用版本。

MLOps提供了一種基於生命週期的方法

隨著零售商招募更多的資料科學家,MLOps變得與DevOps一樣重要,可以保持模型的最新性和可用性。MLOps將DevOps原則應用於ML模型和演算法。領先的零售商使用MLOps來設計、測試和發布新模型,以改進客戶細分、需求預測和庫存管理。

從庫存管理和最佳化開始,MLOps被證明可以有效解決零售業中成本最高、最具挑戰性的問題。供應鏈的不確定性、長期的勞動力短缺和不斷攀升的通貨膨脹成本,使庫存管理成為零售商成敗的關鍵。

Macy、Walmart和其他企業正在使用MLOps來優化定價和庫存管理,幫助零售商做出降低成本的決策,並保護自己免受持有過多庫存的下行風險。

SecOps依靠AI和ML來保護每個身分和威脅面

SecOps確保資料中心和更廣泛的IT基礎設施保持安全和投訴。零信任安全性假設任何使用者或裝置都不可信任,且每個身分都必須經過驗證,這是任何成功實施SecOps的基礎。目標是減少日益複雜的網路攻擊的攻擊面和風險。

SecOps透過結合最成熟的技術來減少入侵和破壞,從而優化資料中心的安全性。採用零信任安全措施有助於零售商保護其客戶、員工和供應商的身份,而微細分可以限制任何攻擊的爆炸半徑。

人工智慧和資料中心技術的未來

邊緣運算正在成為開發人工智慧驅動的資料中心最有前途的技術之一。透過處理更靠近源頭的數據,邊緣運算減少了延遲,並提高了整體效能。當與人工智慧結合時,該技術提供了實現即時分析和決策能力的潛力,使資料中心能夠處理未來的關鍵任務程序。

Campana表示:「向5G的轉變是這一轉型的重要一步,並且正在推動基於人工智慧的軟體基礎設施的創新浪潮。對於開始新資料中心的企業來說,值得考慮其採用5G和對終端用戶硬體進行其他更新的時間表。」

而Gupta以為,資料智慧自動化是繼續進入嚴格監管行業的一種方式,因為人工智慧和資料中心工具將被設計成自動滿足合規要求。

「隨著人工智慧和自動化進一步嵌入資料中心,它們將能夠滿足最嚴格的合規協議。」

以上是AI和ML:資料中心的新前沿創新和優化的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳圖形設置
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您聽不到任何人,如何修復音頻
3 週前 By 尊渡假赌尊渡假赌尊渡假赌
WWE 2K25:如何解鎖Myrise中的所有內容
4 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 位元組跳動剪映推出 SVIP 超級會員:連續包年 499 元,提供多種 AI 功能 Jun 28, 2024 am 03:51 AM

本站6月27日訊息,剪映是由位元組跳動旗下臉萌科技開發的一款影片剪輯軟體,依託於抖音平台且基本面向該平台用戶製作短影片內容,並相容於iOS、安卓、Windows 、MacOS等作業系統。剪映官方宣布會員體系升級,推出全新SVIP,包含多種AI黑科技,例如智慧翻譯、智慧劃重點、智慧包裝、數位人合成等。價格方面,剪映SVIP月費79元,年費599元(本站註:折合每月49.9元),連續包月則為59元每月,連續包年為499元每年(折合每月41.6元) 。此外,剪映官方也表示,為提升用戶體驗,向已訂閱了原版VIP

使用Rag和Sem-Rag提供上下文增強AI編碼助手 使用Rag和Sem-Rag提供上下文增強AI編碼助手 Jun 10, 2024 am 11:08 AM

透過將檢索增強生成和語意記憶納入AI編碼助手,提升開發人員的生產力、效率和準確性。譯自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG,作者JanakiramMSV。雖然基本AI程式設計助理自然有幫助,但由於依賴對軟體語言和編寫軟體最常見模式的整體理解,因此常常無法提供最相關和正確的程式碼建議。這些編碼助手產生的代碼適合解決他們負責解決的問題,但通常不符合各個團隊的編碼標準、慣例和風格。這通常會導致需要修改或完善其建議,以便將程式碼接受到應

微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 微調真的能讓LLM學到新東西嗎:引入新知識可能讓模型產生更多的幻覺 Jun 11, 2024 pm 03:57 PM

大型語言模型(LLM)是在龐大的文字資料庫上訓練的,在那裡它們獲得了大量的實際知識。這些知識嵌入到它們的參數中,然後可以在需要時使用。這些模型的知識在訓練結束時被「具體化」。在預訓練結束時,模型實際上停止學習。對模型進行對齊或進行指令調優,讓模型學習如何充分利用這些知識,以及如何更自然地回應使用者的問題。但是有時模型知識是不夠的,儘管模型可以透過RAG存取外部內容,但透過微調使用模型適應新的領域被認為是有益的。這種微調是使用人工標註者或其他llm創建的輸入進行的,模型會遇到額外的實際知識並將其整合

七個很酷的GenAI & LLM技術性面試問題 七個很酷的GenAI & LLM技術性面試問題 Jun 07, 2024 am 10:06 AM

想了解更多AIGC的內容,請造訪:51CTOAI.x社群https://www.51cto.com/aigc/譯者|晶顏審校|重樓不同於網路上隨處可見的傳統問題庫,這些問題需要跳脫常規思維。大語言模型(LLM)在數據科學、生成式人工智慧(GenAI)和人工智慧領域越來越重要。這些複雜的演算法提升了人類的技能,並在許多產業中推動了效率和創新性的提升,成為企業保持競爭力的關鍵。 LLM的應用範圍非常廣泛,它可以用於自然語言處理、文字生成、語音辨識和推薦系統等領域。透過學習大量的數據,LLM能夠產生文本

三星介紹 BM1743 資料中心級 SSD:搭載 v7 QLC V-NAND,可支援 PCIe 5.0 三星介紹 BM1743 資料中心級 SSD:搭載 v7 QLC V-NAND,可支援 PCIe 5.0 Jun 18, 2024 pm 04:15 PM

本站6月18日消息,三星半導體近日在技術部落格介紹了搭載其目前最新QLC快閃記憶體(v7)的下一代資料中心級固態硬碟BM1743。 ▲三星QLC資料中心級固態硬碟BM1743根據TrendForce集邦諮詢4月的說法,在QLC資料中心級固態硬碟領域,僅有深耕多年的三星和SK海力士旗下Solidigm在當時通過了企業客戶驗證。相較上代v5QLCV-NAND(本站註:三星v6V-NAND無QLC產品),三星v7QLCV-NAND閃存在堆疊層數方面幾乎翻了一倍,儲存密度也大幅提升。同時v7QLCV-NAND的順

為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 為大模型提供全新科學複雜問答基準與評估體系,UNSW、阿貢、芝加哥大學等多家機構共同推出SciQAG框架 Jul 25, 2024 am 06:42 AM

編輯|ScienceAI問答(QA)資料集在推動自然語言處理(NLP)研究中發揮著至關重要的作用。高品質QA資料集不僅可以用於微調模型,也可以有效評估大語言模型(LLM)的能力,尤其是針對科學知識的理解和推理能力。儘管目前已有許多科學QA數據集,涵蓋了醫學、化學、生物等領域,但這些數據集仍有一些不足之處。其一,資料形式較為單一,大多數為多項選擇題(multiple-choicequestions),它們易於進行評估,但限制了模型的答案選擇範圍,無法充分測試模型的科學問題解答能力。相比之下,開放式問答

你所不知道的機器學習五大學派 你所不知道的機器學習五大學派 Jun 05, 2024 pm 08:51 PM

機器學習是人工智慧的重要分支,它賦予電腦從數據中學習的能力,並能夠在無需明確編程的情況下改進自身能力。機器學習在各個領域都有廣泛的應用,從影像辨識和自然語言處理到推薦系統和詐欺偵測,它正在改變我們的生活方式。機器學習領域存在著多種不同的方法和理論,其中最具影響力的五種方法被稱為「機器學習五大派」。這五大派分別為符號派、聯結派、進化派、貝葉斯派和類推學派。 1.符號學派符號學(Symbolism),又稱符號主義,強調利用符號進行邏輯推理和表達知識。該學派認為學習是一種逆向演繹的過程,透過現有的

SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 SOTA性能,廈大多模態蛋白質-配體親和力預測AI方法,首次結合分子表面訊息 Jul 17, 2024 pm 06:37 PM

編輯|KX在藥物研發領域,準確有效地預測蛋白質與配體的結合親和力對於藥物篩選和優化至關重要。然而,目前的研究並沒有考慮到分子表面訊息在蛋白質-配體相互作用中的重要作用。基於此,來自廈門大學的研究人員提出了一種新穎的多模態特徵提取(MFE)框架,該框架首次結合了蛋白質表面、3D結構和序列的信息,並使用交叉注意機制進行不同模態之間的特徵對齊。實驗結果表明,該方法在預測蛋白質-配體結合親和力方面取得了最先進的性能。此外,消融研究證明了該框架內蛋白質表面資訊和多模態特徵對齊的有效性和必要性。相關研究以「S

See all articles