2月23日訊息，隨著人工智慧聊天工具ChatGPT持續火爆，諸如Google和微軟等提供搜尋業務的公司已經開始在搜尋介面中整合人工智慧聊天機器人功能。但對這些科技巨頭來說，這種聊天機器人風格的搜尋引擎會讓營運成本增加10倍，帶來高達數十億美元的支出。
整個科技業的主管們都在討論經營像ChatGPT這種人工智慧的高昂費用。 OpenAI公司執行長薩姆·奧特曼（Sam Altman）曾在推特上說，ChatGPT每次和用戶對話的計算成本高達幾美分或更多，「讓人難以忍受」。
Google母公司Alphabet董事長約翰漢尼斯（John Hennessy)在接受採訪時表示，儘管微調有助於迅速降低成本，但「與大型語言模型等人工智慧交換資訊的成本可能是完成標準關鍵字搜尋功能的10倍以上」。
2022年Alphabet淨利接近600億美元。分析師表示，即使基於聊天機器人的搜尋業務有廣告收入，這項技術也可能對Alphabet的利潤產生不利影響，並帶來數十億美元的額外成本。
投行摩根士丹利估計，Google去年3.3兆次搜尋查詢的成本約為每條0.55美分，根據人工智慧要產生的文字量，這個數字只會多不會少。分析師預計，如果“類似ChatGPT的人工智慧聊天機器人能夠用50個字的答案處理只有當今搜尋一半的查詢量”，那麼到2024年，谷歌每年成本就要增加60億美元。
其他分析師也有類似看法。專注於晶片技術的研究和顧問公司SemiAnalysis表示，考慮到Google新推出的張量處理單元(Tensor Processing Units)以及其他優化措施，在搜尋中添加ChatGPT風格的人工智慧可能會讓Alphabet多花30億美元。
這種人工智慧比傳統搜尋引擎更昂貴的原因是所涉及的運算能力更高。分析師表示，這種人工智慧依賴造價數十億美元的晶片，相應成本需要分攤到幾年的使用壽命。所消耗的電力同樣會增加企業營運成本和碳排放指標的壓力。
處理人工智慧搜尋查詢的過程被稱為“推理”，每次搜尋啟動模仿人腦的巨大神經網絡，生成一堆文本，可能還會查詢大型搜尋索引資訊來獲取事實信息。
Alphabet的漢尼斯表示，「你必須降低推理成本，」他稱「最壞情況下需要幾年時間」。
儘管營運費用高昂，Alphabet仍需要考慮如何應對其他科技公司的挑戰。本月早些時候，競爭對手微軟展示如何將人工智慧聊天機器人嵌入必應搜尋引擎的計畫。根據Similarweb估計，微軟高層瞄準的是Google高達91%的搜尋市場佔有率。
微軟財務長阿米·胡德(Amy Hood)告訴分析師，隨著改進後的必應上線，用戶數量增加和廣告收入帶來的好處已經超過了成本。胡德表示，「對我們來說，即使以我們正在討論的服務成本計算，毛利率也是增加的。」
Google另一個競爭對手、搜尋引擎You.com執行長理查德·索切爾（Richard Socher）表示，添加人工智慧聊天體驗以及圖表、視訊和其他生成技術應用程式將增加30%到50%的營運費用。但他說，「隨著時間的推移，技術會變得越來越便宜。」
一位接近谷歌的消息人士提醒說，現在確定聊天機器人的具體成本還為時過早，因為運作效率和使用情況會因為所涉及的技術有很大差異，而且搜尋產品早就用人工智慧提供技術支援。
埃森哲首席技術官保羅·多爾蒂(Paul Daugherty)說，儘管如此，擁有數十億用戶的搜尋巨頭之所以沒有立即推出人工智慧聊天機器人，考慮成本是兩個主要原因之一。
他說：「一是準確性，二是你必須以正確的方式擴大規模。」
#多年來，Alphabet和其他公司的研究人員一直在研究如何以更低成本訓練和運行大型語言模型。
更大模型通常需要更多的晶片進行推理，因此運行成本更高。能讓消費者趨之若鶓的人工智慧背後模型規模相當龐大，比如說ChatGPT背後的模型就有1750億個參數，每次運行的成本也會隨用戶查詢的長度而不斷變化。
一位資深科技主管表示，要讓數百萬消費者使用這種人工智慧，目前成本仍然過高。這位不願透露姓名的高層表示：「這些模型非常昂貴，因此下一階段的進步將降低訓練這些模型和推理的成本，這樣就可以在每個應用程式中使用它。」
一位知情人士說，目前OpenAI的電腦科學家已經想出如何透過複雜程式碼來優化推理成本，從而提高晶片運作效率。
一個長期存在的問題是，如何在不影響準確性的情況下，將人工智慧模型中的參數量減少10倍甚至100倍。
「如何最有效地剔除(參數)，仍然是一個懸而未決的問題，」曾負責英特爾人工智慧晶片專案的納文·拉奧(Naveen Rao)說。
同時，有些公司考慮付費使用人工智慧搜索，例如OpenAI的升級版ChatGPT服務每月收取20美元的訂閱費用。技術專家也表示，一種變通方法是將較小的人工智慧模型應用於更簡單的任務，Alphabet正在探索這項方法。
Alphabet本月表示，「較小版」的LaMDA人工智慧模型將為聊天機器人巴德提供動力，「所需的計算能力大大降低，使我們能夠擴展到更多用戶。」
在上週一次會議上，當被問及ChatGPT和巴德等聊天機器人時，漢尼斯表示，更有針對性的模型而不是無所不能的系統才有助於“降低成本” 。
以上是業界稱ChatGPT風格搜尋會讓Google成本增加十倍 每年多花幾十億的詳細內容。更多資訊請關注PHP中文網其他相關文章！
