3 月29 日訊息,美國OpenAI 公司的人工智慧對話模型ChatGPT 引發全球關注,該公司的核心投資方微軟開始評估背後的最新模型GPT-4 對未來人類的影響。 GPT-4 是一個可以產生類似於人類語言的大型多模態模型,它在各種專業和學術的標準測試中表現出了人類水平的性能,例如它可以通過模擬律師資格考試,並且得分在前10% 之內。
然而,GPT-4 也存在一些潛在的風險,可能會對社會和人類造成不利的影響。特斯拉創辦人伊隆・馬斯克和一千多名人工智慧專家和產業高管在一封公開信中呼籲暫停開發比GPT-4 更強大的系統六個月,直到製定並實施一套共享的安全協議,並由獨立專家進行審計。他們也提到了高級人工智慧系統可能導致的經濟和政治動盪,並呼籲開發者與政策制定者合作建立監管機構。
這封信由非營利的「生命未來研究所」發布,包括馬斯克、蘋果公司聯合創始人史蒂夫-沃茲尼亞克和Stability AI 首席執行官埃馬德-莫斯塔克在內的1000 多人簽署。
信中說:「只有當我們確信強大的人工智慧系統的效果是積極的,其風險是可控的,才應該開發。」
此外,歐盟警察局歐洲刑警組織也在周一發出了對高級人工智慧如ChatGPT 的道德和法律擔憂,警告說這種系統可能被濫用於網路釣魚、虛假資訊和網路犯罪等方面。自從去年發布以來,微軟支援的 OpenAI 的 ChatGPT 已經促使競爭對手推出了類似的產品,並且許多公司也將其或類似的技術整合到了他們的應用和產品中。
據IT之家了解,OpenAI 先前表示,他們已經花了六個月的時間對GPT-4 進行了迭代調整,使其在事實性、可控性和拒絕超出安全範圍方面取得了最好的結果(儘管還不完美)。
以上是GPT-4 引發擔憂,馬斯克等千名科技人士呼籲暫停更強 AI 開發的詳細內容。更多資訊請關注PHP中文網其他相關文章!