OpenAI執行長引用《道德經》 呼籲就AI安全問題合作

中新網北京6月11日電(中新財經記者 宋宇晟)「隨著越來越強大的人工智慧系統出現，全球合作的利害關係變得前所未有的重要。」

6月10日，OpenAI執行長阿爾特曼(Sam Altman)透過視訊連線在2023北京智源大會「AI 安全與對齊」論壇演講中這樣說到。

他在發言中引用《道德經》中的名句“千里之行，始於足下”，呼籲國際科技界就人工智能安全相關問題展開合作，推動建立提高通用人工智能(AGI)安全技術進步方面的透明度和知識共享的機制。

2023北京智源大會「AI 安全與對齊」論壇現場。智源大會供圖

我們目前正在目睹人工智慧能力飛速提升，因此我們需要負起責任，將其應用到世界上。科學的歷史告訴我們，技術進步遵循指數曲線。 ”

阿爾特曼預測，「在未來的10年內，我們可能會擁超強的人工智慧系統。」

設想一下未來十年的世界，通用人工智慧系統的專業技能在幾乎每個領域都超越了人類。最終，這些系統所產生的生產能力可能會超出我們最大公司所能創造的集體生產能力。潛在的收益是巨大的。人工智慧革命可以產生可供我們共享的財富，同時也能顯著提高人機互動的程度。但我們必須共同管理風險，才能達到這個目的。 ”

阿爾特曼稱，如果人們沒能為此做好規劃，一個被設計用於改善公共衛生成果但「未對齊的」人工智慧系統，可能會透過提供混亂的建議來破壞整個公共衛生體系；同樣，一個旨在優化農業實踐的人工智慧系統可能會無意中損害經濟、消耗資源，它會因缺乏對長期可持續性的考慮，從而影響糧食生產和環境平衡。

「我希望我們都能認同，推動通用人工智慧安全是我們需要達成共識的最重要領域之一。」他說。

2023北京智源大會「AI 安全與對齊」論壇現場。智源大會供圖

在阿爾特曼看來，通用人工智慧的治理，首先應建立起包容的國際準則和標準，為在所有國家使用通用人工智慧設立平等、統一的防護措施；其次需要國際合作，以可驗證的方式在全球範圍內建立對越來越強大的通用人工智慧系統安全開發的信任。

他說，「我們可以邁出的最有建設性的一步就是國際科技界共同合作，提高AGI安全技術進步方面的透明度，建立知識共享機制。當研究人員發現緊急問題時，應分享他們的發現。我們應該仔細考慮如何同時尊重和保護知識產權，又能鼓勵這樣的共享行為。這將為我們深化合作打開新的大門。」(完)

以上是OpenAI執行長引用《道德經》 呼籲就AI安全問題合作的詳細內容。更多資訊請關注PHP中文網其他相關文章！