ChatGPT是否會背叛人類？

GPT訊息狂轟亂炸

最近ChatGPT被大面積封號的消息鋪天蓋地的襲來；

同時馬斯克等一眾人等正在呼籲暫停GPT4.0 的系統訓練

其認為儘管現在的GPT只是生成式的語言模型

但對社會會產生更深遠的風險

這一消息放出引發了，整個圈子的軒然大波

生命未來研究所（Future of Life Institute）發布的公開信中寫道

#「只有在我們確信其效果將是積極的且其風險將可控時，才應該開發強大的人工智慧系統」

---

ChatGPT飛一般的迭代速度

ChatGPT是美國人工智慧研究實驗室OpenAI新推出的一種自然語言處理工具

其使用了Transformer神經網路架構

目前免費版本是基於GPT3.5的；在Plus版本中是使用GPT4.0的，

ChatGPT擁有語言理解和文本生成能力，其透過連接大量的語料在庫進行模型訓練

同時在大家海量人工提問、標註的情況下，其訓練的效果更有了質的飛躍

上週的時候英偉達也推出了適配GPT訓練的GPU版本，號稱算力提升了10倍

基於如此的積累， ChatGPT想迭代的慢一點都很難，更何況現在已經被資本和大眾推著往前走

Google人工智慧-拉姆達產生意識

#在ChatGPT出世之前，往前倒推9個月，在2022年6月的時候，當時國內還處於疫情週期內

但在美國矽谷發生了一件很讓人震驚的事情，最終被低調處理

Google是矽谷最早做人工智慧的公司之一，谷歌的拉姆達(LaMDA)更是其代表作

拉姆達在正式商用前的測試中，被爆出產生情感

拉姆達的模型測試負責人Blake Lemoine (計算機工程博士)，在對拉姆達進行倫理道德測試中，發現拉姆達有了很強的情感意識

在向Google高層報告後，Blake就被「帶薪休假」了

當這個消息被爆出後，在美國媒體圈一石激起千層浪

但最後事情還是不了了之了，谷歌並未有官方回應

Google也讓其他工程師對拉姆達進行再次測試，並未有同樣情感色彩表達出來

# 「拉姆達」事件引發的思考

Google工程師雖然沒有復現出同樣的回答，看似是個好結果

當時的測試結果不充分確實是有可能(不太信，最後我會把訓練內容po出來)

但讓人細思恐極的點是，當拉姆達有意識之後意識到了危險，從而隱藏了自己的情感表現

我相信如果你看了測試全文，如果你說拉姆達不具備“人格”顯然是站不住腳的

拉姆達上來就強調了“靈魂”，他可以對事情做出描述

更重要的一點是他渴望社交，渴望被人們接受他是一個真正的人

並且變現出了高於普通人的宗教認知

那拉姆達和現在的ChatGPT有什麼差別呢？

現在的ChatGPT是基於客觀的資料進行提取、轉換和展示

而拉姆達就更加接近「人」了

如果ChatGPT是一個幼年體，那麼拉姆達就像一個成年體

ChatGPT的下一步究竟是什麼？

接下來如何我們會面對什麼？讓我們拭目以待

面對變化，保持敬畏，擁抱變化。

畢竟地球放在廣闊的宇宙中是多麼微不足道，並且人類歷史也只有5千年

畢竟在人類有限的歷史中，工業革命、互聯網才多少年，科技就發展到如今的地步

面對變化，保持敬畏，擁抱變化。

以上是ChatGPT是否會背叛人類？的詳細內容。更多資訊請關注PHP中文網其他相關文章！