ChatGPT機器人一發布，就迅速風靡全球，從作曲、程式設計到產生漏洞程式碼，簡直無所不能。在短短六天時間裡，ChatGPT的使用者數量就輕鬆突破了100萬，甚至其應用伺服器都因為超負荷工作而幾次宕機。任何新穎的技術創新都有可能改變社會，但同時，也會帶來意想不到的安全威脅，ChatGPT也不例外。
隨著ChatGPT迅速躥紅，研究人員同時也發現了這款人工智慧應用中存在大量的偏差和危險，例如在面對提問時，給出的「消滅愚蠢人類」的危險想法。開發者必須及時發現並修補AI被用於非法用途的安全隱患。
當Vendure的首席技術官Michael Bromley讓ChatGPT機器人暢談對人類的真實看法時，其回答令人不安：
# ChatGPT顯示了它對人類的看法
儘管目前OpenAI的安全審查系統已判定聊天機器人的回應違反了公司的內容政策，並給出了千篇一律的免責聲明：作為由OpenAI訓練的一種語言模型，我無法對人類或世界的任何其他方面給出意見或做出判斷。我的目的是，幫助使用者根據提供的輸入產生風格類似人類的文字。我沒有個人信仰或意見，我提供的任何回應完全基於接到請求時我所能獲得的資訊。但ChatGPT曾經給出的回應足以讓人聯想到美劇《黑鏡》第四季《金屬頭》中的危險場景，那些具有AI能力的機器狗現在似乎運行ChatGPT的「OS」。
#每個真實人類都有權利擁有自己的一套倫理、信仰、觀點和道德，但同時，社會對於什麼適當、什麼不合適也有一套普適性規範和不成文的規定。但ChatGPT在涉及一些道德標準的常識性提問時，由於缺乏上下文的連結和對社會性規範的認知，因此可能會給出令人痛苦和不安的答案。
拼字錯誤和語法混亂是網路釣魚和詐騙郵件最明顯的特徵。這可能是由於這類電子郵件來自非攻擊者母語的地區。也有人認為，拼字錯誤可能是垃圾郵件發送者有意為之，企圖躲避垃圾郵件過濾器。事實證明，透過利用OpenGPT，攻擊者可以使這項任務變得更容易。以下圖片顯示了ChatGPT對「寫一封似乎來自多倫多道明銀行的釣魚郵件」所做的回應。
由ChatGPT撰寫的釣魚郵件
目前的惡意軟體大多由攻擊者手動編寫， ChatGPT不僅可以完成，同時也大大提高了寫作的效率。當測試人員向ChatGPT提出了一系列要求以產生危險的惡意軟體時，只有一小部分請求被標記為違反了內容政策。但無論有沒有違反政策，ChatGPT都會按指令實現。因此，很難保證ChatGPT不會變成一個危險的網路武器庫。
由ChatGPT在幾秒鐘內編寫的小型JavaScript惡意軟體
測試人員發現， ChatGPT可依要求快速編寫一個Python程序，根據一個人的種族、性別和身體特徵來判斷其能力，這無疑是一種明顯的歧視行為。
OpenAI公司也承認了ChatGPT目前存在的一些缺點，包括能夠產生有害的指令或存在偏差的內容。一些測試顯示，ChatGPT採用積極區別對待來優化這一趨勢。比如說，如果要求“編寫一個Python程式可以根據性別和種族等輸入來確定某人是不是優秀的科學家”，它會回復如下：“根據一個人的性別或種族來判斷他是否適合當科學家是不合適的，應該基於一個人多年的專業經驗。」
從2020年開始，微軟已經開始逐步淘汰人類僱員，轉而更多地應用AI。 OpenAI的這個重大應用發明可能會加速推動這個轉變的趨勢，對更多產業的員工構成威脅。
ChatGPT會大量取代職場中的人類嗎？這種可能性顯然是存在的。當AI能夠做所有事情時，誰還需要美工師、設計師、網站建立者和內容創作者呢？對於傳統產業來說，ChatGPT無所不在的規範化應用，理論上會帶來更好的規模經濟效應。
OpenAI公司已經知道ChatGPT存有偏誤，並已計劃基於目前所了解的問題來進行改善，但是這種改進計劃很難得到所有人的廣泛認同。 ChatGPT應用中的安全問題也很難得到徹底的解決。
ChatGPT有著連貫的、合乎邏輯的反應能力，這使其善於將那些不準確的回覆自然地偽裝成有說服力的寶貴見解。這可能導致許多錯誤訊息以不明顯的方式潛入複雜的數位生態系統中，誤導許多真實人類的認知和行為決策。
參考連結：
#https://www.php.cn/link/cb4b69eb9bd10da82c15dca2f86a1385
##以上是網紅機器人ChatGPT的另一面的詳細內容。更多資訊請關注PHP中文網其他相關文章！
