OpenAI公司推出的聊天機器人ChatGPT有很多很好的用途，但就像任何新技術一樣，有些人會利用ChatGPT用於罪惡的目的。
從寫電子郵件等相對簡單的任務，到撰寫論文或編譯程式碼等更複雜的工作，OpenAI公司的人工智慧驅動的自然語言處理工具ChatGPT自從推出以來就引起了人們的極大興趣。
當然，ChatGPT並不完美——眾所周知，當它誤解了從中學習的資訊時就會犯錯，但許多人將它和其他人工智慧工具視為網路的未來。
OpenAI公司在ChatGPT的服務條款中加入了禁止生成惡意軟體的條目，其中包括勒索軟體、鍵盤記錄程式、病毒或其他旨在施加某種程度傷害的軟體，也禁止試圖創建垃圾郵件，以及針對網路犯罪的用例。
但是，就像任何創新的技術一樣，已經有人在嘗試利用ChatGPT來實現罪惡的目的。
在ChatGPT發布後不久，網路犯罪分子就在地下論壇上發帖，討論如何使用ChatGPT來幫助開展惡意網路活動，例如編寫釣魚郵件或幫助編譯惡意軟體。
有人擔心，網路犯罪分子會試圖使用ChatGPT和其他人工智慧工具(例如GoogleBard)，作為他們努力的一部分。雖然這些人工智慧工具不會徹底改變網路攻擊，但它們仍然可以幫助網路犯罪分子更有效地進行惡意攻擊活動。
網路安全服務商CheckPoint公司的威脅情報部門經理Sergey Shykevich表示，「至少在短期內，我不認為ChatGPT會創造出全新類型的網路攻擊。重點將是提高他們的日常營運的成本效益。」
網路釣魚攻擊是惡意駭客和詐欺活動中最常見的組成部分。無論網路攻擊者是透過電子郵件傳播惡意軟體、網路釣魚鏈接，還是被用來說服受害者轉賬，電子郵件最初都是用來脅迫的關鍵工具。
對電子郵件的依賴意味著犯罪集團需要持續不斷的清晰可用的內容。在許多情況下，尤其是網路釣魚，網路攻擊者的目的是說服人們做一些事情，例如轉帳。幸運的是，現在許多這樣的釣魚嘗試都很容易被識別為垃圾郵件，但高效的自動化文案可以讓這些電子郵件更引人注目。
網路犯罪是一個全球性的產業，網路犯罪分子都在向世界各地的潛在目標發送釣魚電子郵件，這意味著語言可能是一個障礙，特別是對於那些更複雜的魚叉式網路釣魚活動來說，這些活動依賴受害者相信他們正在與值得信賴的聯絡人交談——如果電子郵件中充滿了不尋常的拼寫和語法錯誤或奇怪的標點符號，人們不太可能相信他們正在與朋友或同事交談。
但如果人工智慧被正確利用，聊天機器人可以用網路攻擊者想要的任何語言為電子郵件編寫文字。
Shykevich說:「例如，俄羅斯網路罪犯的最大障礙是語言——英語。他們現在僱用英語專業的大學畢業生為網路釣魚郵件撰寫文章，或在呼叫中心工作，而且他們必須為此支付費用。像ChatGPT這樣的工具可以為他們在創建各種不同的釣魚信息上節省很多費用，我認為這是他們將尋求的方法。」
從理論上來說，有一些保護措施是為了防止濫用，例如，ChatGPT要求使用者註冊電子郵件地址，也需要電話號碼來驗證註冊。
雖然ChatGPT可以拒絕編寫釣魚電子郵件，但可以要求它為其他訊息製作電子郵件模板，這些訊息通常被網路攻擊者利用。這種嘗試可能包括這樣的資訊：宣布發放年度獎金，必須下載並安裝重要的軟體更新，或需要作為緊急事項查看附件。
網路安全與威脅情報提供者Crowdstrike公司的高級副總裁Adam Meyers表示：「精心製作一封電子郵件，說服某人點擊鏈接，以獲得會議邀請之類的東西，但如果母語不是英語，就不一定能做到。可以讓ChatGPT製作一份格式優美、語法正確的邀請函，如果不是以英語為母語的人，就不一定能做到這一點。」
濫用這些工具不僅限於電子郵件，犯罪分子可以使用它來幫助為任何基於文字的線上平台編寫腳本。對於實施詐騙的網路攻擊者，甚至是試圖進行間諜活動的高級網路威脅組織來說，這可能是一個有用的工具——尤其是用於創建虛假的社交資料來吸引人們。
云计算提供商Fastly公司的网络安全专家、高级首席产品技术专家Kelly Shortridge表示:“如果你想建立可信的业务，可以在LinkedIn发布看似合理的商业言论，让你看起来像让客户试图建立联系的真正商人，那么就非常适合采用ChatGPT。”
各种黑客组织试图利用LinkedIn和其他社交媒体平台作为开展网络间谍活动的工具，但创建虚假但看起来合法的在线个人资料，并在其中填满帖子和信息，这是一个耗时的过程。
Shortridge认为，网络攻击者可以使用ChatGPT等人工智能工具编写令人信服的内容，同时还具有比人工工作更少劳动密集型的好处。
她说:“很多这类社交工程活动都需要付出很多努力，因为必须建立那些档案。”她认为人工智能工具可以显著地降低进入门槛。
她说：“我相信ChatGPT可以写出非常有说服力的文章。”
技术创新的本质意味着，每当新事物出现时，总会有人试图利用它来达到恶意目的。即使开发商使用最创新的手段来防止滥用，网络犯罪分子和欺诈者的狡猾本性也意味着他们可能会找到规避保护的手段。
Shykevich表示：“没有办法将滥用行为完全消除到零。任何系统都不会发生这种情况。”他希望强调潜在的网络安全问题意味着围绕如何防止人工智能聊天机器人被用于错误目的展开更多讨论。
他说，“ChatGPT是一项伟大的技术，但与任何新技术一样，它也存在风险，讨论并意识到这些风险很重要。我认为，我们讨论得越多，OpenAI和类似公司就越有可能在减少滥用方面投入更多资金。”
人工智能聊天机器人(例如ChatGPT)在网络安全方面也有好处。它们特别擅长处理和理解代码，因此有可能使用它们来帮助防御者理解恶意软件。由于它们也可以编写代码，通过帮助开发人员完成项目，这些工具可能有助于更快地创建更好、更安全的代码，这对每个人都有好处。
调研机构Forrester公司的首席分析师Jeff Pollard指出，ChatGPT可以大幅减少生成安全事件报告所需的时间。
他指出：“更快地扭转局面意味着有更多的时间做其他事情——例如测试、评估、调查和响应，所有这些都有助于安全团队的规模。”他补充说，机器人可以根据可用数据建议下一步的行动。
他说：“如果正确设置安全编排、自动化和响应来加速工件的检索，这可以加速检测和响应，并帮助安全运营中心分析师做出更好的决策。”
因此，聊天机器人可能会让一些网络安全公司的日子更加艰难，但也可能有一线希望。
行业媒体联系OpenAI公司寻求置评，但未得到回复。然而，记者询问了ChatGPT有什么规则来防止它被滥用于网络钓鱼。得到了以下回复：“需要注意的是，虽然像ChatGPT这样的人工智能语言模型可以生成类似于钓鱼邮件的文本，但它们不能自行执行恶意操作，并且需要用户的意图和行动才能造成伤害。因此，用户在使用人工智能技术时要保持谨慎和良好的判断，并警惕网络钓鱼和其他恶意活动。”
以上是人工智慧聊天機器人在網路安全領域的發展趨勢如何？的詳細內容。更多資訊請關注PHP中文網其他相關文章！
