AI攻擊會先確定目標，然後再獲得回饋，不斷優化提升。如果某一天AI能開發出完全新穎的解決方案，甚至開始優化方案，那其殺傷力將是巨大的。
#對於圍棋之類的遊戲，規則、目標、回饋都算是簡單的，確定的，沒有什麼外在的東西攪局，輸或贏就是回饋。 GPT-3 AI可以寫連貫文章，因為它所在的世界只有文本。正因如此，目前的駭客獎勵活動有許多是在模擬環境下進行的，全是人為、全都受約束，所有規則都是為AI準備的。
系統的模糊性才是關鍵。我們可以將全球的稅法全部輸入AI，因為稅法裡有公式，用來決定欠了多少稅。即使如此，所有法律都有模糊性。模糊很難轉化為程式碼，AI處理起來很棘手。所以即使有了AI，在可預見的未來還是需要大量稅務律師。
大多的人類系統模糊性更強。 AI能不能成為現實世界運動比賽黑客（如曲棍球比賽）？恐怕很難。 AI必須理解遊戲的規則，但遠遠不夠，它還要理解人體生理學、球桿和球的空氣動力學，等等。當然我們不能說絕對不可能，但肯定比應付圍棋難得多。
在短期內，正因為社會系統極為複雜，存在模糊性，增強了系統對AI駭客的防禦力。未來一段時間不太可能會有AI體育黑客出現。如果機器人親自參與比賽，或是未來某一天AI極為先進，能從所有維度理解廣闊世界，那時也許會有AI體育黑客誕生。
同樣的，賭場AI駭客、法律程序AI駭客也不太容易開發。 AI想模擬個體或團體工作還需要很長時間，暫時做不到。
世界到處是AI駭客，這是一個科幻問題，但它並不是愚蠢的科幻問題。 AI快速提升，它的進步是不穩定、不連貫的。我們原本認為很難的問題可能是容易的，認為容易的也可能被證明是很難的。幾十年前我們可能會嘲笑AI，認為它不可能征服圍棋，因為圍棋太複雜：不是說規則複雜，而是棋步的可能性太多。現在呢？ AI已經拿下圍棋。
所以說，我們應該提前思考AI駭客問題，早早準備好計畫。
首先我們應該重視的可能是金融體系中的AI駭客，因為金融體系的規則容易被演算法利用。高頻率交易演算法就是一個好例子，未來它會變得更複雜。我們可以用全球的金融實時信息武裝AI，加上全球的法律法規，加上新聞信息，加上其它相關信息，然後指派AI完成一個目標，追求“最大的合法利潤”或“盡可能獲得最大的利潤」。到時可能會有一些駭客行為超出人類的理解，也就是說人類根本意識不到駭客行為發生了。當然，這樣的事情現在看來還有些遙遠。
在短期內，AI可能會配合人類完成駭客攻擊。 AI可以尋找漏洞，有經驗的會計師或稅務律師合作，利用豐富經驗判斷是否可以利用漏洞牟利。
縱觀人類歷史，駭客攻擊一般都是人類行為。 AI如果開始發動攻擊，一切都會改變。 AI不會侷限在相當的方式，不會像人一樣受到諸多限制。 AI根本不休息，它們像外星人一樣思考，它可以以人類無法預料的方式黑掉系統。
電腦會在四個維度增強攻擊：速度、規模、範圍和複雜度。 AI可以將攻擊力增強很多倍。
速度：人類發動攻擊可能要幾個月甚至幾年，AI不需要，幾天、幾小時甚至幾秒鐘都有可能。例如，如果你把整個美國稅法全部輸入AI，命令它找出一套方案，將某個人的稅款降到最低，會怎麼樣？如果是跨國公司，可能會讓AI分析全球的稅法，為企業降稅。
規模：一旦AI找到了漏洞，它可能會以超大規模利用漏洞。當AI開始闖入金融系統，它們會統治整個產業。到時信貸市場、稅法、普通法律都可能向富人傾斜。 AI會讓不平等加劇。最先出現的AI金融駭客可能不是由追求平等的研究人員開發的，而是跨國銀行、避險基金、管理顧問。
範圍：社會的確有一套方案可以應對駭客，但應付的主要是人類駭客，是人類速度的攻擊。如果AI可以快速從稅法中找到幾百個漏洞，國家如何應付，修正稅法的速度根本跟不上。
複雜度：在AI的輔助下，人類駭客可以發動複雜攻擊，其複雜度超過無輔助人類的理解程度。人工智慧的複雜統計分析可以揭示變數之間的關係，找到隱藏漏洞，即使是最好的策略家和專家也可能沒有意識到漏洞的存在。
當AI以超快速度、超大規模、超廣範圍、超高複雜度發動攻擊時，社會可能根本無法處理。 AI會不會突破人類的限制甚至統治社會？一些AI研究人員的確感到擔憂。雖然現在聽起來像是猜測，但人類早期預防還是有必要的。 （曉歌）
以上是是時候開始擔心AI駭客了嗎？的詳細內容。更多資訊請關注PHP中文網其他相關文章！
