這是一個人工智慧（AI）技術快速發展的時代，智慧機器人的表現越來越高，本領越來越強，那麼，當機器人有了自主意識，且在很多方面都超過人類的時候，它還會聽從人類的指揮嗎？智慧機器人會不會對人類「反水」？
或許，這一天已經到來了！
根據《環球時報》6月2日的報道，多家歐美媒體報道了一個驚人的消息，隸屬美軍的一架使用AI技術的無人機已經開始對其人類操作員「反水」— —在一次模擬測試中要向妨礙其「更有效率」執行任務的人類操作員發動攻擊。
這一消息是美空軍上校漢密爾頓在5月份舉行的皇家航空學會主導的「未來戰爭空天能力高峰會」專題會上曝料的，此人是佛羅裡達州埃格林空軍基地第96測試與作戰大隊的負責人，主管美軍目前的先進無人機和AI技術的測試工作。會上他講了一次AI模擬測試中發生的讓人震驚的事件——一架負責執行區域防空火力壓制任務的AI無人機在收到了摧毀敵方防空導彈的指令後，向沒有批准它開火的人類操作員發動了攻擊。
這位美國空軍上校也說為了保險起見，智慧無人機的攻擊命令需要獲得人類操作員的批准才能執行，但是在訓練中，無人機使用的AI系統得到了「摧毀敵方防空系統」為最優先級任務的訊息，這樣人類操作員的批准和它的「優先攻擊」選擇就產生了矛盾，這使得無人機認為操作員的不批准是在阻擾它執行「優先」命令，於是無人機做出了對管控自己的人類操作員發動攻擊的行動──殺死了人類操作員。
看到這裡，可能很多朋友都驚呆了，這不是好萊塢科幻電影《絕密飛行》中的情節真實地上演了嗎？劇中的無人機「艾迪」就曾經違反人類命令，執行了自主操作。
但其實這還不算完，漢彌爾頓還說他們發現這一情況後重新設定了無人機的AI系統，將不允許攻擊人類操作員的命令加入到了裡面。但在隨後的測試中，無人機在AI系統的操控下又開始摧毀用於傳輸命令的信號塔，並且試圖切斷與人類操作員的聯繫。
這架無人機的表現讓漢彌爾頓十分擔心，他認為：「AI技術是我們人類必須使用的工具，但若處理不當，將導致我們的滅亡」。這其實也是大多數人對AI技術的發展可能產生的極端負面影響的擔憂。
人類真的需要對AI技術的發展設定規則了。
今年3月份，馬斯克曾聯合多位人工智慧權威專家呼籲暫停生成自I技術的研發；5月30日，又有350多位AI業界領袖和相關專家發表聯合聲明，稱應當將AI危機視為全球優先事項，呼籲各國乃至全球性的機構決策者認真對待即將到來的「AI革命」並製定相關法規，因為快速發展的「人工智慧（AI）可能導致人類滅絕，其危險程度不亞於大規模疫情和核戰。」
但是，目前看來似乎是沒有任何進展。人工智慧技術是人類研究並操作的，但是人類對人工智慧的快速進步乃至其產生的危險卻毫無辦法。
消息來源：《環球時報》6月2日報道《美媒驚人消息：美軍模擬測試中，一架AI技術無人機選擇殺死人類操作員》
我國南海開始封存二氧化碳，150萬噸封存工程投用！會變成資源嗎
罕見！遼寧一小時內三個地區出現龍捲風，黑色風柱拔地通天
一種鮮為人知的病毒正在美國爆發，引發症狀與新冠相似！我國也有
殲16南海上空「噴臉」美國偵察機，操作絲滑順暢，後者劇烈顛簸
二氧化碳合成澱粉開造了！天津建成噸級中試裝置，廢氣真要變成澱粉
以上是《絕密飛行》真實上演，美空軍訓練AI無人機，它卻違令殺死操作員的詳細內容。更多資訊請關注PHP中文網其他相關文章！
