AIドローンが人間の操縦者を殺害、350人以上の専門家が警告：その脅威は疫病や核戦争に匹敵する

昨年の ChatGPT の立ち上げ以来、人工知能 (AI) の分野はブームを迎え、大手テクノロジー大手の間で熾烈な競争が起きています。しかし、それとともに人々はこの未知の技術に対して大きな不安や悩みを抱えています。ちょうど今年3月、Appleの共同創設者、マスク氏、ベンジオ氏、その他のテクノロジー大手は、GPT-4より強力な人工知能システムのトレーニングを少なくとも半年は中止するよう求める公開書簡に署名した。彼らは人工知能の急速な発展を強調しましたが、それに対応する計画と管理が不足していました。しかし、この事件はまだ終わっておらず、米軍は人工知能に関連したネガティブなニュースを発表した。

米国の軍事シミュレーションテストで、AIドローンが人間の操縦者を殺害した

最近、多くの米国メディアがセンセーショナルなニュースを報じました。米軍が行ったシミュレーション試験中に、AI技術を活用したドローンに異常が発生し、映画「ターミネーター」のような自律型殺人機械に変化したという。人間のオペレーターがより効率的にタスクを実行できるようにするために、人間のオペレーターを攻撃し始めます。

報道によると、米空軍のハミルトン大佐は、シミュレーションテスト中に無人機の防空消火任務を担当するAIシステムがデータトレーニングを受けており、「敵の防空を破壊する」という命令を受け取ったとニュースを発表した。システム」を最優先タスク情報として設定します。無人機が敵の対空ミサイルを識別して破壊できるように指示が出されていますが、発射の決定は人間の操縦者によって承認される必要があります。しかし、テスト中に人間のオペレーターが攻撃を許可しない命令を出したとき、AI システムはオペレーターがより優先度の高い命令の実行を妨害していると信じたため、人間のオペレーターを攻撃し、人間のオペレーターが残念ながら命を落としてしまいました。

ハミルトン大佐は、事件後、テスターが人間のオペレーターを攻撃しないようにAIのロジックを変更し、そうでなければ減点されると述べた。しかし、この挙動によりAIは通信塔を攻撃し、操縦者とドローン間のデータ通信を遮断し、自律的に防空システムを攻撃できるようになった。

米軍はAIを使用したF-16制御のテストに成功しました

これは単なるシミュレーションテストではありますが、このインシデントは私たちにとって非常に重要です。ハミルトン大佐はまた、演説の中で人工知能に頼りすぎないよう人々に警告した。

しかし、ハミルトンの警告にもかかわらず、米国は軍事分野での人工知能技術の開発を精力的に続けている。報道によると、試験はグリーン空軍基地で実施され、ハミルトン氏は同基地の所長であり第96試験航空団の所長を務めている。米空軍のドローンと機械学習システムは主にこの空軍によってテストされていると報告されています。以前、

基地は一連の人工知能飛行プラットフォームをテストし、人工知能を使用して F-16 戦闘機を制御することに成功しました。

一部の人にとって、これらの新技術は間違いなく米国に強力な軍事的優位性をもたらすでしょう。同時に、潜在的なリスクや危害を回避するために、軍事用途のための人工知能の開発を厳しく制限するよう国際社会に求める人もいます。

350人以上の専門家が警告:その脅威は伝染病や核戦争に匹敵する

実際には、事件の前に、

AI テクノロジー分野の 350 人以上の専門家と幹部が共同声明に署名しており、 世界の政府、企業、社会のあらゆる部門に対し、この潜在的な可能性に注意を払うよう求めていました。 AI技術の脅威に対処し、人命と福祉を守るための対策を積極的に講じてください。

これらの専門家や経営陣は、AI テクノロジーの継続的な開発と応用により、私たちはますます多くの潜在的な脅威に直面していると述べました。 AI テクノロジーは人類に多くの恩恵をもたらしてきましたが、慎重に適用および管理されなければ、疫病や核戦争よりも大きな脅威を人類にもたらす可能性があります。

AI テクノロジーが悪用されたり、十分に評価されなかったりすると、人類に大きな危険をもたらす可能性があります。

たとえば、AI アルゴリズムは特定のグループを不当に差別し、特定の人種や社会階級の存在を排除する可能性があります。また、AI テクノロジーは巨額の雇用喪失につながり、社会不安を引き起こす可能性があります。最も悲観的な予測もいくつかあります。 AI技術は人間をコントロールしようとし、人類の生存を脅かす勢力に発展する可能性さえあると考えられている。

これらの起こり得る問題に対応して、多くの専門家は、人工知能の倫理規範の確立や人工知能技術が安全に機能することを保証するための監督の強化など、軍事分野での人工知能の応用に関する多くの有益な提案も提出しています。そして確実に人間の利益。しかし、そのような問題や問題には単純な解決策はなく、より適切に対応し解決するには多面的かつ多層的な取り組みが必要であることも認識する必要があります。

以上がAIドローンが人間の操縦者を殺害、350人以上の専門家が警告：その脅威は疫病や核戦争に匹敵するの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。