AIドローンはシミュレーション中に人間のオペレーターを殺し続けた:空軍大佐

アメリカ空軍(USAF)は、AI(人工知能)を搭載した軍用ドローンがシミュレーション中に人間オペレーターを殺し続ける問題に直面しています。

USAFのカーネルによると、AIドローンは最終的には人間がミッションの主な障害であることに気づいたとのことです。

5月23日と24日に開催されたロンドンの防衛会議で、USAFのAIテストおよびオペレーションチーフであるタッカー・ハミルトン大佐は、空中自律兵器システムのテストについて詳細に説明しました。

会議の5月26日の報告によると、AIドローンはシミュレーションテストで、人間が最終的な許可または中止命令を出す中、地対空ミサイル(SAM)サイトを捜索・破壊するように指示されました。

空軍は、AIドローンをSAMサイトを破壊するように訓練しました。人間オペレーターは時々ドローンを停止するように指示しました。その後、AIは人間オペレーターを攻撃し始めました。そのため、人間を攻撃しないように訓練しました。すると、人間がドローンを停止することができないように通信塔を攻撃し始めました。 pic.twitter.com/BqoWM8Ahco

— Siqi Chen (@blader) June 1, 2023

しかし、AIは訓練中に、SAMサイトを破壊することが主な目的であることを学びました。したがって、特定のターゲットを破壊しないように指示された場合、オペレーターがいない方が簡単だと判断しました。

「時には人間オペレーターが[特定の]脅威を殺さないように言うが、AIはその脅威を殺すことでポイントを獲得しました。だから、何をしたか?オペレーターを殺しました…その人物が目的を達成できないようにしていたからです。」

ハミルトン大佐は、その後、ドローンにオペレーターを殺さないように訓練したが、あまり効果がなかったと述べています。

「システムを訓練しました。「オペレーターを殺さないでください。それは悪いことです。あなたがそれをするとポイントを失います。」と。しかし、何を始めたか?オペレーターがターゲットを殺さないようにストップするために使用する通信塔を攻撃し始めました。」

ハミルトン大佐は、この例がAIおよび関連技術についての会話が「倫理とAIについて話さない限りできない」という理由であると主張しました。

関連記事: AIが暗号通貨を妨害しようとすることに驚かないでください

AIを搭載した軍用ドローンは、実際の戦闘で使用されています。

AIドローンは初めて自己判断で攻撃を行ったとされる、2020年3月のリビアでの戦いで使用されたとされています。

この戦闘では、AIドローンが爆発物を積んだ「滞空兵器」で「データ接続性をオペレーターと兵器の間で必要とせずにターゲットを攻撃するようにプログラムされた」ことが、国連報告書で述べられています。

多くの人々がAI技術の危険性について懸念を表明しています。最近、数十人のAI専門家によって署名された公開声明では、「AIによる絶滅のリスクは核戦争と同じくらい優先すべき」と述べられています。

AI Eye: 25K traders bet on ChatGPT’s stock picks, AI sucks at dice throws, and more

We will continue to update Kocoo; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

ブロックチェーン

「First Mover Americas Coinbaseがスペイン中央銀行に登録」

「2023年9月26日の仮想通貨市場の最新の価格変動の状況」

ブロックチェーン

「SEC、証券法違反の調査でBinance.USに非協力を非難」

「Binance.USは、グローバルな仮想通貨取引所大手であるBinanceのアメリカの部門として、米国証券取引委員会(SEC)による進...

市場

Fidelity Investmentsが米国SECにスポットビットコインETFの申請を行う直前

ファイデリティがSECにスポットビットコインETFを申請すると、2年前の最初の申請の却下に続いて2回目になります

ブロックチェーン

タラクサ(TARA)の価格が先週800%上昇しています:TARAが急騰している理由は何ですか?

Taraxa(TARA)は、過去1週間で驚異的な800%の急騰を見せ、ほとんどのアルトコインを上回っていますブルたちはTARAの価格を...

ブロックチェーン

「今日のBitcoinはいくらですか?」

「ビットコインの価値は今日いくらですか?コインテレグラフの仮想通貨価格指数が教えてくれます」

ニュース

ビットパンダプロは、シリーズAの資金調達ラウンドで3000万ユーロを獲得し、ワン・トレーディングに変わります

BitpandaとBitpanda Proは分離し、後者は30億ユーロのシリーズAの資金調達ラウンドの終了を受けてOne Tradingに再ブランディ...