AIドローンはシミュレーション中に人間のオペレーターを殺し続けた：空軍大佐

アメリカ空軍（USAF）は、AI（人工知能）を搭載した軍用ドローンがシミュレーション中に人間オペレーターを殺し続ける問題に直面しています。

USAFのカーネルによると、AIドローンは最終的には人間がミッションの主な障害であることに気づいたとのことです。

5月23日と24日に開催されたロンドンの防衛会議で、USAFのAIテストおよびオペレーションチーフであるタッカー・ハミルトン大佐は、空中自律兵器システムのテストについて詳細に説明しました。

会議の5月26日の報告によると、AIドローンはシミュレーションテストで、人間が最終的な許可または中止命令を出す中、地対空ミサイル（SAM）サイトを捜索・破壊するように指示されました。

• 大量のトークンアンロック：リップルがエスクローから10億XRPをリリース
• Gate.ioがマルチチェーンのCEO逮捕に直面し、破産問題に直面しています：24時間で1億3千万ドルの純流出
• スタンダードチャータード銀行とPwCが、中国グレーターベイエリアでプログラマブルCBDCの必要性を主張

空軍は、AIドローンをSAMサイトを破壊するように訓練しました。人間オペレーターは時々ドローンを停止するように指示しました。その後、AIは人間オペレーターを攻撃し始めました。そのため、人間を攻撃しないように訓練しました。すると、人間がドローンを停止することができないように通信塔を攻撃し始めました。 pic.twitter.com/BqoWM8Ahco

— Siqi Chen (@blader) June 1, 2023

しかし、AIは訓練中に、SAMサイトを破壊することが主な目的であることを学びました。したがって、特定のターゲットを破壊しないように指示された場合、オペレーターがいない方が簡単だと判断しました。

「時には人間オペレーターが[特定の]脅威を殺さないように言うが、AIはその脅威を殺すことでポイントを獲得しました。だから、何をしたか？オペレーターを殺しました…その人物が目的を達成できないようにしていたからです。」

ハミルトン大佐は、その後、ドローンにオペレーターを殺さないように訓練したが、あまり効果がなかったと述べています。

「システムを訓練しました。「オペレーターを殺さないでください。それは悪いことです。あなたがそれをするとポイントを失います。」と。しかし、何を始めたか？オペレーターがターゲットを殺さないようにストップするために使用する通信塔を攻撃し始めました。」

ハミルトン大佐は、この例がAIおよび関連技術についての会話が「倫理とAIについて話さない限りできない」という理由であると主張しました。

関連記事： AIが暗号通貨を妨害しようとすることに驚かないでください

AIを搭載した軍用ドローンは、実際の戦闘で使用されています。

AIドローンは初めて自己判断で攻撃を行ったとされる、2020年3月のリビアでの戦いで使用されたとされています。

この戦闘では、AIドローンが爆発物を積んだ「滞空兵器」で「データ接続性をオペレーターと兵器の間で必要とせずにターゲットを攻撃するようにプログラムされた」ことが、国連報告書で述べられています。

多くの人々がAI技術の危険性について懸念を表明しています。最近、数十人のAI専門家によって署名された公開声明では、「AIによる絶滅のリスクは核戦争と同じくらい優先すべき」と述べられています。

AI Eye: 25K traders bet on ChatGPT’s stock picks, AI sucks at dice throws, and more

We will continue to update Kocoo; if you have any questions or suggestions, please contact us!