AIタスクフォースのアドバイザーは、2年後に人類を脅かす可能性があると警告しています

英国首相の人工知能（AI）タスクフォースアドバイザーは、AIが強力すぎる前に人間がAIを制御し規制するためには、約2年の時間があると述べました。

地元の英国メディアに対するインタビューで、マット・クリフォード氏は、政府の先進研究・発明局（ARIA）の議長も務めており、現在のシステムが「ますます能力が向上し、ますます速い速度で向上している」と強調しました。

彼は、現在安全性と規制を考慮しない場合、システムは2年後に「非常に強力」になると述べました。

「これらの非常に大規模なモデルを制御し規制するための枠組みを、今日よりもずっと可能にする必要がある2年間を持っています。」

• AIからの絶滅リスクを緩和する規制当局の取り組み：Law Decoded、5月29日〜6月5日
• テザーはエルサルバドルの10億ドルの再生可能エネルギープロジェクトに投資する
• 罰金と規制：暗号通貨コンプライアンスのますます拡大する景観

クリフォード氏は、AIに関しては、近い将来と長期的に「非常に恐ろしい」と呼ばれる多くの異なる種類のリスクがあると警告しました。

このインタビューは、AI安全センターが最近公開したオープンレターに続いて行われました。このレターには、OpenAI CEOのSam Altmanを含む350人のAI専門家が署名し、AIは核兵器やパンデミックと同様の存亡の脅威として扱われるべきであると述べています。

「彼らは、実質的に新しい種を創造した場合に何が起こるかについて話しています。人間よりも優れた知性です。」

AIタスクフォースアドバイザーは、AIによって引き起こされるこれらの脅威は「非常に危険」であり、2年後にモデルが期待される場所から、多くの人間を殺す可能性があると述べました。

関連記事： ChatGPTの立ち上げ後、AI関連の暗号通貨のリターンが最大41％に上昇：調査

クリフォード氏によると、規制当局と開発者の主な焦点は、モデルの制御方法を理解し、その後、グローバルな規制を実施することです。

現時点では、彼はAIモデルがどのように行動するのかを理解する不足についての彼の最大の懸念があると述べました。

「最も能力の高いシステムを構築している人々は、[AIシステム]がどのような行動を示すか正確に理解していないことを自由に認めています。」

クリフォード氏は、AIを構築している組織の多くのリーダーが、強力なAIモデルが展開される前に査定や評価プロセスを受ける必要があるという考えに同意していることを強調しました。

現在、世界中の規制当局は、技術とその影響を理解し、ユーザーを保護し、イノベーションを許可する規制を作成しようと奮闘しています。

6月5日、欧州連合の当局は、ディスインフォメーションを防止するために、AI生成コンテンツをすべてラベル付けすることを義務付けることを提案しました。

英国では、野党労働党のフロントベンチメンバーが、AI技術は医療や核エネルギーと同様に規制されるべきであると述べ、AI安全センターのレターで言及された感情を反映しています。

関連記事： AI Eye：25KトレーダーがChatGPTの株式予想に賭け、AIはサイコロの投げ方が下手だと判明、その他

We will continue to update Kocoo; if you have any questions or suggestions, please contact us!