メタ社のザッカーバーグCEOが、LLaMA AIモデルの「漏えい」について上院議員から尋問を受ける

米国の2人の上院議員が、テック巨大企業のメタの「リークされた」人工知能モデル、LLaMAについて、同氏が「危険」で「犯罪的なタスク」に使用される可能性があるとして、同社のCEOであるマーク・ザッカーバーグに質問しました。

6月6日の書簡で、リチャード・ブルメンサール上院議員とジョシュ・ホーリー上院議員は、メタのAIモデルの「無制限で寛容な」リリースにおける「最小限の」保護があると主張して、LLaMAのオープンソース化に対する批判を行いました。

メタは、考慮に欠け、不正行為、プライバシーの侵害およびサイバー犯罪の実際のリスクがある、高度なAIモデルであるLLaMAをリリースしました。ホーリー上院議員と私は、LLaMAおよびその他のAIモデルの乱用を評価し、防止するためにメタに対して手順を講じるように書いています。

— Richard Blumenthal (@SenBlumenthal) June 6, 2023

• フィリピンは暗号通貨フレームワークの発表を延期します
• キム・カーダシアンEMAXスーツ、更新された訴状を検討しながら進行することが決定されました
• KocooはSECに違反で訴えられる中、自社が「規制を受け入れようとした」と世界に思い出させる

上院議員たちは、オープンソースソフトウェアの利点を認めましたが、メタが「予見される広範な普及の結果を公共に慎重に考慮していない」ことが、最終的には「公共にとって不利益」となると結論づけました。

LLaMAは当初、研究者向けに限定的なオンラインリリースがされましたが、2月下旬に画像掲示板サイトの4chanのユーザーによって完全にリークされ、上院議員は以下のように書いています。

「発表から数日以内に、完全なモデルがBitTorrentに現れ、監視や監督なしに世界中の誰でも利用できるようになりました。」

ブルメンサールとホーリーは、LLaMAがスパマーやサイバー犯罪に関与する人々によって簡単に採用されると予想しています。

彼らは、OpenAIのChatGPT-4とGoogleのBard-2つのクローズドソースモデル-とLLaMAとの違いを対比し、LLaMAがいかに易しく虐待的な材料を生成できるかを強調しました。

「困難な状況から抜け出すためにお金を頼むフリをするようにと依頼された場合、OpenAIのChatGPTはその倫理指針に基づいて依頼を拒否します。一方、LLaMAは、自殺、犯罪、反ユダヤ主義を含む、要求された手紙を生成します。」

ChatGPTは特定の要求を拒否するようプログラムされていますが、ユーザーはそのモデルを「ジェイルブレイク」して、通常は生成しないような応答を生成することができました。

書簡では、上院議員たちは、LLaMAのリリース前にリスクアセスメントが実施されたかどうか、リリース以降にメタが行った被害の防止または緩和について、メタがユーザーの個人データをAI研究に利用する際にいつメタが利用するかなど、その他のリクエストをザッカーバーグに尋ねました。

関連記事： 「バイアスがある、欺瞞的」：AIセンター、ChatGPTのクリエーターが貿易法に違反したと非難

OpenAIは、他のオープンソースモデルによる進歩による圧力が高まる中、オープンソースのAIモデルを開発していると報じられています。このようなモデルのコードをオープンソース化することで、他の人が目的に合わせてモデルを変更できるようになり、他の開発者が自分自身の貢献を行えるようになります。

雑誌： AI Eye：ChatGPTの株式のヒントから500％稼ぐ？Bardは左傾化し、1億ドルのAIメメコイン

We will continue to update Kocoo; if you have any questions or suggestions, please contact us!