ロボットスパムの新しい時代を生き抜くために、暗号通貨の歴史を見る

暗号通貨の歴史を見て、ロボットスパムの新時代を生き抜く

これはデイビッド・Z・モリスのコメントで、マイケル・ケイシーの代理として、いわゆる人工知能というもの、それが将来にもたらす脅威、そして暗号通貨がそれらを和らげるのに役立つ方法について話すためです。

マイケルも間違いなく同意するでしょうが、暗号通貨では休みの日はありません。私自身も最近、素晴らしいReaderconフィクションコンベンションで長い週末を過ごした際に、それを思い出させられました。必然的に、私はいくつかの重要な暗号通貨のニュースを見逃しましたが、また別の新しい脅威についての深い洞察を得ることができました。それは、GPT3のような自動大規模言語モデルがインターネット全体にもたらす存在的な脅威です。

あなたは Money Reimagined を読んでいます。これは、技術、経済、社会の出来事やトレンドを見つめなおし、お金と世界の金融システムを再定義している週刊のコラムです。フルのニュースレターを購読するには、ここをクリックしてください。

それは誇張された言い方かもしれません。しかし、Readerconでは、トップクラスのSF雑誌「Clarkesworld」の創設者兼編集者であるニール・クラークに出会いました。他のフィクション雑誌と共に、これらのジャーナルはA.I.によって生成されたGPTの偽物のストーリーの投稿の洪水にさらされており、Clarkesworldは2021年2月に一時的に投稿を停止せざるを得なくなり、実在の作家の仕事と生計を脅かしました。

• 「トークン化されたコレクタブルプラットフォームAmericanaがハイエンドの物理アイテムをチェーン上にもたらしています」
• 「オープンシーの新しい提携、メタバースにマクナゲットが登場」
• 「経済の不確実性が投資家を怖がらせ、暴落する暗号通貨ベンチャーキャピタルの資金調達」

「私はそれをスパムと呼んでいます」とクラークは言います。「なぜなら、それがスパムだからです。私はそれらを人工知能とさえ呼ぶのを拒否することさえあります。これらのものは人間化できません。それは映画のSFのように意識しているわけではありません。これは統計的な[言語]モデルです。」

スパムという言葉は、長年にわたって仮想通貨のウォッチャーたちのアンテナを立てるべきです：同じ問題がBitcoinの起源にあったからです。

1998年から2002年の間、コンピューターサイエンティストのアダム・バックは、「Hashcash」という概念を開発しました。これは主に、メールスパムに対抗するために微小な支払いを送信することを要求するものでした。バックと彼のアイデアはBitcoinの開発に基盤を提供し、彼は現在、暗号通貨開発者BlockstreamのCEOです。

20年後、ロボットの野蛮な群衆が人間のコミュニケーションシステムを襲おうとしている今、Hashcashのコンセプトを再考する時かもしれません。

大規模言語モデルの詐欺師たち

「ChatGPTは11月下旬に登場しました」とクラークは言います。「そしてすぐにそれを使って投稿が始まった。最初にそれを採用したのは、すでに盗作作品を投稿していた人々でした。他の人々の作品で一攫千金を狙おうとしていた人々に積極的に受け入れられました。」

スパム問題に直面する中、クラークは彼と彼のチームが攻撃が組織的であることにすぐに気付きました。YouTubeやTikTokのチャンネルは、クラークスワールドなどのフィクション雑誌にGPTによって生成されたストーリーを投稿することで何千ドルも稼げると視聴者に約束していました。クラークスワールドは、長さに応じて数百ドルの報酬を支払っていますが、それは世界の一部の地域ではビール代程度であり、他の地域では非常に重要なものです。

オンライン詐欺師からの詐欺的な約束は、急速に広まったようです。クラークは、12月に54件のAI生成の投稿を受け取ったと言います。1月には117件の偽物のストーリーを受け取りました。2月には514件に達し、2月20日の昼までにクラークは投稿を停止しました。

「そして、その朝だけで50件ありました」と彼は言います。

クラークスワールドには少数のスタッフがおり、通常1ヶ月に約1,100件の投稿をレビューしています。加速するごみの洪水は彼らを圧倒する脅威となり、解決策は明らかではありませんでした。

「私たちは新しい作家と新しい声を迎え入れるために、公開の投稿プロセスを持っています」とクラークは言います。「だから、私たちは特定の場所からの投稿を閉じることができますが（スパム対策）、その国から正当な作家も入ってきていることもあります。そして、私たちはこう言われたこともあります。「このストーリーの報酬は私の生活費になります。」」

「そのような作家は埋もれてしまいます。AIによる投稿は新しい作家や、つながりの少ないコミュニティに属するかもしれない作家に害を与えます。これは、自動生成コンテンツが人間にとってインターネットを悪化させる明確な方法です。

「15年または20年前、私たちが紙で投稿を受け付けていた時、郵送料だけでアメリカ、カナダ、イギリス以外からの投稿が大幅に減少しました。そして、デジタルの投稿があるとすぐに、国際的な投稿の洪水が押し寄せました。それにより、フィクションの世界は大きく多様化しました。LLMの台頭によって、その創造性の復興が脅かされています。

クラークもまた、スパムの課題に対処するために役立つツールを持つコーダーでもありました。彼は、提出物に関連するメタデータをさらに関連付け始めました。たとえば、VPNを介して送信されたかどうか、ユーザーのセッションの長さなどです。これらの基準を含めた「ポイントシステム」が、フェイクの可能性が高いストーリーをレビューキューの下部に配置するのに使用されています。これにより、本物の著者が最初に読まれるようになりますが、すべての提出物が最終的にレビューされることも保証されます。

最後に、ストーリーがLLMで生成されたと判断された場合、提出者はシステムから永久に追放されます。

これらの対策により、現時点ではClarkesworldは再び提出物を受け付けることができるようになりましたが、彼らが取り組んでいるスパムの量が続けて増えれば、解決策は一時的なものに過ぎないことを意味します。

「最悪の人間の作家よりもひどい」

クラークの経験の重要な側面の1つは、ロボットによる提出物の実際の品質が非常に低いということです。人間の読者にはほぼ即座に認識でき、実際には公開される可能性がありません。

「ChatGPT3は、最悪の人間の作家よりもレベルが低かったです」とクラークは言います。編集者として20年以上の経験を持つ彼は、最悪の作品がどのようなものかを正確に知っています。「GPT4は最悪の人間の作家に近づいていますが、それでもまだ稀です。」

「共通しているのは、完璧な文法、完璧なスペルを持っていることです」とクラークは続けます。「しかし、ストーリー自体はあまり意味を成さない。重要な要素を飛ばしています。エコロジーの崩壊などの基本的な前提から始まり、問題を解決できる科学者を紹介し、そして突然、問題が解決されてしまいます。物語の中間部分が欠落しており、定型的な開始と終了で囲んでおり、非常に下手に行われています。」

それはまるでTed Chiangが最近述べた「インターネットのぼやけたJPEG」という表現に似ています。この明らかな劣悪さは、LLMに関する脳死的なハイプの大部分をうまく論破しています。しかし、優れた（そして極めて低賃金の）編集者がゴミをふるいにかけることを余儀なくされるイメージは、ますます鬱陶しいものとなっています。

小さな返金可能な料金の約束

悪質な提出物を減らす別のオプションとして、提出料があります。クラークは、倫理的および創造的な懸念を挙げています。なぜなら、料金がアクセスを制限する可能性があるからですが、実際の問題は主に現行のグローバルな支払いインフラの技術的な不備に帰結します。

たとえば、クラークによれば、もし返金が簡単にできるような提出料を請求できるなら、受け入れられたストーリーやAIによらないストーリーの作者に返金することになるでしょう。理想的なスパム防止料金は非常に小さくなるはずです。少なくとも、インターネット時代に途上国の作家を遠ざけていた25ドルまたは30ドルの郵送料よりもはるかに低い料金です。

しかし、現行の技術ではそれを実現する方法はありません。

「ほとんど全額を返金できるクレジットカード会社を教えてください。アカウントを失うことになります」とクラークは言います。クレジットカードは、小額の支払いには適していません。しかし、それはさらなる問題でもありません。

「世界のさまざまな地域で支払いを受ける試みにも問題があります」とクラークは続けます。「クレジットカード会社が対応しないアフリカのいくつかの国があります。それによって作家が排除されてしまうでしょう。また、身元確認サービスを提案する人もいますが、それにも国家規模の問題があります。みんなに対応できるものが必要です。」

これを読んでいるなら、私たちが向かっている方向がすでにお分かりかと思います。少なくとも原則的には、仮想通貨や関連システムはClarkesworldの偽の提出物の問題を緩和するのに役立つことができます。

すべての提出物に小さな支払いを要求することで、品質の低い提出物を減らし、編集者の作業量を軽減し、スパムに対する補償をすることができます。支払いは実際の人間の作家に安価で、迅速かつ簡単に返金できるため、実際の人間の作家にかかるコストはわずかです。また、これらのシステムは国境に制約されないため、本物の作家がロボットによる投稿に押しつぶされることはありません。

かなりの詳細が必要ですが、同じシステムのいくつかのバージョンは、より一般的な環境でも並行して使用される可能性があります。たとえば、Steemのようなステーキングインセンティブのシステムがフォーラムやソーシャルメディアでの自動投稿を処罰するために使用されることを想像することができます。より洗練された分散型の身元確認システム（例：SpruceID）はより困難であり、現時点ではより初期の段階ですが、より深い潜在能力を持つ可能性があります。

明確に述べておきますが、これらのことは必要ないはずです。LLMは、おそらく短期的には顧客サービスやクリックベイトの娯楽に限定される可能性がある、ちょっとしたパーラートリックに過ぎないことが急速に明らかにされつつあります（たとえば、CNETがGPTを使用してニュース記事を書くという惨憺たる実験を行ったことなどを参照してください）。

この技術の最大の影響は、実際の人々の時間と脳力を浪費する四流の支離滅裂な情報の拡散に見られます。しかし、もしこれがシリコンバレーの神王たちが次のベンチャーキャピタルの富の領域と見なしているものなら、それが私たちが生きなければならない世界です。少なくとも、暗号通貨は抵抗するための一つの希望を提供します。

編集：ベン・シラー

We will continue to update Kocoo; if you have any questions or suggestions, please contact us!