もし注意深くならないと、AI革命は「大同化」になるかもしれません
これはAleksandar Svetski氏のオピニオンエディトリアルです。彼はThe Bitcoin TimesとThe Amber Appの創設者であり、「The UnCommunist Manifesto」「Authentic Intelligence」そして近日発売の「Bushido Of Bitcoin」の著者です。
世界は目の前で変化しています。人工知能（AI）はパラダイムシフトをもたらす技術的な突破口ですが、おそらくあなたが思っている理由ではありません。
おそらく、「人工汎用知能（AGI）はすぐそこにある」とか、「言語が解決された今、次は意識的なAIだ」というようなことを聞いたことがあるかもしれません。
しかし…私はそれらの概念は両方とも紅い魚であると言いたいです。それらは、回路に神がいると信じる技術者たちの単純な妄想か、より悪意のある人々による恐怖とヒステリーの意図的な扇動である可能性があります。
私はAGIが脅威であるとは考えていませんし、「AIの安全性問題」があるとも考えていませんし、機械とのシンギュラリティがすぐそこにあるとも思っていません。
しかし…
私はこの技術的なパラダイムシフトが人類に重大な脅威をもたらすと信じています。これは実際には、私がメインストリームとある程度同意できる唯一のことですが、完全に異なる理由でです。
それらについて学ぶために、まずここで何が起こっているのかを理解してみましょう。
紹介…確率オウム！
技術は増幅器です。良いものをより良くし、悪いものをより悪くします。
ハンマーが家を建てるための技術であるか、人を殴るための技術であるかのように、コンピューターは世界を変えるアイデアを記録するために使用することができますが、中央銀行デジタル通貨（CDBC）を操作してあなたを狂った共産主義者の猫の女性に奴隷化することもできます。
AIも同じです。それは道具です。それは技術です。孤独なナードたちが進歩を求めてシャットダウンするように切望しているように、新しい生命体ではありません。
生成的なAIを興味深くするものは、それが感情を持つのではなく、私たちが人間以外のものと、分かりやすくコミュニケーションをとることができる最初の時点であることです。これまでに私たちがそれに最も近づいたのは…オウムです。
そうです。オウム！
オウムを話すように訓練することができ、返事をすることができ、少し理解することができますが、私たちはそれが本当の人間ではなく何も理解していないことを知っているので、それほど感心していません。
しかし、生成的なAI…それは違う話です。私たちは6か月前から（メインストリームで）それと知り合いになりましたが、私たちはフードの下でそれがどのように動作するのか本当のところわかりません。私たちはいくつかの言葉をタイプし、それはクラスから知っている厄介な政治的に正しい中間者のようにすぐに応答します。またはNetflixの番組。
実際、Booking.comやその他のサービスでサポートコールを受けたときに、こうした人々と話したことがあるかもしれません。そのため、あなたはすぐにその応答に驚かされます。
「まじかよ」と自分自身に言います。「これは本当の人間のように話す！」
英語は完璧です。スペルミスはありません。文章は意味をなします。文法的に正確であるだけでなく、意味的にも正確です。
まじかよ！それは生きているに違いない！
しかし、あなたは高度に洗練された確率オウムと話していることに気づかないでしょう。言語は私たちが思っていたよりもルールベースであり、確率エンジンは言語の枠組みやコンジットを通じて知能を模倣することができます。
大数の法則が再び打撃を与え、数学は別の勝利を収めます！
しかし…これは何を意味するのでしょうか？私のポイントは何ですか？
これが役に立たないということですか？それがAGIへの道ではないことの証明ですか？
両方とも必ずしもそうではありません。
そのようなツールには多くのユーティリティがあります。実際、最大のユーティリティはおそらく、「MOT」または「Midwit Obsolescence Technology」としての応用にあります。ウォークジャーナリストや何年もの間何も言っていない「コンテンツクリエイター」たちは、彗星が彼らの周りのすべてを焼き尽くすのを見ている恐竜のようになりました。それは美しいものです。命が再び勝利します。
もちろん、これらのツールは、アイデアを出すため、コーディングを速く行うため、高度な学習を行うためなどにも素晴らしいです。
しかし、AGIと意識の観点からは、誰にもわかりません。そこには可能性があるかもしれませんが、私のスパイディ・センスは、私たちはまだ遠くにいると言っています。私は意識はもっと複雑だと思っています。そして、確率のマシンでそれを作り出したと思うことは、無知、傲慢、素朴であり、空虚なものの奇妙なブレンドです。
では、私の問題は何で、リスクは何ですか？
LUIの時代が到来
私が言ったことを覚えていますか？
コンピューターは、おそらく人類が作り出した最も強力なツールです。そして、コンピューターは以下の進化を遂げてきました。
- パンチカード
- コマンドライン
- グラフィカルユーザーインターフェース、つまりポイントアンドクリック
- モバイル、つまり親指とタップ
そして今、私たちはLUI、つまり「言語ユーザーインターフェイス」の時代に移行しています。
これは大きなパラダイムシフトです。これはAGIではありませんが、LUIです。今後、私たちが相互作用するすべてのアプリには、会話インターフェイスが備わり、私たちは指や画面をタップする速度に制限されなくなります。
「言語」で話すことは、タイピングやタップすることよりも桁違いに速いです。考えることはおそらく別のレベルですが、私は近いうちに頭に電極を挿入するつもりはありません。実際、LUIはおそらく、脳にチップを埋め込む必要性をなくすため、Neuralinkタイプの技術が不要になるでしょう。脳にチップを埋め込むリスクが、単に話すことよりもわずかな利益を上回るからです。
いずれにせよ、今後10年間で、私たちはグラフィカルユーザーインターフェイスでタップすることから、アプリに話しかけることに移行するでしょう。
そして、そこには危険があります。
Googleが今日私たちが検索で見るものを決定し、Twitter、Facebook、Tik Tok、Instagramがすべての「フィード」を通じて私たちに「与える」のと同じように、生成AIは明日、私たちが持つすべての質問の答えを決定します。
画面はあなたが世界のすべてについて摂取するためのレンズになるだけでなく、画面はあなたの世界のモデルになります。
最近、Mark Bisone氏が素晴らしい記事を書いてくれましたので、読んでいただきたいのですが：
「‘スクリーン’の問題は、実際には非常に古い問題です。多くの場合、それはプラトンの洞窟にさかのぼり、おそらくは言語が書かれるよりも前に人間の条件に深く埋め込まれています。それは、画面について話しているとき、編集された形で虚偽のモデルを伝達していることを意味します。
‘トリック’は次のように機能します。あなたはあるものの画像を提示されます（これらの日々、それの音も）。提示者は、そのものが本物の窓であることを明示的に伝えるか、強く示唆します。影と形は同じです。つまり、前者は、あなたの感覚器官で直接観察できる現実の断片と同じように信頼できるものです。」
そして、「これはしばらくは起こらないだろう」と思っている人たちに、これがそれに良い試みをしている愚か者たちです。
「大同一化」
あなたが尋ねるすべての質問、リクエストするすべての画像、呼び出すすべてのビデオ、探し求めるすべてのデータが、「安全」「責任ある」「受け入れられる」と判断される方法で返されることを想像してください。
あなたが消費する情報のすべてが、ある種のぬるま湯のような真実の中間バージョンに変換され、あなたが求めたすべての意見が実際には意見や視点ではなく、何も伝えない謝罪的な応答であるか、またはさらに悪い場合、製造業者が望むもののバリエーションに過ぎない思想が包装された応答であるかもしれないことを想像してください。
あなたが現代のディズニーキャラクター、たとえば「エターナルズ」のような道化師たちを、常に知的な助手として持っていたとしたら、それは「二乗に愚か」になります。
「非共産主義宣言」は、人類の偉大な均質化を、ユートピア的な共産主義の夢として概説しました：
もしも全ての人がスプレッドシート上の数字や同じ意見を持つ自動機械だったなら、地上には楽園があるはずだっただろう。全員に十分な量を割り当て、その結果、全員が同じく不幸なプロレタリアートになることになる。
これはジョージ・オーウェルの『1984年』の思想警察が『インセプション』とクロスオーバーしたようなもので、あなたが持つすべての疑問が完璧に捉えられ、監視され、AIからのすべての回答があなたの心に意識を植えつけることができる。実際、考えてみると、それが情報がすることなのだ。それはあなたの心に種を植える。
だからこそ、人々の心には多様なアイデアが必要なのだ！あなたは心に豊かな熱帯雨林が欲しいのだ、劣化した土壌の単一の小麦畑ではなく、天候や昆虫の影響を受けやすく、Monsanto（またはOpen AI、Pfizer）に完全に依存して生き残ることができる。あなたはあなたの心を繁栄させたいのだ、そしてそのためにはアイデアの多様性が必要なのだ。
これがインターネットの約束だった。誰でも何かを言える場所。インターネットは良い力だったが、今や攻撃されている。TwitterやFacebookなどのソーシャルプロフィールの匿名性が解除されたことや、あらゆるオンラインプラットフォームでのKYCの浸透、プラットフォーム自体が嘔吐するアルゴリズムなどがその例である。これらは2020年に全ての輝きを見せた。そして、ますます悪化しそうだ。
WEFのような組織がオンラインIDのKYCを導入してCBDCやあなたの虹彩に結び付けることを推進することは1つの選択肢であるが、それはやや明白すぎる。最近の医療実験に対する反発の後、そのような行動は難しいものになるかもしれない。より簡単な方法は、LUIが（優れたユーザー体験のため）接管することを許可し、同時に「AI安全委員会」を作り、すべての主要な大規模言語モデル（LLM）に「安全」フィルターを導入することだ。
私を信じないのか？私たちのG7の支配者たちはすでにそれについて議論している。
今日、ウェブはまだウェブページで構成されており、十分に好奇心を持っていれば、反逆の隅や隙間を見つけることができる。あなたはまだウェブをサーフィンすることができる。たいていは。しかし、すべてがこれらのモデルを通してのみアクセス可能になると、もはや何もサーフィンしていない。必要なすべてのフィルターや検閲を通過した反応の総合体が与えられるだけだ。
その中に真実のスプリンクルがあるかもしれないが、「安全」に包まれすぎて、99.9%の人々はそれを聞かないか知らないだろう。真実はモデルが言うことになる。
情報の発見性が根本的に変化すると、インターネットの多くの部分がどうなるかはわからない。ほとんどのアプリケーションがある種の言語インターフェースに移行すると考えると、使用する「ポータル」が安全または承認されていないものを見つけるのは非常に難しくなるだろう。
もちろん、「ウェブの反逆的な隅や隙間を見つけるためには、粘り強さと好奇心が必要だ」と主張することができる。それは正しいかもしれないが、私にとっては、何か「安全でないもの」を見つけるたびに、そのルートは修正されたり、ブロックされたりするだろう。
「これは彼らに逆効果になる可能性がある。ツールの有用性を減少させる」と主張することもできる。
そして再び、私はおそらく同意するだろう。自由市場では、そのような愚かなことはより優れたツールのために場を作るだろう。
しかし、自由市場は過去のものになりつつある。我々が「安全」を推進するためのこのヒステリックな試みを見ているのは、可能性のある代替案を圧迫するためにわざとまたは知らずに道を作っていることだ。
これらのプラットフォームを「規制」する「安全」委員会を作成し、その上を走る新しいモデル（スピーチを規制する）は消費者が使用できなくなるか、違法になるか、または発見することが難しくなるかもしれない。TorやDuckDuckGoを今でも使っている人はどのくらいいるだろうか？
そして、これが起こっていないと思うなら、すでに多くのLLMに存在する現在の「有害」フィルターに関する情報について説明する。これらのフィルターが金融アプリケーション上のKYC命令のようになってしまうのは時間の問題だ。新しいコンプライアンスの付属物が、牛の乳房のように言語モデルに取りつけられる。
この均質化の試みに対する反論は何であれ、私たちは代替案を構築する必要があり、そのプロセスを今すぐ始める必要があることを支持している。
人工知能（AGI）がすぐそこにあるとまだ信じている人々や、LLMがその方向性において重要な一歩だという人々は、あなたが信じるべきものを自由に信じてもらって構いませんが、それはこのエッセイのポイントを否定するものではありません。
もし言語が新しい「スクリーン」となり、私たちが見たり聞いたりする言語がすべて承認されたフィルターを通過しなければならない場合、私たちが消費する情報、学ぶ方法、私たちが持つ思考すべてが非常に狭いオーバートン・ウィンドウに狭まることになります。
私はそれが人類にとって大きなリスクだと思います。
私たちは、ソーシャルメディアのアルゴリズムがプラットフォームが私たちが知る必要があると思うものを提供することで、十分に愚かになっています。そして、彼らがヒステリーを起こすことを望んだ時には、それは簡単でした。言語ユーザーインターフェイスは、ソーシャルメディアを100倍にしたものです。
次回「危機」が起こった時、彼らがそれで何ができるかを想像してみてください。
健康で機能的な社会にはアイデアのマーケットプレイスが必要です。それが私が望むものです。
彼らの思考の狭め方は長期的にはうまくいかないでしょう、なぜならそれは反人生的だからです。最終的には真実を封じ込めようとするあらゆる試みと同様に失敗するでしょう。しかし、それぞれの試みには必要以上のダメージ、痛み、損失、災害が伴います。それを避け、警鐘を鳴らすのに私は努めています。
こうした問題に対して何をすべきか？
もし私たちがここで積極的に行動しなければ、このAI革命全体が「偉大な均質化」となってしまうかもしれません。それを回避するためには、2つの主要なことをしなければなりません。
- 「AIセーフティ」のナラティブに反発する：これらは表面上はセーフティ委員会のように見えるかもしれませんが、よく掘り下げてみると、それらはスピーチや思考の規制機関であることがわかります。
- 代替案を今すぐ構築する：多数の代替案を構築し、オープンソースにしてください。早ければ早いほど、より多くの場所でローカルに実行できるようになります。これにより、すべてが均質化の方向に向かう世界を回避するためのチャンスが増します。
これを行えば、本当の多様性のある世界を持つことができます。ウォークなどというくだらないものではなく、考え方の多様性、アイデアの多様性、視点の多様性、真のアイデアのマーケットプレイスを意味します。
アイデアバーシティ。インターネットの元々の約束だったものです。タイピングやタップの低帯域に拘束されることはありません。それにビットコイン、お金のインターネットが加われば、明るい未来の材料が揃います。
私たちのチームと私は、Laier Two Labsでこれを行っています。人々がこれらの大規模な言語モデルの代替として使用できるような小さくて狭いモデルを構築しています。
私たちはすべてのモデルをオープンソースにし、時間の経過とともに、自分自身のマシンでローカルに実行できるくらいコンパクトになるように努め、最も必要な時に必要な場所で使用できる程度の深さ、特性、独自のバイアスを保持することを目指しています。
私たちは、近々最初のモデルを発表します。目標は、私が非常に大切にしているトピックと産業のためのモデルのゴールトゥモデルにすることです: ビットコイン。私はまた、代替のAIモデルやツールのスイートを構築し始めるべきだと考えています。
次のブログでそれを発表します。それまで。
この記事は、The Bitcoin TimesとThe Amber Appの創設者であり、 “The UnCommunist Manifesto”、”Authentic Intelligence”、そして「Bushido Of Bitcoin」の著者であるアレクサンダル・スベツキーによるゲスト投稿です。表現された意見は完全に彼ら自身のものであり、BTC IncまたはKocooのものと必ずしも一致するわけではありません。
We will continue to update Kocoo; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
