How political analysis became a target of AI fakes

Pepe Escobar

人工知能（AI）がネットを意味、文化、歴史を消し去ることに執着した地獄の機械に変えてしまうことへようこそ。まさにテクノ封建主義が望む通りだ。

AIは疫病のようにインターネットのあらゆる領域へ急速に拡大している。ビッグテックが採用するAIモデルはテクノ封建主義であり、知識の共有・拡大や情報通の市民層育成ではなく、利益と精神・社会統制に依存していることを考えればこれは予測通りである。

多くの点でAIは市民社会（シヴィタス）の対極にある。AIブーム以前から、インターネットの複数の層は既に歪められ、巨大化した下水溝に広がる地雷原と化していた。ビッグテックが支配するAIは、多くの面で既に詐欺であることが露呈していた。今やそれが武器だ。

YouTubeにはAIによって操作され、我々独立系政治アナリストの映像や声を盗用するチャンネルが複数存在する。対象となっている人物の一例を挙げれば、ジョン・ミアシャイマー、ラリー・ジョンソン、リチャード・ウォルフ、グレン・ディーセン、ヤニス・ヴァルファキス、経済学者パウロ・ノゲイラ・バティスタ、そして私自身だ。

我々が全員、独立した地政学・地経学アナリストであり、互いに個人的に知り合い、ほぼ同じポッドキャスト番組にゲスト出演しているのは偶然ではない。

私の場合、英語、ポルトガル語、さらにはスペイン語のチャンネルが存在する。スペイン語でのポッドキャスト出演は稀なので、声すら偽物だ。英語版では通常、声はおおむね複製されている。ポルトガル語版には私にはないアクセントが付いている。視聴者数が膨大なケースも複数ある。本質的に、これらはボットによるものだ。

いずれにせよ、我々ターゲットにとって、これらのチャンネルは全てフェイクである。繰り返す：全てが偽物だ。少なくとも一部は「ファン」によって作成されている可能性もある——収益化による利益を狙ってのことだろう。

あるいはこの詐欺全体が、はるかに陰険な何かの一部かもしれない：信用喪失を目的とした戦略だ。いつもの面々が仕掛ける作戦のように、独立した思考を持つ数多くの視聴者の中に混乱を撒き散らすためだ。

多くの視聴者が既に深く困惑しているのは偶然ではない。最もよくある疑問が浮上する：「これは本当に本人か、それともAIか？」多くの人がこれらの偽チャンネルを報告したようだが、YouTubeはこれまで全く対応していない。アルゴリズムは依然として大規模な視聴者にこれらのチャンネルを推奨し続けている。

この詐欺に対抗する現実的な手段は、YouTubeに苦情を申し立てることだ。だが実際には、これはほとんど無意味である。YouTubeの運営陣は、批判的思考や分析を示す「不都合な」チャンネルを時折削除することの方に関心があるようだ。

詐欺の手口を解読

物理学と高性能計算（HPC）の専門家で、かつてジュネーブのCERNに所属していたクォンタム・バードは、この詐欺の手口を解読した：

人間の文章や音声、映像を模倣できる深層学習デジタルニューラルネットワークのエージェントが急増するのは必然だった。そしてそれらが、科学研究や知識生産、芸術全般に負の影響を及ぼす可能性についてはまだ十分に分析されていない。

彼は付け加える：作家や学者が、自分たちに帰属するテキストが次々と出現し、ある程度その文体や意見を模倣していることを詳述している一方で、最新の流行は、YouTubeやその他の悪名高いビッグテックプラットフォーム上で、人気コンテンツ制作者が母国語や他の言語で発信する動画を配信するチャンネル全体が急増していることだ。いくつかの事例では、この合成素材の品質は十分に高く、平均的な視聴者が即座に見破れないほどだ。政治分析コミュニティにおいて、その影響は明らかである：歴史修正主義、評判の毀損、ニュースや分析の歪曲である。

 ここでクウォンタム・バードは技術の決定的要素を提示する：この種のコンテンツの合成には、豊富なサンプルと膨大な計算能力が必要であり、一般家庭のユーザーが手が届く範囲をはるかに超えている。YouTube被害者の人気が第一条件を満たす一方で、第二の条件は国家や企業といった大規模な主体による活動を示唆している。高度な深層学習モデルを開発し訓練するには、「ディスク容量」の面で膨大な量の音声と動画を処理しなければならないからだ。コンテンツの収益化では、この作業のコストを賄えない。皮肉なことに、音声や動画がオンライン上で過剰に公開されていることが、この種の攻撃を可能にしている。

さあ、始まるぞ。AIがネットを地獄の機械に変え、意味や文化、歴史を消し去ろうとしている――そして深い知的混乱を撒き散らしている。まさにテクノ封建主義が望む通りだ。