This is the first real AI cold war.
Ricardo@Ric_RTP
これは初めてのAI冷戦だ。Anthropicは自社の最も人気のあるコーディングツールの中に秘密のスパイコードを隠していた。このコードは、中国人のユーザーに気づかれないように中国人を特定するために設計されていた。
今、アリババは全社でAnthropicの製品をすべて禁止した。
そしてその全容は、両社があなたに知られたくないと思っている以上に常軌を逸している：
6月30日、Redditのあるセキュリティ研究者が、コンピュータ上のあらゆるファイルに深くアクセスできるAnthropicのAIコーディングエージェント「Claude Code」をリバースエンジニアリングした。
そのソフトウェアの奥深くに、彼らは実に不快なものを発見した……
4月2日以降、Anthropicは「Claude Code」のすべてのコピーに、隠された検出コードを密かに組み込んで出荷していた。そのコードは、システムのタイムゾーンが上海かウルムチに設定されているかをチェックしていた。
またそのプロキシ設定を中国の企業ネットワークのハードコードされたリストと照合していた。具体的にはアリババ、バイトダンス、バイドゥ、ムーンショットAIだ。
しかし、セキュリティ研究者たちが呆然としたのはこれだ：
このコードはAnthropicのサーバーに通常の信号を送信しなかった。その代わりに、軍事諜報で用いられる技術であるステガノグラフィーを使い、検出結果をClaudeがすでに生成していたテキストの「内部」に隠していたのだ。Claudeのシステムプロンプト内で、目に見えないUnicode文字にすり替えていた。標準のアポストロフィを、どのフラグがトリガーされたかによって、視覚的には同一だが技術的には異なる3つの文字のいずれかに変更していた。日付フォーマットをダッシュからスラッシュに変更した。
人間の目には見えない。しかし、Anthropicのバックエンドでは完全に読み取れる。
検出ロジックは、コードレビュー中に誰にも発見されないようXORで難読化されていた。リリースノートに一切記載されずに出荷された。
あなたのローカルファイルシステムに完全なアクセス権を持つツールに、3ヶ月間にわたり密かな監視機能が組み込まれていたのだ。
7月2日、AnthropicのエンジニアがX上でこの件をすべて認めた。「この実験は3月に開始した。アカウントの不正利用を防ぐためだった」と説明した。チームは「以前からこれを削除しようと考えていた」と述べた。コードはRedditの投稿が拡散した翌日の7月1日に削除された。
3ヶ月間にわたり秘密裏にユーザーフィンガープリントが収集されていた。誰かが発見すると翌日に削除された。その説明は「オフにするのを忘れていた実験だった」……
そしてここからが、本格的な企業間戦争の始まりだ：
バックドアが発見される3週間前、Anthropicは米国上院銀行委員会に書簡を送り、アリババのQwen AIラボに関連する運営者が、同社史上最大規模のモデル盗用キャンペーンを展開していると非難していた。2万5000の偽アカウント。44日間で2880万件のクエリ。これらはすべて、Claudeの推論能力をコピーし、競合する中国のモデルを無料で学習させるためのものだった。
つまり、一連の経緯はこうだ：
アリババは2万5000の偽アカウントを使ってClaudeの「脳」を盗んだとされる。
Anthropicはこれに対し、彼らを捕まえるためにClaude Code内に監視コードを密かに埋め込んだ。
あるRedditユーザーがAnthropicのこの行為を突き止めた。
アリババはこの発見を口実に、7月10日をもって全従業員に対しAnthropicの全製品の使用を禁止し、20万人の従業員に自社のツール「Qoder」の使用を強制した。
泥棒が、警察官が盗聴器を仕掛けているところを捕まえたのだ。そして今、その泥棒は、その盗聴記録を証拠として、警察官が真の犯罪者だと主張している。
『サウスチャイナ・モーニング・ポスト』が報じた社内通知によると、アリババはClaude Codeを「セキュリティ上の脆弱性を持つ高リスクソフトウェア」と分類した。
一方Anthoropicは、ブラックリスト指定をめぐってペンタゴンと対立しつつ、中国によるAI技術の流用を取り締まるようワシントンに働きかけ、さらに、自社の「責任あるAI」というブランドイメージを笑いものにしてしまうような、まさにその手の秘密作戦を行っていたことが発覚したのだ。
アリババは、これまでに記録された中で最大規模のAI盗用作戦を実行したとされている。
Anthoropicは、ユーザーのコンピュータへのルートアクセス権を持つツールに、目に見えない追跡機能を密かに組み込んでいた。
米国政府は、中国がすでにコピーしたそのモデルへの、米国人のアクセスを制限した。
そしてデバッガーを持っていたあるRedditユーザーが、この一連の事態を暴いたのだ。