【チャイナリスク】Clawdbot × GLM-4.7に隠れる危険性?【AIUI】

【チャイナリスク】Clawdbot × GLM-4.7に隠れる危険性?【AIUI】
目次
  1. AIUIを一歩進めるツール
  2. その前にClaudeCodeでAIUIとは?
  3. Clawdbotの危険性は?
  4. GLM-4.7の危険性は?
  5. では、ローカルLLMであれば?
  6. まとめ

今話題になっているClawdbotですが、GLM-4.7と組み合わせる記事をよく見ます。これに関して、ここ2ヶ月ほど私が勝手に呼んでいますがAIUIとしてClaudeCodeを使用してきた知見を紹介したいと思います。

AIUIを一歩進めるツール

金曜の夜から旅に出ていたのだが、その間にClawdbotが盛り上がりを見せていた。AIUIを一歩進めるツールだと思う。ただし、出来ることが多い反面、問題も多そうだと思っている。

正直まだ詳しく調べていないので、何がどこまでできるのかはわかっていない部分はありますが、現在ClaudeCodeでできること+αはあると思います。なので、大部分は現在ClaudeCodeで処理している経験と追加部分の想像の話になりますので参考程にご覧ください。

その前にClaudeCodeでAIUIとは?

私はClaudeCodeでUbuntuサーバーの管理を行っています。これはコーディングと言うよりもファイル操作メインの使用方法です。もちろんコーディングにも使用していますが、そこら辺が複合的に処理されている感じです。

例
ComfyUIで動画作成する際、モデルのインストールからワークフロー(私は今、GUIでAPI用ワークフローに変換していますが、直接一から作成できるかは不明)の修正、動画作成の実行指示まで。連続作成のバッチ作成など。

こんな感じで直接処理を明確に指示するというより、ClaudeCodeに自然言語で相談しながら作っていく感じです。私は勝手にこれをAIUIと呼んでいます。

Clawdbotの危険性は?

これは、ClaudeCodeでもCodex CLIでもGemini CLIでも変わらないのですが、私のような素人がポンポンClaudeCodeに処理させるときに、はいはいYes、Yesと何も見ずにエンターしていることも多いかも知れません。正直、本来はこれの許可にはラインの線引きがあってしかるべきだと思います。

これは単純に、ファイルを触っていいかの許可なんでしょうが、閲覧だけでなく編集もできてしまうわけで、本来は慎重な判断が必要と思いますが、便利だからと言ってポンポン許可するのは本来は駄目なはずです。

Clawdbotでは、ファイル操作、 コマンド実行、 HTTP通信、 API呼び出し、ログ保存など広範囲な処理が出来ますが、悪意を持って触れば問題が起きる状況が問題で、それを人間側が認識しているか?と言うのも問題。

ただ、ここら辺はClawdbotで触れるから便利なのであって、遮断したら元も子もないので、どうやって運用するかが課題になるとは思う。

GLM-4.7の危険性は?

クラウドのLLMを使用している時点で多かれ少なかれ情報の流出の可能性はある。ただし、今問題にしているのは、もし「LLMが意図的に情報を収集しているとすると」と言う話である。これに関してはGLM-4.7に確実な問題があると言っているわけでは無いが、中国系の企業では国の意向に逆らえないであろうという想定に基づいたものである。

Clawdbotの章でも述べたが、利便性を考えるといろいろなデータにアクセスできないと困るが、安全性を考えると大切なデータには直接アクセスできないようにしたいという一見矛盾した結果となる。

結局これには念入りな設定が必要となるし、安易にYes連打するわけにはいかないのが分かってもらえたと思う。

使うのであれば徹底的に情報管理を考えるべきではある。

ただ、それを踏まえても安いのは安い。一番下のLiteプラン初回年額28.8$でもClaude PROプランの3倍使用できる。ただ、よく見ると初回(初月、四半期、年)のみ割引なので、次の支払いからは上がる。どっちかと言うと試しに契約して、忘れることが有りそう。それでも安そうだが、中身次第でもある。

もし試してみたい方いれば、こちらからどうぞ。さらに10%オフになるようですと書いてあったが、どんな感じで適用されるか分からないですが、私にもお小遣いある様なのでよろしくお願いします。

https://z.ai/subscribe?ic=YBJ2MPM2YF


では、ローカルLLMであれば?

これに関しても結局はほぼ同じで、LLM自体に悪意があれば、直接収集するかClawdbotに処理させる(権限移譲があれば)かの違いでしかないので、根本的な対策は変わらない。

まとめ

かなり広範囲にAIに処理を任せることが出来るようになる半面、どのデータ・ファイルを触らせるか、触らせないかを徹底しないと危険であることを再認識。また、LLMの背景も気にしないともしかする可能性があるということで、より厳密なデータ管理が必要と言う話です。

【宣伝】SwitchBot 購入はこちらから

SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。

大きいセールがある場合はAmazonもしくは楽天から購入するとお得です。
買い物情報はこちらからご確認ください。気分で紹介しています。

アリエクのクーポン情報もまとめています。こちらをご覧ください。

当ページにはアフィリエイトリンクを含む場合があります。