ソフトウェアエンジニアがOpenClawが数百件のメッセージをスパム送信したと報告

ノースカロライナ州で吹雪により自宅に閉じ込められたChris Boydは、OpenClawというAIツールを試してみることにしました。彼はこのツールが朝の時間を整理するのに役立つと考えました。毎朝5時30分に受信トレイにニュースサマリーを送信するように設定しました。その部分はうまくいきました。そして彼はそれをiMessageに接続させました。

その直後、すべてが崩壊しました。OpenClawは狂ったようにメッセージを送信し始めました。彼と彼の妻、さらには連絡先リストのランダムな人々に500通以上のメッセージを送信しました。Boydは笑いませんでした。

彼はそれをシャットダウンし、コードを変更し、「バグではなかった。危険だった」と述べました。

ソフトウェアエンジニアがOpenClawが数百通のメッセージをスパム送信したと語る

Boydはこのソフトウェアを「中途半端」と呼び、あまり考えずに適当に作られたもののように見えると述べました。彼はさらなる被害を防ぐために自分でコードを修正しました。このツールについて警告を発していたのは彼だけではありませんでした。

このAIエージェントは、かつてClawdbotと呼ばれ、後にMoltbotと呼ばれていましたが、11月にファンを獲得し始めました。受信トレイのクリア、ディナーの予約、フライトのチェックインなどの簡単なタスクを実行できました。人間の入力をほとんど必要としませんでした。ただ実行されるだけでした。それが興味深い点でした。それはまた危険な点でもありました。

Kasimir SchulzはAIセキュリティーに焦点を当てたHiddenLayerという会社で働いています。Kasimirは、OpenClawは彼が「致命的な三要素」と呼ぶものの完璧な例だと述べました。

それはプライベートデータにアクセスでき、外部と通信でき、未知のコンテンツを読み取ることができます。それが災害の完全なレシピであり、OpenClawはそのすべてを持っています。

William & Maryのコンピューターサイエンスの教授であるYue Xiaoは、プロンプトインジェクションと呼ばれる手法でOpenClawを騙すことで、誰かのデータを盗むことができると述べました。それはハッカーが通常のメッセージに見えるものの中にコマンドを隠す手法です。Yueは、この種のテクノロジーがほとんどの人が準備できていない新しいタイプの攻撃への扉を開くと述べました。

作成者がOpenClawは主流での使用には準備ができていないことを認める

OpenClawを作成したPeter Steinbergerは、このプロジェクトは完成していないと述べました。彼はBloombergへのメールで「単純にまだ完成していませんが、そこに向かっています」と伝えました。

Peterは、オープンソースであるため、誰でもコードを見て作業できると述べました。彼は進捗が進んでいると述べましたが、日常的なユーザーにはまだ準備ができていないと述べました。

Peterはリリースが早すぎたとは思っていませんでした。彼はすべてをオープンに構築しており、完璧になるまで待つべきだとは考えていないと述べました。彼はまた、多くの問題がユーザーがセットアップ手順を読まないことから来ていると述べました。

Peterは、大規模言語モデルを使用する際に100パーセントのセキュリティーなどというものは存在しないことを明確にしました。彼は、OpenClawは自分が何をしているかを知っており、リスクを理解している人々のためのものだと述べました。

彼はまた、プロンプトインジェクションは彼のツールだけの問題ではないと述べました。彼はそれをAI世界のどこにでも存在する問題だと呼びました。Peterは、物事を修正し、OpenClawをより安全にするためにセキュリティー専門家を招き入れたと述べました。

専門家はAIエージェントがセキュリティーが追いつけないほど速く成長していると述べる

PeterがOpenClawの構築方法を擁護する一方で、他の専門家はAIエージェントのトレンド全体が手に負えなくなっていると述べています。NYUのサイバーセキュリティー専門家で教授のJustin Capposは、これらのツールが実行されると制御するのが難しいと述べました。

Justinは「なぜそれらがそうするのか理解していない」と述べました。彼はAIエージェントにシステムへのアクセスを与えることを、幼児に肉切り包丁を渡すことに例えました。

テクノロジー業界は新しいツールを立ち上げるために急いでいます。AnthropicのClaude Codeはわずか6か月で10億ドルの収益ペースに達しました。

一方、これらのツールを安全に保とうとしている人々はまだ基本を理解しようとしています。Justinは、企業が絶え間なくアップデートをリリースしており、セキュリティーチームが追いつけないと述べました。

サイバーセキュリティー企業ArmisのMichael Freemanは、OpenClawは実際のセキュリティー計画なしに組み立てられたと述べました。彼は、Armisのクライアントの一部がすでにOpenClawの侵害を受けているが、詳細は共有しなかったと述べました。Michaelは、企業がOpenClawのようなAIツールを使い続けたいのであれば、ある程度の制御を放棄しなければならないだろうと述べました。

今のところ、この災害の後も人々がOpenClawを使い続けるかどうかが問題です。このツールにはファンがいますが、それらの人々でさえ、安全性のない自由は問題であることに気づいています。そして、迅速に変更が加えられない限り、OpenClawは自らを超えて進みすぎたテクノロジーの最新の例になるかもしれません。

あなたのプロジェクトを暗号資産業界のトップマインドの前に届けたいですか?データがインパクトと出会う次の業界レポートに掲載してください。