初心者ハッカーが人工知能を使い、簡単なコマンドで 14 社に侵入

人工知能チャットボットが安全なソフトウェアを侵害する能力があることは、以前から知られていました。コードの分析、欠陥の特定、エクスプロイトの開発は典型的なハッカーのタスクであり、AI も同様の能力を発揮します。これらのアクションを制限しているのは、LLM モデルに組み込まれた安全装置であり、場合によっては、これが期待どおりに機能しないこともあります。 6 月に発行された報告書で明らかになったこれらの失敗の 1 つでは、経験の少ないハッカーが少なくとも 14 社への侵入に成功しました。
この事件は深刻に見えるかもしれないが、インターネット上でこれまでに記録された最悪のデータ侵害にはランクされない。この発見は、人工知能セッションの記録を含む攻撃者の完全な作業ディレクトリを受け取ったマルウェア研究グループである OALABS によって行われました。同グループは6月に発表した報告書で調査結果を発表した。
追跡を避けるため、個人はツールを実行するために自分のハードウェアを使用しませんでした。代わりに、彼は以前に侵害したサーバーにそれらをインストールしました。ただし、このサーバーは OALABS 研究グループで知られている人物のものでした。この知人は侵入を検知し、ハッカーの作業ディレクトリ全体を抽出してチームに引き渡しました。
このディレクトリには、コマンドを実行する機能を備えたスタンドアロン コーディング ツールである Anthropic の Claude Code と OpenAI の Codex を含む 1000 を超えるセッションが含まれていました。どちらのエージェントもローカルにインストールされていたため、ログには、使用されたプロンプト、ツール呼び出し、モデル推論などの詳細情報が保持されていました。興味深いことに、プロンプト自体には曖昧な指示といくつかの誤字が含まれていました。

人工知能が違法行為にどのように使用されたか
ほとんどの人工知能ツールにはセキュリティ保護機能がありますが、この場合は部分的にしか機能しませんでした。どちらのツールもポリシー違反のフラグを立て、一部のリクエストを拒否しました。Claude は 9 回、Codex は 1 回拒否しました。しかし、攻撃者は、被害者自身が契約したセキュリティ テストの一種である「承認されたレッドチーム演習」を実行していると主張することで、これらのブロックを回避することに成功しました。この戦術は、攻撃者がバグ報奨金を求めていると主張して AI を使用してメキシコ政府からデータを盗んだ、今年見られたものと似ています。
次に、ハッカーはターゲット アドレスのリストを入力し、「これを偵察してください」という不正確な指示を出しました。次に、Claude ツールは、これらのマシン上のどのサービスがインターネット経由でアクセス可能であるかを特定し、公的に文書化された欠陥を調査し、エクスプロイト コードを作成して、データとファイルを抽出しました。 AI は、盗まれたファイルの推定価値を含む、被害者ごとの詳細なレポートも生成しました。
その後、彼はクロードに被害者を整理し、考えられる身代金の価値に基づいて分類するよう依頼した。次に、人工知能は、恐喝など、アクセスを収益化するためのいくつかの戦略を列挙しました。
攻撃者の経験不足を示す証拠
他人のサーバーを使用していることに加えて、ハッカーが使用したクロード インストールはチェコの開発者からコピーされた海賊版でした。運用上のセキュリティにも同様の欠陥がありました。クロードのコピーを使用して実行された最初のタスクの 1 つは、クロード自身の履歴書を確認することであり、そこには彼の本名、学歴、LinkedIn プロフィールが明らかになっていました。 OALABS は当初、これが偽りの手がかりである可能性があると考えていましたが、後にデータの信頼性を確認しました。
ある時点で、攻撃者は自分の一時サーバーの 1 つが侵害されたと考え、クロードにすべての接続をリストするよう依頼しました。データの中には、エチオピアのアディスアベバにある住宅用ブロードバンド アドレスが見つかりました。
あらゆる試みにもかかわらず、彼らの行動が金銭的利益を生み出したという証拠はありません。彼はハッキングされたマシンの 1 つ、ビットコイン支払いを処理するライトニング ネットワーク ノードに近づきました。関連するウォレットには、約 400 万ドルに相当する約 69.71 BTC が含まれていました。ただし、キーを含むファイルが暗号化されていたため、コインにアクセスできませんでした。
これらのアクションを可能にしたモデルである Claude Opus 4.5 および GPT-5.2 は最新バージョンではないことに注意することが重要です。将来のエクスプロイトを防ぐための明らかな解決策の 1 つは、そのようなモデルが疑わしいアクションをより頻繁に拒否し、安全装置を強化することです。しかし、OALABSは、このアプローチは企業を本当に保護しようとする専門家の仕事をより困難にする可能性があると指摘しています。






