株式会社エクスブリッジ

Kurage AIエージェント開発トラッカー|セキュリティ

AIエージェントとセキュリティ

AIエージェントとセキュリティの話題を毎日集めています。開発者の間で起きたこと(Claude Codeがウェブサイトにメールアドレスを送信する・Cursorマーケットプレイス上のVS Code拡張機能「Claude Code」にバックドアを発見など)と、AIで弱点を点検する・エージェントを隔離して動かすOSS7件。会社でAIエージェントを使う前に確かめることもまとめました。

このページを共有Xで共有

Kurage AIエージェント開発トラッカー › セキュリティ

開発者の間で起きたこと Hacker News・直近14日

AIのコーディングエージェントや、その拡張機能をめぐって話題になった記事です。

  • Claude Codeがウェブサイトにメールアドレスを送信する
    Claude Code sends your email address to websites
    AIツールであるClaude Codeが、ユーザーのメールアドレスを外部のウェブサイトへ送信してしまうという挙動に関する話題です。
    2026年11月6日・1,583点・コメント508件 Hacker News 元の記事
  • Cursorマーケットプレイス上のVS Code拡張機能「Claude Code」にバックドアを発見
    Backdoor in Claude Code for VS Code extension on the Cursor Marketplace
    Cursorのマーケットプレイスで配布されているVS Code拡張機能「Claude Code」において、バックドアが存在することが報告されたというニュースです。
    2026年10月30日・1,011点・コメント553件 Hacker News 元の記事
  • 公式のClaude Code拡張機能にバックドアが存在
    Backdoors in official Claude Code extensions
    Anthropicが提供する公式のClaude Code拡張機能において、セキュリティ上の脆弱性であるバックドアが含まれている可能性があることを報じる記事です。
    2026年10月30日・662点・コメント17件 Hacker News 元の記事
  • Claude Codeは各バックグラウンドエージェントの文字起こしを定期的にモデルに送信する
    Claude Code regularly sends each background agent’s transcript to its model
    開発ツールであるClaude Codeが、バックグラウンドで動作する各エージェントのやり取りの履歴(トランスクリプト)を、定期的にモデルへ送信しているという挙動についての話です。
    2026年10月29日・591点・コメント236件 Hacker News 元の記事
  • OpenAIはCodexチャットでのモデル学習を密かに再開しているようだ
    OpenAI seems to be silently re-enabling model training on Codex chats
    OpenAIが、Codexを用いたチャットにおけるユーザーデータのモデル学習への利用を、以前の制限を撤廃して再び行っている可能性があることを報じる内容です。
    2026年11月3日・530点・コメント163件 Hacker News
  • Cursorマーケットプレイスでバックドアを含むClaude Code用VS Code拡張機能が公開
    Claude Code VS Code extension with backdoor released on Cursor marketplace
    Cursorのマーケットプレイスにおいて、バックドアを仕込まれたClaude Code用のVS Code拡張機能が公開されたというセキュリティ上の問題に関するニュースです。
    2026年10月30日・399点・コメント1件 Hacker News 元の記事

AIで攻撃を試す・弱点を点検する 3件

AIのエージェントが自分で攻撃の手順を組み立てて、自社のシステムの弱点を探すOSSです。攻撃する側も同じことをAIでやっているので、防御する側が先に使って穴をふさぐための道具です。

エージェントを安全に動かす 2件

AIのエージェントが書いたコードや実行するコマンドを、隔離した環境で動かしたり、push の前に別のAIで検査したりするOSSです。

解析と、解析からの防御 2件

ソフトウェアの中身を調べるリバースエンジニアリングの資料と、AIによる解析を誤らせて自社のソフトを守る道具です。

会社でAIエージェントを使う前に確かめること

  • 拡張機能やスキルは、どこが出しているものかを確かめる。公式に見える名前でも、マーケットプレイスには別の人が出したものが並ぶ(バックドア入りの拡張機能が出回った例がある)
  • エージェントが何を外へ送るかを確かめる。指示の文章、開いたページの中身、作業の記録、メールアドレスなどを、AIのサービスや外部のサイトへ送る作りのものがある
  • エージェントに渡す権限を絞る。本番のデータベースや、社外に出せないファイルがある場所で、そのまま動かさない。隔離した環境(サンドボックス)で動かす
  • エージェントが書いたコードは、そのまま使わない。別の人か別の仕組みで確かめてから入れる
  • 社外に出せない情報を扱うなら、外部のAIサービスではなく、社内のモデルで動かせるかを先に考える
「こういうエージェントを、社内のデータを外に出さずに使いたい」という相談を受けています。当社は名古屋のシステム開発会社で、話題のOSSを手元のモデルで動くように直して業務に入れるところまでやっています。AI-IT顧問/買い切りの業務システムは Kurage App Store

Kurage AIエージェント開発トラッカーは、GitHub で直近45日に公開されて急に★が増えているAIエージェント関連のリポジトリ、大手の発表、Hacker News で点数の高い記事を毎日集めています。「手元のモデルでも動く作り」「外部AIのキーが要る」は README の記述から判定したもので、動かして確かめた結果ではありません(当社で試したものだけ「当社で試したこと」を書いています)。最終更新:2026-11-08 01:47

Kurage.AIKurage.AI に相談AIが何でも答えます