top of page

トップ / コラム / 【Black Hat Asia 2025】LLM でプルリクエストの悪意あるコードを見つける — SadGuard

Column

コラム

イベントレポート公開日 2025.04.14 更新日 2026.10.06

【Black Hat Asia 2025】LLM でプルリクエストの悪意あるコードを見つける — SadGuard

サプライチェーン攻撃 DevSecOps イベントレポート

目次

  1. SadGuard とは

  2. 主な機能

  3. 事例:xz utils のバックドア(CVE-2024-3094)

  4. 所感

こんにちは、Imad です。Black Hat Asia 2025(2025年4月1日〜4日、シンガポール)の参加レポートとして、LLM(大規模言語モデル)を使ってプルリクエストに紛れ込む悪意のあるコードを見つけるツール「SadGuard」を紹介します。

SadGuard とは

SadGuard は、Black Hat Asia 2025 の Arsenal(オープンソースツールのデモの場)で、開発チームが紹介したオープンソースのツールです。ソフトウェアのサプライチェーン攻撃への対策として、GitHub のプルリクエストに含まれる変更を解析し、悪意のあるコードが取り込まれる前に見つけることを目指しています。GitHub で GPL-3.0 ライセンスのもと公開されています。

開発のきっかけとして挙げられているのが、オープンソースへの貢献に対する信頼を悪用した xz utils の事件です(後述)。

主な機能

  • LLM によるコード差分の解析:プルリクエストの変更内容を LLM で解析し、脆弱性や不審なパターンの兆候があれば、レビュー担当者向けのコメントとしてプルリクエストに書き込みます。

  • 隔離環境での実行時の挙動の監視:変更に含まれる実行ファイルを隔離した環境で動かし、どのようなプロセスを起動するかなどの挙動を監視します。

  • バイナリファイルのエントロピー解析:ファイルのエントロピー(データのばらつき具合)を調べ、難読化されたデータや埋め込まれた秘密情報の可能性があるバイナリを見つけます。

GitHub App として動作し、Webhook でプルリクエストの作成を受け取ります。Docker Compose で自社の環境に立てるセルフホスト型ですが、公開時点の実装では LLM の解析に Google AI Studio の API を使っています。そのため、コードの差分は外部の LLM サービスに送られる点に注意が必要です。今後の予定として、ほかの LLM への対応や、脅威の深刻度に応じたスコアリングが挙げられています。

事例:xz utils のバックドア(CVE-2024-3094)

セッションでは、ツールが想定する脅威の例として xz utils の事件が取り上げられました。

xz utils は、多くの Linux ディストリビューションで使われているデータ圧縮のソフトウェアです。この事件では、数年にわたってプロジェクトに貢献を重ね、共同メンテナーの立場を得た人物が、バックドアを仕込んだバージョン 5.6.0 と 5.6.1 を公開しました。悪意のあるコードはソースコードのリポジトリからは見えにくい形で、テスト用のバイナリファイルと配布用のアーカイブ(tarball)のビルドスクリプトに隠されていました。ビルドの過程でライブラリに組み込まれ、特定の条件で SSH の認証を回避して遠隔からコードを実行できるようにするものでした。

2024年3月、Microsoft のエンジニアである Andres Freund 氏が、Debian のテスト版で SSH ログインの CPU 使用率が異常に高いことに気づいて調べたことで発覚しました。主要な Linux ディストリビューションの安定版に入る前に見つかったため、広範な被害は避けられましたが、オープンソースへの信頼を長期間かけて悪用する手口として大きな衝撃を与えました。

テスト用のバイナリファイルに難読化したデータを隠すという手口は、SadGuard のエントロピー解析が狙う対象の一つです。セッションでは、こうしたツールがあれば同種の攻撃を早い段階で見つけられる可能性があると示されました。

所感

プルリクエストのレビューは人の目に頼る部分が大きく、変更が大きいほど、あるいは信頼している貢献者からの変更ほど、細部まで確かめるのは難しくなります。LLM による差分の解析、実行時の挙動の監視、バイナリの解析を組み合わせてレビューを補助するという考え方は、サプライチェーン攻撃への備えとして参考になります。

一方で、LLM の判定には誤検知や見逃しがありえます。最終的な判断はレビュー担当者が行う前提で、補助の仕組みとして取り入れるのが現実的だと感じました。社外の LLM にコードを送ることになる場合は、その可否も含めて検討が必要です。

GitHub Actions のワークフローを狙うサプライチェーン攻撃については、falco-actions のレポートでも紹介しています。

参考資料

新しい記事 【Black Hat Asia 2025】LLM セキュリティ評価ツール「FuzzyAI」の可能性と限界

前の記事 【Black Hat Asia 2025】kntrl ― eBPF で CI/CD のランナーをリアルタイムに守る

コラム一覧へ戻る

Contact

お問い合わせ

サービスのご相談、協業のご提案、取材のご依頼など、お気軽にご連絡ください。

Recruit

採用情報

セキュリティで社会の発展を支える仲間を募集しています。まずはカジュアル面談から。

bottom of page