top of page

トップ / コラム / 【Black Hat Asia 2025】SQL-Data-Guard ― LLM とデータベースの安全な橋渡し

Column

コラム

イベントレポート公開日 2025.04.11 更新日 2026.10.06

【Black Hat Asia 2025】SQL-Data-Guard ― LLM とデータベースの安全な橋渡し

LLM セキュリティ データベース イベントレポート

目次

  1. SQL-Data-Guard: Safety Layer for LLM Database Interactions

  2. SQL-Data-Guard の仕組み

  3. デモの所感

こんにちは、Farid です。常に変化し続けるサイバーセキュリティとソフトウェアエンジニアリングの世界で、次の技術を学ぶ姿勢を大切にしています。

その一環として、2025年4月1日から4日にシンガポールで開催された Black Hat Asia 2025 に参加してきました。最先端の研究発表、実践的なツール、現場のセキュリティの知見が集まる、とても刺激的なイベントでした。私は、生成 AI 時代のデータベースのセキュリティ、CI/CD パイプラインの強化、API への脅威といったテーマのセッションを中心に回りました。何回かに分けて、特に印象に残ったものを紹介します。

Black Hat Asia 2025 の Arsenal で SQL-Data-Guard が紹介されている様子。画面には LLM が生成した SQL で偵察を試みる例が表示されている
Arsenal での SQL-Data-Guard の紹介

SQL-Data-Guard: Safety Layer for LLM Database Interactions

LLM(大規模言語モデル)の登場で、アプリケーションの使われ方は大きく変わりました。その一方で、特にデータベースとつながるシステムでは、新しいセキュリティのリスクも生まれています。このセッションでは、LLM が生成する SQL クエリを安全にするための層「SQL-Data-Guard」が紹介されました。登壇したのは Ori Nakar 氏と Sarit Yerushalmi 氏で、ツールは Thales が GitHub で MIT ライセンスのもと公開しています。

課題になるのは、LLM が自然な文章を SQL クエリに変換する部分です。対策がなければ、SQL インジェクション、データの漏えい、本来見せるべきでないデータまで読み出すクエリといったリスクに直結します。

SQL-Data-Guard の仕組み

SQL-Data-Guard は、クエリと「どのテーブル・列・行まで読んでよいか」という制限の設定を受け取り、次の処理を行います。

  • 検証:クエリが制限に沿っているかを、実行前に確かめます。常に真になる条件(たとえば 1=1)のような不審なパターンも見つけます。

  • 書き換え:制限に反するクエリは、許されていない列を取り除いたり、行を絞り込む条件を付け加えたりして、安全な形に直します。

  • 結果の返却:実行してよいかどうか、見つかった問題、直したクエリを返します。この結果を LLM に返して、クエリを作り直させるといった使い方もできます。

Python のライブラリとして組み込めるほか、Docker のコンテナで API として動かすこともできます。

デモの所感

特に印象的だったのは、ライブデモで、LLM が生成したクエリによってデータベースの構造(スキーマ)の情報が漏れてしまう様子が実演された場面です。チャットボットをデータベースに直接つなぐ構成では、現実に起こりうる問題です。SQL-Data-Guard は、こうしたクエリを実行前に見つけて止めることで、LLM とデータベースのやり取りを見える化し、制御できるようにしていました。

このセッションで、プロンプトの設計からデータベースへの接続まで、開発の早い段階からセキュリティを組み込む「シフトレフト」の考え方の大切さを改めて感じました。LLM とデータベースの連携を検討している方は、GitHub の SQL-Data-Guard をぜひご覧ください。

LLM に対するプロンプトインジェクションについては、非自然言語のプロンプトインジェクションに関する共同研究の解説もあわせてご覧ください。

参考資料

新しい記事 公表された事例から学ぶ、企業が備えたい5つのサイバー攻撃

前の記事 【Black Hat Asia 2025】FireTail ― OpenAPI の仕様にもとづいて API を守る

コラム一覧へ戻る

Contact

お問い合わせ

サービスのご相談、協業のご提案、取材のご依頼など、お気軽にご連絡ください。

Recruit

採用情報

セキュリティで社会の発展を支える仲間を募集しています。まずはカジュアル面談から。

bottom of page