【Black Hat Asia 2025】SQL-Data-Guard ― LLM とデータベースの安全な橋渡し
LLM セキュリティ データベース イベントレポート
目次
こんにちは、Farid です。常に変化し続けるサイバーセキュリティとソフトウェアエンジニアリングの世界で、次の技術を学ぶ姿勢を大切にしています。
その一環として、2025年4月1日から4日にシンガポールで開催された Black Hat Asia 2025 に参加してきました。最先端の研究発表、実践的なツール、現場のセキュリティの知見が集まる、とても刺激的なイベントでした。私は、生成 AI 時代のデータベースのセキュリティ、CI/CD パイプラインの強化、API への脅威といったテーマのセッションを中心に回りました。何回かに分けて、特に印象に残ったものを紹介します。

SQL-Data-Guard: Safety Layer for LLM Database Interactions
LLM(大規模言語モデル)の登場で、アプリケーションの使われ方は大きく変わりました。その一方で、特にデータベースとつながるシステムでは、新しいセキュリティのリスクも生まれています。このセッションでは、LLM が生成する SQL クエリを安全にするための層「SQL-Data-Guard」が紹介されました。登壇したのは Ori Nakar 氏と Sarit Yerushalmi 氏で、ツールは Thales が GitHub で MIT ライセンスのもと公開しています。
課題になるのは、LLM が自然な文章を SQL クエリに変換する部分です。対策がなければ、SQL インジェクション、データの漏えい、本来見せるべきでないデータまで読み出すクエリといったリスクに直結します。
SQL-Data-Guard の仕組み
SQL-Data-Guard は、クエリと「どのテーブル・列・行まで読んでよいか」という制限の設定を受け取り、次の処理を行います。
検証:クエリが制限に沿っているかを、実行前に確かめます。常に真になる条件(たとえば 1=1)のような不審なパターンも見つけます。
書き換え:制限に反するクエリは、許されていない列を取り除いたり、行を絞り込む条件を付け加えたりして、安全な形に直します。
結果の返却:実行してよいかどうか、見つかった問題、直したクエリを返します。この結果を LLM に返して、クエリを作り直させるといった使い方もできます。
Python のライブラリとして組み込めるほか、Docker のコンテナで API として動かすこともできます。
デモの所感
特に印象的だったのは、ライブデモで、LLM が生成したクエリによってデータベースの構造(スキーマ)の情報が漏れてしまう様子が実演された場面です。チャットボットをデータベースに直接つなぐ構成では、現実に起こりう る問題です。SQL-Data-Guard は、こうしたクエリを実行前に見つけて止めることで、LLM とデータベースのやり取りを見える化し、制御できるようにしていました。
このセッションで、プロンプトの設計からデータベースへの接続まで、開発の早い段階からセキュリティを組み込む「シフトレフト」の考え方の大切さを改めて感じました。LLM とデータベースの連携を検討している方は、GitHub の SQL-Data-Guard をぜひご覧ください。
LLM に対するプロンプトインジェクションについては、非自然言語のプロンプトインジェクションに関する共同研究の解説もあわせてご覧ください。
参考資料
新しい記事 公表された事例から学ぶ、企業が備えたい5つのサイバー攻撃
前の記事 【Black Hat Asia 2025】FireTail ― OpenAPI の仕様にもとづいて API を守る
Contact
お問い合わせ
サービスのご相談、協業のご提案、取材のご依頼など、お気軽にご連絡ください。
Recruit
採用情報
セキュリティで社会の発展を支える仲間を募集しています。まずはカジュアル面談から。
