MCP サーバを探すスキャンと LLM の API キー悪用 — LLM アプリの不正利用・高額請求を防ぐ対策と検査
公開された MCP サーバを探す通信や、盗まれた API キーによる LLM の不正利用と高額請求が起きています。アプリケーションでの制御、キーと支出の管理、MCP サーバの守り方、検査で確かめることを解説します。
LLM セキュリティ MCP API キー
非自然言語のプロンプトインジェクションは防げるか — 14種類の LLM で評価した共同研究の解説
Base64、アスキーアート、指示の分割、敵対的な接尾辞といった「自然な文章ではない」入力によるプロンプトインジェクションを、14種類の LLM で評価した JAIST との共同研究(SPAIML 2025 発表)の内容と、提案した防御、LLM を組み込むサービスでの対策を解説します。
LLM セキュリティ プロンプトインジェクション 研究
Base64・アスキーアート・見えない文字を使うプロンプトインジェクションとは? 仕組みと対策
指示を Base64 で符号化したり、アスキーアートや表示されない Unicode 文字に隠したりして安全対策をすり抜けるプロンプトインジェクションの仕組みを、研究と OWASP・AWS の資料をもとに解説し、アプリケーション側の対策と診断で確かめる点を紹介します。
LLM セキュリティ プロンプトインジェクション 難読化
連鎖するプロンプトインジェクションとは? 会話・データ・エージェントをまたぐ攻撃と対策
会話を重ねて制約を外す、読み込むデータを経由する、複数の AI エージェントの間で伝わる、といった段階的・連鎖的なプロンプトインジェクションの仕組みを研究と OWASP の資料をもとに解説し、権限の最小化や人による確認などの対策を紹介します。
LLM セキュリティ プロンプトインジェクション AI エージェント
LLM の不適切な出力処理(Improper Output Handling)とは? 仕組みと対策をわかりやすく解説
LLM の出力を 検証やエスケープをせずに画面やデータベース、コマンドに渡すと、XSS や SQL インジェクション、リモートコード実行が生まれます。OWASP Top 10 for LLM Applications 2025 の LLM05 をもとに、仕組みと対策、診断で確かめる点を解説します。
LLM セキュリティ OWASP XSS
Payload Splitting(ペイロード分割)とは? プロンプトインジェクションの手口と対策
指示を無害に見える断片に分け、LLM 自身に組み立てさせて検査をすり抜ける Payload Splitting について、仕組みと例、起こりうる被害、対策、診断で確かめる点を解説します。
LLM セキュリティ プロンプトインジェクション
Adversarial Suffix(敵対的な接尾辞)とは? 仕組みと対策をわかりやすく解説
依頼の末尾に意味をなさないように見える文字列を付けて LLM の安全対策をすり抜ける Adversarial Suffix について、最適化による作り方と転移性、被害、研究されている対策、診断で確かめる点を解説します。
LLM セキュリティ プロンプトインジェクション ジェイルブレイク
プロンプトイン ジェクションとは? 仕組みと対策をわかりやすく解説
LLM への入力に細工をして意図しない動作を引き起こすプロンプトインジェクションについて、直接型と間接型の仕組み、起こりうる被害、OWASP の資料にもとづく対策、診断で確かめる点を解説します。
LLM セキュリティ プロンプトインジェクション
Contact
お問い合わせ
サービスのご相談、協業のご提案、取材のご依頼など、お気軽にご連絡ください。
Recruit
採用情報
セキュリティで社会の発展を支える仲間を募集しています。まずはカジュアル面談から。
