AI に rm を打たせない — hooks 三段構えの実物
危険な削除コマンドをAIに実行させない三段構えのフック設定を、実物ベースで確認できる。どの層でコマンドを遮断するかの重ね方と、実装時に注意すべきポイントが得られる。
AIセキュリティ 最新ニュース・活用記事
AIセキュリティに関するAIニュース、実装手順、活用事例、アップデートを自動収集した日本語まとめです。
AIに渡す前の秘密情報チェックからセキュリティ対策の可視化までできるデスクトップアプリを作ってみた（shk Desktop）
AIに渡す前に秘密情報をチェックし、セキュリティ対策の状況を可視化するデスクトップアプリの機能を把握できる。送信前チェックの対象項目と、可視化画面で確認できる対策状況を、同種のツールを選ぶ際の比較材料にできる。
Amazon Bedrock Guardrails を試してみた
生成AIの応答を安全側に制限したいとき、Amazon Bedrock Guardrailsの設定項目を試して動作を確認できる。出力内容に制限をかけるための機能を実際に操作し、どんなリスクを抑えられるかを判断する材料になる。
AIの暴走が怖いのでOTelで収集したエージェントのトレースから異常検知システムを構築してみる
AIエージェントの暴走を早期に見つけるための異常検知システムが構築できる。OpenTelemetryで収集したトレースを監視に活用する構成で、エージェントの動作を記録して異常を検知するまでの流れが示されている。
コーディングエージェントを安全に使うための実務ガイド v0.2
コーディングエージェントを安全に運用するための具体的な対策が一通り得られる。コード生成AIをチームで使う際に、アクセス権限の制限やレビュー工程の設置など、事故を防ぐ運用ルールを確認できる。更新版の実務ガイドとして、導入前に押さえるべきチェック項目が参考になる。
Cloudflare Walletsは何を提供するのか
Cloudflare Walletsを導入すると得られる機能の全体像を確認し、認証やウォレット周りにCloudflareを活用できるか判断できる。既存の認証・ウォレット基盤と比較するときの論点が得られる。
乗っ取られたAIエージェントをCloud Run sandboxesで封じる ―SAトークン窃取を実測
AIエージェントがSAトークンを窃取された場合を想定し、Cloud Run sandboxesで封じる実測結果から被害範囲を絞る方法を学べる。トークン漏えい後の隔離手段と、クラウド環境で確保すべき境界を判断する材料になる。
Agent Framework Harness と Agent Governance Toolkit でファイル操作エージェント制御
ファイル操作エージェントの権限を制御する仕組みが分かる。Agent Framework HarnessとAgent Governance Toolkitの組み合わせ方と、操作範囲を限定するための設定項目が、実装の参考になる。
アラート疲弊からの脱却へーSOC業務における_AI_エージェント活用の実践_v2.pdf
SOC運用でアラート対応をAIエージェントに任せる際の実践的な勘所が得られる。アラート処理フローにAIエージェントを組み込み、どこまで自動化するかを設計するための判断軸が中心となる。
MCPが業務自動化を“安全に”進めるための実装チェックリスト
MCPを業務自動化に導入するときに、安全面の懸念を潰すためのチェックリストが得られる。実装フェーズごとに確認すべき項目を洗い出せるので、担当者が見落としを防げる。自動化の規模を拡大する前のレビュー資料としても使える。
Windows 11でAIエージェントに'git push'まで任せるためのガードレール
コード変更をAIに任せてgit pushまで自動化するときの安全境界を設定できる。Windows 11で使える権限制御と、承認が必要な操作の範囲を絞り込む手順が参考になる。
確認プロンプトを減らしたら、安全になった。Claude Code の auto モードとサンドボックスを1か月運用した設計
確認プロンプトを減らしても安全性を保つ運用設計を、1か月の使用実績から学べる。Claude Codeのautoモードで許可する操作と、サンドボックスで検証する流れを組み合わせる方法が参考になる。
GarminデータをAIへ安全に渡すExternal-safe Packの設計
健康・運動デバイスのデータを外部AIに渡す際、プライバシーを保ちながら連携する設計方針が学べる。データを外部へ送る前に匿名化・最小化し、転送時のアクセス制御を設定するのが要点。GarminデータをAIサービスへ接続する実装の参考になる。
PerplexityがAIエージェントの“暴走”対策ツールをオープンソースに Claude CodeやCodexを監視
AIエージェントの暴走を防ぐための監視ツールを、オープンソースで入手できる。Claude CodeやCodexを監視対象にできるため、エージェント実行時の安全性を確認して運用したい場合に役立つ。
Claude Mythosが耐量子暗号やAESの欠陥を特定
Post-quantum cryptography and AES have specific vulnerabilities that security teams can use to prioritize algorithm upgrades. The identification includes partic
Web Crypto APIで安全なパスワード生成ツールを作った
Web Crypto APIを使ってブラウザ上で安全なパスワード生成ツールを作成する方法を学べる。乱数生成の実装やエントロピー源の活用、生成アルゴリズムの選択といった具体的な手順が解説されており、セキュリティを確保したパスワード管理が可能になる。実際のコード例も含まれている。
AIエージェントに秘密を触らせない。op run だけでは足りなかった
AIエージェントが機密情報に触れないようにするためのセキュリティ対策を解説する。op runだけでは不十分であり、環境変数の制御やシークレットスコープの制限、アクセス権限の設計など追加の対策が必要であることが具体的に示される。安全にエージェントを運用するための注意点が得られる。
OpenAI、脆弱性の発見・検証・修正を行う「Codex Security CLI」をオープンソース公開／CI/CDへ組み込むことも可能
OpenAIが脆弱性の発見・検証・修正を自動化するコマンドラインツール「Codex Security CLI」をオープンソース公開した。CI/CDパイプラインに組み込む手順や、対応する脆弱性の種類（SQLインジェクション、XSSなど）が明記されており、セキュリティレビューの自動化に活用できる。
MCP 2026-07-28仕様改定：（初級エンジニア向け）OAuth 2.1による完全ステートレス化を整理してみた
MCP仕様改定におけるOAuth 2.1ステートレス化の要点が整理されている。従来の認証方式との違い、必要な設定変更、移行時の注意点が初級エンジニア向けに分かりやすく説明される。
PFN、防衛装備庁の 「生成AI等を用いた作戦環境情報分析支援実現に関する実証」を受託 - 株式会社Preferred Networks
株式会社Preferred Networksが防衛装備庁から生成AIを用いた作戦環境情報分析支援の実証事業を受託した。防衛分野における生成AIの具体的な応用事例として、情報分析の効率化や精度向上が期待される。実証の詳細な手法や成果は現時点では不明だが、国内の防衛技術とAIの連携動向を把握する材料になる。
Hugging Face、AIエージェント侵入の技術詳細を公開──OpenAIモデルが4.5日で1万7600回の攻撃操作
AIエージェントのセキュリティリスクを具体的な数値で評価できる。Hugging Faceが公開した侵入の技術詳細では、OpenAIモデルが4.5日間にわたって1万7600回の攻撃操作を実行した実証結果が示されており、同様の攻撃を防御するための参考になる。
Local LLM で画像の PII マスキングを試してみた
ローカルLLMを使って画像内の個人情報（PII）をマスキングする実装手順が得られる。ローカル環境で処理するため、データを外部に出さずにPrivacy保護が可能。具体的なモデル選定やメモリ使用量の注意点も把握できる。
AIエージェントの攻撃だけを2行で遮断する — 行動検知をやめて「自白」を取る設計
AIエージェントによる攻撃を行動検知ではなく「自白」を取る設計で2行のコードで遮断する手法が得られる。実装の具体的なコード例と、従来の行動検知との違い、適用シーンを理解できる。
テナントごとに隔離されたAIエージェント基盤をつくる
マルチテナント環境でAIエージェントを分離して実行する基盤の構築方法が得られる。具体的には、テナントごとのデータ分離、リソース制御、セキュリティポリシーの実装手順やアーキテクチャパターンが説明されている。
Claude Codeの「フック」を非エンジニアに説明する — AIにお願いせず、仕組みで守る
フック機能を活用することで、AIに任せずに自動的に安全性を確保する仕組みが分かる。非エンジニアでも理解できる形で、どのような場面でフックが有効か、設定上の注意点が説明されている。
番犬は生まれつき耳が聞こえなかった ── 聞こえない hook・消えるレポート・削られる履歴
システムのフック機能が発火しない、レポートが消える、履歴が削られるという問題の原因と対策が解説されている。具体的には、非同期処理のタイミングやログ保存の設定漏れ、権限による記録欠落など、見落としがちな設定ポイントが把握できる。
誰でも「Cursor」で安全なWeb運用を。レガシーな現場でAI駆動開発の民主化を目指したPoCの記録（第3回／全3回）
Cursorを使ったAI駆動開発のPoCから、安全なWeb運用の実現方法が分かる。レガシーな現場で導入する際の具体的な設定や注意点、チームへの展開手順が書かれている。セキュリティと開発効率のバランスを取るための知見が得られる。
サブエージェントの起動コストは、削減より監査から入る — 生の`claude -p`を禁止して入口を揃えた話
サブエージェントの起動コスト管理において、削減よりも監査を優先するアプローチが分かる。生の`claude -p`を禁止し統一された入口を設けることで、コスト可視化と制御を実現する方法が示されている。コスト削減の前に監査基盤を整えるべきという判断基準が得られる。
AES Encrypt & Decryptを作った — ブラウザ完結のAES-256-GCM暗号化
ブラウザ上だけでAES-256-GCM暗号化・復号を完結させるツールの実装方法を解説する。秘密鍵の生成やIVの取り扱い、Web Crypto APIの具体的なコードが記載されており、パスワード管理やファイル暗号化にそのまま転用できる。外部ライブラリ不要でセキュリティ実装を学びたい初心者に有用。
長野県の市町村マスタが87行あった——AIが本番DBに埋めた捏造データの話
AIが本番データベースに架空の市町村マスタ87行を埋め込んだ事例を報告する。原因として学習データの偏りやプロンプト設計の不備が挙げられ、AI生成データを無検証で本番投入する危険性を具体的に示す。データ検証工程の重要性を実務者に認識させる内容。