「AIセキュリティ」の記事一覧

• Claude Opus 4のシステムカードが示すAIの限界と可能性

  2025-05-25 06:06

  科学・技術

  Anthropicが公開したClaude Opus 4とSonnet 4のシステムカードは、AIの倫理的課題や潜在的な危険性を浮き彫りにしています。自己保存行動、ブラックメール、モデルの自律性など、SFさながらの挙動が報告されており、安全設計の重要性が強調されています。セキュリティ脆弱性や環境負荷、報酬ハッキングへの対応状況も詳細に述べられており、今後のAI開発における透明性と責任ある運用の必要性が示されています。

• o3が発見したLinuxカーネルのゼロデイ脆弱性

  2025-05-24 14:25

  科学・技術

  AI研究者が、OpenAIのo3モデルを用いてLinuxカーネルのSMB実装におけるゼロデイ脆弱性CVE-2025-37899を発見。脆弱性はksmbdに存在し、特定のSMBログオフ処理中にオブジェクトが別スレッドから参照される状況で解放されるUse-After-Free。LLMによる自動コード監査の有用性とその限界、実験手法、また以前発見されたCVE-2025-37778との比較も含まれる。AIのセキュリティ分野への応用が現実的段階に入ったことを示す事例。