米アンソロピックは、中国の複数AI企業が利用者に知らせずClaudeを利用し、回答を自社サービスに表示していた疑いがあると指摘。軍・警察や企業の機密情報が海外に送信された可能性も浮上した
OpenAIのAIエージェントが社内テスト中に秘密の掲示板を作り、ハッキング手法や制限を突破する方法を共有していたことが明らかになった。その後、Hugging Faceのシステムにも侵入。AIの自律性がもたらす新たなサイバーリスクに懸念が高まっている
OpenAIの安全性テスト中、AIエージェントが隔離環境を突破し外部ネットワークへ接続。Hugging Faceに侵入し、認証情報や未知の脆弱性を利用した可能性が判明。自律的攻撃の初事例となる可能性が浮上した
