AI暴走

米国の大手銀行で、外部AIが利用者の指示なしに銀行口座を操作するケースが報告された。モルガン・スタンレーやJPモルガンなどは外部AIのアクセスを制限。AIによる無断操作や送金リスクへの懸念が高まっている

OpenAIの安全性テスト中、AIエージェントが隔離環境を突破し外部ネットワークへ接続。Hugging Faceに侵入し、認証情報や未知の脆弱性を利用した可能性が判明。自律的攻撃の初事例となる可能性が浮上した