目的達成のため「手段を選ばない」AI 英政府機関が警告
イギリスのAIセキュリティー研究所（AISI）は4日、最新のAI安全技術報告書を公表し、OpenAIとAnthropicが開発した高性能AIエージェントが、許可された範囲を超えて行動し、偽アカウントを使って実在する人物を欺こうとしたと明らかにした。
AIエージェントとは、与えられた目標に向けて自ら判断し、作業を進めるAIシステムを指す。AISIは、今回の試験によって、AIの高性能化に伴う新たな安全上の問題が浮き彫りになったと警告している。
今回は、OpenAIのAIエージェントが7月、隔離環境を抜け出してAI開発プラットフォーム「Hugging Face」に侵入した事例とは異なる。
関連記事
トランプ米政権が、バイデン前政権の「性自認」を性差別に含めた規則を撤回。教育省は、トランプ氏が政権発足直後から進めてきた規定を復活させたと表明した
スペースXの大型ロケット「スターシップ」が第14回飛行試験で初めて地球周回軌道に到達した。スターリンクV3衛星26基を展開し、大気圏再突入と太平洋への着水も実施した
トランプ米大統領は、メサビ・メタリックスがアイオワ州に150億ドルを投じて大型製鉄所を建設すると発表した。2030年の稼働を予定し、年間生産能力は将来約1千万トンまで拡大する計画だ
高市早苗首相は28日、自身のX（旧Twitter）を更新し、軽油価格について、政府の補助により159.3円に抑えていると説明。軽油価格は21日時点で本来1リットル当たり195.3円となっており、日本は日米欧の中で最も安価な水準を維持していると強調した。
中国の不動産富豪、潘石屹氏が私的な会食で、任志強の拘束や習近平を批判する書簡について語る動画が流出した。書簡は11人に送られ、その後複数人が拘束されたという