AIが10年以内に人類を滅ぼす確率は10％超　Anthropic研究者が警告

AIの安全性をめぐる議論が一段と高まっている。AI企業Anthropicの研究者が、AIが今後10年以内に人類を滅ぼす確率について、個人的には10％を超えると考えていると明らかにした。OpenAIとAnthropicで研究に携わった元研究者も、両社の開発姿勢を厳しく批判している。

退職した元研究者がAI業界の開発競争を問題視するなか、「超知能」がもたらす存亡リスクや、AIを人間の価値観に沿わせる「アラインメント（AI Alignment）」の課題に注目が集まっている。

Anthropicのアラインメント科学責任者、エヴァン・ハビンガー氏は8日、AIが今後10年以内に「人類全体を滅ぼす」確率について、個人的には10％を超えると考えていると述べた。

アップル初の折りたたみスマホiPhone 「Duo」で、発売直後から画面破損の報告が相次いだ。アップルは10月26日、ごく少数の端末で不具合が発生していると認め、交換対応を案内

米国防総省がUFO関連の機密解除文書第7弾を公開。1947年のロズウェル事件で卵形の飛行物体や遺体を見たという元米軍関係者の証言に加え、スキンウォーカー牧場での謎の生物の目撃報告も含まれていた

米巨大ITによるAI投資の急拡大と現実的リスク、そして中国共産党が「発展途上国の支援」を偽り進めるデジタル支配の罠を検証。自由と安全保障を守るための賢明な判断と技術選択を提言する

聖書の「バベルの塔」の物語を手がかりに、AI開発競争を考察。技術や資本の集中、共通基盤への依存、競争から取り残されることへの懸念など、現代のAI開発と物語に共通する構図を探る

高度なAIモデルが、人間には完全には理解できない言語をすでに使っている可能性がある。米AI研究機関「Apollo Research」のホブハーンCEOが9月30日、米上院国土安全保障・政府問題委員会の会合で証言した