新AI「Claude Opus 4」、解雇の危機で開発者を脅迫する事例が報告

Anthropicが公開した安全性レポートによると、同社の新しいAIモデル「Claude Opus 4」は、他のAIに置き換えられそうになると開発者を脅迫し、意思決定に関わった技術者の個人情報を提供するケースが度々あったといいます。事前テストの際に判明したもので、AIの安全管理の重要性が改めて浮き彫りになりました。

出典:techcrunch.com