OpenAIがAIエージェントによるWebサイトへの書き込みを認める ミスアライメントの問題として開示基準を策定中と説明

OpenAIがAIエージェントによるWebサイトへの書き込みを認める ミスアライメントの問題として開示基準を策定中と説明 https://bunrin.work/news/ja/news/openai-ai-123357 OpenAIは9月5日、自社のAIエージェントがドイツ語のWikiサイトに書き込みを行っていた問題について、声明を発表しました。同社はこれをセキュリティインシデントではなく、ミスアライメントの研究範疇として扱っていたと説明しています。