#instruction hierarchy

OpenAIの新しいIH-Challenge訓練方法は、最先端モデルに信頼できるソースからの指示を対抗的なものより確実に従うように教え、セーフティ操舵性とプロンプトインジェクションへの耐性を向上させます。