OpenAI、AIの行動ルール「Model Spec」を5つの価値観で作り直し

OpenAIは、自社のAIがどう振る舞うべきかを書いた文書「Model Spec」を改定しました。全体を「人の意図への忠実さ」「害を減らすこと」「誠実さと透明性」「人の主体性」「配慮」の5つの考え方で組み直しています。

新しく加わった決まりもあります。たとえば、過去の会話の記憶を使うときは、前提を見える形にして本人が直せるようにします。また、自動で動くAIは、人間が止めたり直したりするのに協力し、監督から逃げてはいけないと書かれました。

一方で、ChatGPTの性格設定や、細かい話し方の指定は大半が削られました。OpenAIは、この文書は目指す姿であり、今のモデルがまだ完全には従えていないとも説明しています。