ChatGPT的工作方式、现状、正在解决问题和未来计划

  OpenAI刚刚发布文章，介绍ChatGPT的工作方式、现状、正在解决的问题，以及未来计划网页链接。文中还提供了OpenAI目前给标注人员的标注规范文件：
（0）总方向：让ChatGPT与人类价值观相一致；
（1）工作方式：大规模数据上Pre-trainingLM，然后在人工标注数据上fine-tuning；
（2）现状：人工标注要求在有争议问题上不站队；
（3）workingon：目前正在研究如何使微调过程更易理解和可控；
（4）未来计划：继续提升开箱即用能力，比如优化现在的"捏造答案"问题；AI对每个人的价值可能不同，正在开发允许每个人比较容易地定义自己的机器人行为的能力。会引入更多第三方来一起探索ChatGPT对各种观点该如何界定，避免权利集中在OpenAI，提升可信度和透明度。

参考文献：
[1]How should AI systems behave, and who should decide?：https://openai.com/blog/how-should-ai-systems-behave/