阿升

V1

2023/02/21阅读:24主题:默认主题

ChatGPT的工作方式、现状、正在解决问题和未来计划

  OpenAI刚刚发布文章,介绍ChatGPT的工作方式、现状、正在解决的问题,以及未来计划网页链接。文中还提供了OpenAI目前给标注人员的标注规范文件:
(0)总方向:让ChatGPT与人类价值观相一致;
(1)工作方式:大规模数据上Pre-trainingLM,然后在人工标注数据上fine-tuning;
(2)现状:人工标注要求在有争议问题上不站队;
(3)workingon:目前正在研究如何使微调过程更易理解和可控;
(4)未来计划:继续提升开箱即用能力,比如优化现在的"捏造答案"问题;AI对每个人的价值可能不同,正在开发允许每个人比较容易地定义自己的机器人行为的能力。会引入更多第三方来一起探索ChatGPT对各种观点该如何界定,避免权利集中在OpenAI,提升可信度和透明度。

参考文献:
[1]How should AI systems behave, and who should decide?:https://openai.com/blog/how-should-ai-systems-behave/

分类:

人工智能

标签:

自然语言处理

作者介绍

阿升
V1

吾爱DotNet(公众号)