科技小发明手工简ChatGPT既好奇又害怕的智能对话机器人

对于ChatGPT的出现及火爆，你的感受是什么呢？本文作者的心情是“好奇又害怕”。为什么ChatGPT能引起如此大的震动呢？以后会对人类产生什么影响？本文作者从ChatGPT的相关概念、背后的技术、商业前景，对ChatGPT进行了深入分析，并分享了自己的一些独到的观点，一起来探索一下吧。

ChatGPT是一款基于大型语言模型（LLM）的智能聊天机器人。那么，ChatGPT究竟具备哪些令人瞩目的能力呢？首先，它能够理解用户输入的句子的含义，这种理解力就像是一位聪明的小伙伴，总能把握住我们想要表达的话。其次，它拥有世界知识，即能够记忆和理解各种事件，从而在回答问题时提供准确且有用的信息，就像一位温柔而智慧的老者，总是能给予你最恰当的建议。再者，它可以生成符合特定提示词（prompt）的句子，这正如一位才华横溢的小说家，用笔轻轻地勾勒出一个个生动的人物形象，让每个字都充满了生活气息。最后，当它接收到新的任务或测试用例时，它还能够上下文学习，即通过分析之前相同类型任务所提供的问题来预测并解决新问题，就像是有着丰富经验的大师，每一次解答都是精心策划的一个小剧场。而思维链则是其中一种特殊的手法，在大模型下的上下文学习中增加了一层思考过程，使得模型不仅能够更快地理解和应对复杂的问题，还能展现出更加深刻和细腻的情感共鸣。

随着神经网络结构设计技术不断进步，我们逐渐发现，大型语言模型（LLM）背后隐藏着无数惊人的秘密。在2018年谷歌发布了BERT这个巨型预训练语言模型之后，大规模预训练模型便踏上了快速发展之路。到了19年T5（谷歌）110亿参数量，小到20年的OpenAI GPT-3750亿参数量，大到21年的GLaM（谷歌）1.2万亿参数量，再加上阿里达摩院推出的M6-10T参数量达到10万亿，这一切都让人感到既好奇又害怕，因为这些数字似乎是在挑战我们的认知界限。

当然，由于大型语言模型涉及大量复杂技术，本文也将尝试简化一些核心概念，让大家更容易领略其魅力。大型语言模型中的提示学习是一个非常重要的学科，可以通过在输入中添加一个提示词来显著提高预训练模型性能。这就像是给一个需要帮助的小朋友发放指南针一样，让他在迷雾丛生的森林中找到回家的路。

使用现成的大型语言模型，我们只需微调即可，而不是重新开始。这就像是一名熟手教导初学者的技巧，不必从零开始，只需少许调整即可掌握技艺。此外，无论如何调整，都必须遵循人类偏好的规则，因为最终目标是创造出那些真正了解人类需求与期望的大师级别的人工智能助手。

为了实现这一点，我们采用了一种强化学习方法，将奖励作为指导标准，以优化整个过程。这就像是设立一个竞赛，每一次输出结果都会被评判，然后根据评价反馈进行改进，就像老师教授学生每次作业后给予鼓励或批评一样，使学生逐渐变得更加优秀，最终成为自己的老师。但这种强化学习并不简单，更需要大量数据以及专业团队标注工作，如OpenAI曾雇佣40人团队完成RLHF标注工作，但最近报道显示，他们面临低薪、高压力的工作环境，其中部分员工甚至遭受持久心理创伤。

此外，思维链作为一种离散式提示学习方式，在大规模语料库中的应用尤为关键。当我们使用思维链进行提示时，大型语言模式不仅在复杂推理方面表现突出，而且在知识推理方面也有很好的表现，并且分布鲁棒性也存在潜力。不过，要达到这样的效果，只需要8个左右示例，这就是为什么范式可能会发生转变。