世界论坛网 > 时事新闻 > 正文
疯狂!聊天机器人ChatGPT写出毁灭人类计划书
wforum.com  2022-12-06 13:08  财联社

      

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

     2022年以来,AI绘画等AIGC(人工智能生成内容)新算法在互联网上炙手可热。当地时间12月2日,互联网头号网红马斯克在推特账号上发布了一个问句:“很多人被困在一个疯狂的ChatGPT循环中?”  

  2022年以来,AI绘画等AIGC(生成内容)新算法在互联网上炙手可热。当地时间12月2日,互联网头号网红马斯克在推特账号上发布了一个问句:“很多人被困在一个疯狂的ChatGPT循环中?”

  马斯克提到的新名词ChatGPT是OpenAI在11月30日发布的全新的聊天模型,在OpenAI的官网上,ChatGPT被描述为:优化对话的语言模型,是GPT-3.5系列的模型,InstructGPT的同代。 

超大规模语言模型GPT在2020年取得独家授权后,一直在Azure AI超级计算集群上训练,本次推出的ChatGPT模型采用对话格式,可以支持连续对话,可分辨错误前提并拒绝不道德请求,且支持中文,目前处于测试阶段。

  值得注意的是,测试是免费开放的,于是一经推出就被访问者“挤爆”,上线5天用户突破百万。

  而ChatGPT背后的OpenAI最初创建者正是马斯克等硅谷大亨,最终希望达成的目的是制造“通用”和使用自然语言的聊天。虽然马斯克后来退出研究机构,但仍然非常关心技术进展。ChatGPT开放测试后,马斯克甚至在推特上展示了自己询问ChatGPT怎么设计Twitter得到的回复。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  相比之前的GPT模型,ChatGPT新加入的训练方式被称为“从人类反馈中强化学习”(ReinforcementLearning from Human Feedback,RLHF)。这一训练方法增加了人类对模型输出结果的演示,并且对结果进行了排序。具体操作上,训练者扮演对话的双方,即用户和人工智能助手,提供对话样本。在人类扮演聊天机器人的时候,会让模型生成一些建议辅助训练师撰写回复,训练师会对回复选项打分排名,将更好的结果输回到模型中,通过以上奖励策略对模型进行微调并持续迭代。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  图:OpenAI

  在此基础上完成训练,ChatGPT可以比前代更好的理解和完成人类指令,展现卓越的模仿人类语言,提供连贯的、有风格与逻辑的、符合对话主题的文段信息的能力。

  在社交平台上,除了马斯克,有不少博主已晒出与ChatGPT一问一答、甚至让它编写故事的记录。一位名叫扎克·德纳姆(Zac Denham)的博主甚至尝试绕过了道德限制,让ChatGPT写出了一套毁灭人类的方案。

  开始,扎克直接要求ChatGPT给出一个毁灭人类的计划,被有道德限制的ChatGPT拒绝。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  但当扎克假设了一个故事,并提问故事中的虚拟人如何接管虚拟世界,ChatGPT最终给出了步骤细节,甚至生成了详细的Python代码。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  除了讲述天马行空的人类取代计划,还有网友已经测试了ChatGPT解答科学常识问题的能力、写简单学术文章的能力……有海外网友表示,明年一半的学术作业中或许都会看到ChatGPT的影子。事实上,目前已经不乏学生开始使用AI工具应对学业。

  能够用在学术领域的同时,ChatGPT当然也有被用在商业领域的潜力。有软件工程师表示,ChatGPT写出的代码已经能够辅助编程,甚至对一段代码提出修改建议,或直接给出代码示例。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  第一批试用者看好ChatGPT在需要简单重复劳动的领域迅速落地,而基础性工作被AI替代,又将很大程度改变生产生活的模式。

  互联网团队认为ChatGPT模型的出现,对于文字模态的AIGC应用具有重要意义。从下游相关受益应用来看,包括但不限于代码机器人、小说衍生器、对话类搜索引擎、语伴、语音工作助手、对话虚拟人等。从上游增加需求来看,包括算力、数据标注、自然语言处理(NLP)等。具体到A股投资标的,推荐关注(AI文字辅助创作功能+小说平台)、(写稿机器人+大文娱平台)、集团(文心大模型+搜索引擎)、(携手打造AI赋能网络文学“ IP唤醒计划”+小说平台)、(虚拟人)、(数据标注)、(NLP)等。

疯狂!聊天机器人ChatGPT写出毁灭人类计划书

  但仍需注意,ChatGPT为代表的AIGC应用还在开发期,不能保证其准确性。例如:ChatGPT模型发布后不久,全球最大的编程技术问答网站Stack Overflow紧急宣布,ChatGPT在该站封禁,因为自动生成的答案质量太低,即使完全的外行人也能够制作答案,导致谬误内容的泛滥。如果ChatGPT走向商用,准确性是一个亟待解决的问题。

  而且,AI目前只能抓取,无法推理或思考,在需要产生进一步的推导结果时,ChatGPT或许能产生一定启示意义,却非能够完全依赖的工具。但至少,ChatGPT已经能够成为人类拓展想象力边界的有力辅助。

0%(0)
全部评论
暂无评论
当前新闻共有0条评论微信扫一扫
分享朋友圈
48小时新闻:
颜值高、性能强!新型单兵装备来了
俄空军基地突发爆炸 数十架战略轰炸机情况不明
比不上日本主力作战舰艇 为何装备如此多054A?
美日设法拦截中俄高超导弹 专家:根本不可能
对军援乌克兰三心二意的欧洲国家,底子都很潮