ChatGPT有什么利弊

ChatGPT有什么利弊

　　去年11月，由Open AI 公司研发的ChatGPT人工智能应用工具横空出世，它可以根据用户要求自行生成文本，包括从量子力学、宪法到税收和侵权论文等等，能够回答大家各种各样的提问。

　　这款备受欢迎的应用程序，却因为可以躲避抄袭检测工具， 短短几个月就让教育界陷入了混乱。引发了全球各国学术界的高度关注，更担心引发“人工只能作弊”风潮。

　　控角度

　　角度1、技术进步带领应用革命。目前ChatGPT的落地应用可能更多是搜索引擎和智能营销，即通过整合互联网平台上的信息方便用户的信息检索，如把ChatGPT融入搜索引擎，可推出对话搜索模式。从目前来看ChatGPT还不会很快使一些人丢掉工作，但因为它可以在对话过程中自动生成回复内容，并且具有一定的智能和自我学习能力，会使得它在某些方面可以取代人类的工作，比如客服咨询、智能家居控制等，也可以替代部分脑力工作者的重复性劳动，如在推荐商品、视频或帮程序员解决程序Bug等上面会提升效率，解放一部分行业从业者的工作负担，实现四天甚至三天的工作制是有可能的。但是，正如联合国贸发组织专家所说，与大多数影响工作场所的技术革命一样，聊天机器人有可能带来赢家和输家，并将影响蓝领和白领工人，尤其是技术工种和半熟练工种。发展中国家的政策制定者需要加快步伐，为这些技术做好准备，否则就有可能更加落后。

　　角度2、技术双刃剑的探讨依然继续。有一些人视它为洪水猛兽，从现在的“考试作弊代写神器”到将来涉及的版权、伦理和法律等都会是问题。如何为它制定一套恰当的应用规则，如何让它的结果更可控，将影响到每个产业的发展。总之，ChatGPT的出现是一种机遇和挑战的结合，我们要学会更好地把握它，在发挥它的优势的同时，也应该认真对待它可能带来的问题。此外，ChatGPT作为一种有潜力的生产工具，其母公司OpenAI自2015年成立已经在AIGC领域深耕多年，坚持纯粹的创新精神和长期主义，不仅吸引了许多技术大牛加入，在经费上也进行大量投入，目前训练的模型参数已达到千亿规模，因此其在ChatGPT上取得的成功绝非偶然。同样作为人工智能大国，ChatGPT爆火之后，我们除了在研发上迎头赶上之外，需要学习和反思的地方还有很多。

　　角度3、未来，研究人员选择如何使用这些工具将会决定人类的未来。因为ChatGPT写出的论文质量极高，教育系统甚至已经开始考虑“封杀”这个程序，以防学生利用它作弊;也因为即便是专家也难以区分这些内容是否来自AI，所以Nature在内的多家科学杂志也要求论文中需要明确指出是否使用了ChatGPT。其次，无论是老师看到学生提交的论文，还是码农看到网上的代码，都不敢确定作者是人还是AI。口诛笔伐之下，OpenAI顶不住了，火速发布了一款AI检测器，它是一个经过微调的GPT模型，可以推断一段文本由AI产生的可能性。最后，另一个解决方法是让AI内容带有自己的水印。水印的一个优点是它永远不会产生假阳性。如果有水印，就说明文字是AI生成的。

　　角度4、AI工具的安全性与伦理责任。果不去人为地控制输出，LLM就会很容易被用来产生仇恨言论、垃圾邮件、种族主义、性别歧视和其他可能的有害联想。除了直接产生有害内容外，人们还担心AI聊天机器人会从训练数据中嵌入关于世界的历史偏见或想法，比如特定文化的优越性。OpenAI在决定公开发布ChatGPT时试图避开这些问题。它将自己的知识库限制在2021年，阻止它浏览互联网，并安装了过滤器，试图让该工具拒绝生成敏感或有毒提示的内容。但OpenAI的“拦截”并没有完全成功。一些研究人员表示，学术界应该拒绝支持大型商业LLM。这些计算密集型算法还需要大量的能量来训练，这引起了人们对它们的生态足迹的担忧。而且，如果把思考的任务交给自动化聊天机器人，研究人员可能会失去表达自己想法的能力。