什么是 ChatGPT 做不到的？

luyuanhong

什么是 ChatGPT 做不到的？

作者：陈德旺 | 发表时间： 2023-1-15 12:56 | 个人分类：ChatGPT | 系统分类：科研笔记

最近，OpenAI 研发的 ChatGPT 可以写出论文摘要，已经达到能通过同行评审的水平，不仅发表了 Nature 论文，也在科研人员的朋友圈和社会各界引发了强烈的轰动。有的人，欢呼雀跃，表示以后再不用劳心费力写论文了。有的人，忧心忡忡，担任科研人员会失业。我认为，ChatGPT 能写合格的论文摘要，这确实是人工智能技术的一个较大的进步，朝着自动写论文前进了一步，但是还远远没有达到自动写论文的水平。

ChatGPT 成功写论文摘要的例子，充分表明论文写作，尤其是摘要写作是有一定模式和套路的，通过大数据、大模型和大算例的训练是可以学到一些规律，从而能写出一篇符合论文套路的论文摘要，达到中等摘要的水平，并能通过同行评审。

对于论文高手来说，只要标题定了，摘要也就定得差不多了；摘要定了，论文的基本框架也就定了，可以说，“标题定摘要，摘要定全文”，或称为胸有成竹。ChatGPT 可以做很好的文献总结工作，也可以写一个较好的摘要。但是，论文写作远远不止如此，还需要数据收集、实验验证、对比分析和未来展望等，这些工作才更考验人类的智慧，尤其是从 0 到 1 的方法创新，从旧的文献中是难以自动生成的。因此， ChatGPT 再厉害，还是需要人类想出一个好的论文标题，这项工作也需要创造力,需要一定的灵感、创意和智慧的。

我也尝试了一下 ChatGPT ，我的输入是：请帮我写一篇文章，标题是：什么是 ChatGPT 做不到的？

以下是他的自动回复：

ChatGPT 是一种具有前瞻性的人工智能技术，它可以做出各种惊人的事情，但也有一些它做不到的地方。首先，ChatGPT 没有人类拥有的自由思考能力，它不能自主地表达思想、批判性地思考或做出有条理的分析。其次，ChatGPT 也没有人类拥有的逻辑能力，它无法推理出正确的结论，也无法形成新颖的观点。此外，ChatGPT 还没有真正的社交能力，它不能与人类进行有意义的交流，也不能建立良好的友谊或人际关系。总之，ChatGPT 是一种强大的技术，但它仍然有许多不足之处，不能完全取代人类思维或替代人类做出有意义的决策。

看来，ChatGPT 对自己的能力，还是有一定的自知之明，没有目空一切。有的好的创新思路，是一些科研人员通过头脑风暴想出来的，诺贝尔奖得主杨振宁和李政道在讨论中逐渐清晰了宇称不守恒的思路，这是 ChatGPT 所无能为力的。诗仙李白爱好饮酒，在与朋友喝酒聊天中灵感迸发，“举杯消愁愁更愁”，下笔成文，一挥而就，“李白斗酒诗百篇”就是描述这个场景，这也是 ChatGPT 爱莫能助的。还有一些文章是在观赏壮丽的自然景观后的感想，比如登上泰山之巅的诗圣杜甫俯瞰周围群山而写出的“会当凌绝顶，一览众山小”，这也是 ChatGPT 无法做到的。

总之，ChatGPT 对科研有一定的促进作用，可以帮助科研人员节省不少的时间。研究人员致力于想出一个新的标题，ChatGPT 能帮忙写出一个较好的摘要。然后，科研人员再根据摘要再完善一下，并布局全文，估计论文写作效率可以提高不少。考虑到，目前天量科研论文导致科研原创能力下降的客观事实，ChatGPT 可以让科研论文写作效率提高，很可能使得论文的数量翻倍，从而论文的原创性还要继续下降，这实在不是一个好消息。