我们该如何看待ChatGPT及其背后的LLMs？驳论坛中的无知浅见。

为什么要另开一个帖子而不是跟楼回复？原因是这篇帖子会比较长，要不然无法对原有帖子进行充分反驳。其次，我希望能让对这个话题有兴趣的人在一楼就看到最重要的信息，而不是需要经过漫长的垃圾信息污染才能看到有价值的信息。本文主要是希望能抛砖引玉，我对LLMs也还处于初期探索阶段，希望能集思广益。闲话止于此，下面开始正文。

---

因为ChatGPT是基于GPT一个特殊应用，因此本文我会更多的使用GPT而不是特指ChatGPT。

我浏览了原帖“****我对chatgpt的疑惑，咋感觉又是个坑呢？”（****https://www.jisilu.cn/question/id-475550__sort_key-__sort-DESC__uid-__page-2X7X），原帖的子帖，粗略过了一遍所有的回复。大致总结一下，其中95%的参与者属于以下几种情况：

1. 完全不了解LLMs，不了解学术界最近几年在AI上的发展，并且在没有具体使用的情况下就大加评论的键盘党。这类人将以GPT为代表的新一代LLMs臆想为一个Google 1.1，认为ChatGPT仅仅是大数据库+高效搜索，对此我只能说你们的知识库仍然还停留在大清时代，虽然我知道很难改变一个成年人，但如果可能还是请你们更新下知识库吧，少看点营销号。
2. 第二种是在没接触前基于科幻小说中对超级AI的幻想，认为ChatGPT是一个万能机器，可以迅速、完美的解决提问者提出的任何问题。他们比第一种人强的是以某种方式确实实际试用了GPT，但在接触后全能神的这种想法迅速幻灭，基于此认为GPT是一个泡沫。我们应该如何正确的看待最近的ChatGPT以及其背后支撑的LLMs（Large Language Models）？首先，我们必须要明确，ChatGPT和LLMs不是科幻小说中的上帝机器，不是所谓的全知全能神，因此，你不应该抱着上香祈愿的心态去对它提问，期望在不提供任何资料、前提的条件下，以Zero-Shot的方式指望它完美回答、解决你的问题。例如，在”用通达信预测涨停股票第二天的涨跌概率的回测”这样一个问题，我们把预测第二天涨跌概率这个部分抽出来，你给诺奖得主也得挠挠头，看看三天内能把入门部分给你讲清楚不。你用什么模型预测概率？贝叶斯？ML？通达信的使用说明是公开的吗？公开的话2021年9月以后有改变吗？实际上，在这个问题上ChatGPT能把程序给出来我就已经很吃惊了。举例来说，这样的提问方式就和我向论坛所有人提问“给出用TradeView预测涨10%股票第二天涨跌概率的回测程序“，任何一个看贴者能否在15分钟内给出一个只需要少许Debug就可以运行的Pine代码？GPT不论是3.5，还是4.0，甚至是以后的5.0，都不是神，它们都只是一种工具，一种非常强大的生产工具，但这种生产工具的强大是需要通过熟练掌握它的劳动者才能实现。
   
   进一步说，第二种人的问题是对GPT的各方面细节并不了解，浅尝辄止之后认为它的能力仅止于此。例如：
   
   
   1. 现有的GPT是使用2021年9月前的公共数据训练，并且具有相当强的推理能力，但并不代表它可以进行凭空揣测。解答你所提出的问题是否需要使用使用非公开资料？或者进行推断的依据是否在2021年之后做了更新或者改变？如果确实如此，那你是否提供了足够的资料让它进行推断？
   2. 金融数据是比较特殊的一类数据，如果你仔细检查金融数据的License，99%的金融数据都是私人使用免费，但不能商业应用。另外ChatGPT目前（请注意目前这两个字）并没有实时接入互联网的能力，即使像New Bing这种整合了GPT的搜索引擎在回答这种可能引起商业侵权行为的问题是都是非常小心的。
   3. 你现在使用的GPT到底是哪个版本？3.0，3.5，3.5 Turbo，4.0? 参数中的Temperature值会对回答带来什么影响？就像我上面说过的，GPT并不是那种你上香就给你实现愿望的神仙，它是一个强大的工具，但强大的工具一定也有一个使用手册需要掌握，车这种发明了100年的东西也还需要考驾照呢。

那既然ChatGPT不是所谓的全能神，那为什么最近会如此火热呢？它又有什么价值呢？我个人认为的高概念的回答是，我们认为我们在制造全能神，或者至少说，在复制人类灵魂的道路上，迈出了坚实的一步。这个答案比较看起来比较玄幻，但我希望用这种说法引起大家的重视。比较现实的说法是，我们看到了一种大幅革新生产工具的可能性。正好原文中提到了AlphaGo，这是一个很好的比较，以GPT为代表的新一代LLMs模型和AlphaGo这一类模型相比的一大进步就是具备了泛化的能力。具体来说，AlphaGo是针对下棋这一特定任务研究的一个特定模型，它只能用来下围棋，因此，虽然它体现了新算法在某一特定任务上超越人类的优秀性，但并不具备通用性。但对于GPT来说，你可以自己设计一种棋，只要你明确将规则写出来，Feed给它，它就可以陪你下，这就是通用人工智能的概念。当然，GPT在围棋上的水平可能不如AlphaGo，但具有强大泛化能力的模型可以大幅减少模型的开发、训练成本，为下一步的应用奠定了基础。

下一步应用的一个很具体代表性的例子就是这个项目HuggingGPT。这个项目通过集成大量的其它领域的专业模型（例如类似AlphaGo的模型），使用LLM作为Controller，通过分析用户提供的命令去自动调用相应的专业模型，起到取代人类专家的作用。试想下如果能取代10%的专家工作，这个产业机会会有多大。另外，这个项目在GitHub上的Repo名叫Jarvis，我终于可以引用一个网络名梗，说一句懂的都懂了。

另外还有一个有趣的项目叫SudoLang，有兴趣的可以自行去搜索Medium上的文章。这个项目我觉得有趣的地方有几个：

1. 通过人类提示，GPT 4.0自己为自己设计了一门语言以便于人类使用自然语言可以更精准有效的和它交互。这门语言的学习曲线非常平缓，非常容易上手。
2. 实际试用演示的Teach function之后我的感受是老师中用于传授知识的那部分可以全部淘汰了，以后老师的作用应该是仅仅剩下人类直接互动的那部分，例如监督和陪伴。比如，我可以让GPT教我Prompt Engineering。例如，试用Teach(GPT Prompt Engineering), 在一段概括性的对话后，ChatGPT让我

另外最近还有大量类似的项目涌现，我就不一一赘述了。就我目前的感受来说，限制GPT 4.0在我们日常工作中主要是我们的想象，也就是我们还没有适应将如此强大的AI融入日常工作的工作流，而不是它的能力。这就好像在80年代的时候谈2020年时中国的汽车保有量，以我贫瘠的想象力实在是难以胜任。另外GPT 4.0的能力实在是过于强大，围绕它的发展实在是过于迅速，只能是勉强追赶这股浪潮。

下面是原帖一些值得“肯定”的地方：

1. 原帖及跟楼的一些试验确实体现了GPT的一个重大弱点，那就是不知道自己的局限性，所以一些情况下它会尝试编造答案。这也是我认为GPT从来不会是神的一个原因，我们必须清楚的认识到它是一个工具，有它的局限性。
2. 原帖说ChatGPT可能是个区块链、加密币式的坑，这一点是有可能的。这个说法似乎和我前面大段的描述相悖，但请注意，我这里特指了ChatGPT。实际上ChatGPT，甚至是GPT以及GPT背后的OpenAI最后可能被淘汰，但它们为LLMs的发展指明了方向，LLMs本身绝对不会被淘汰。学界现在一个很火热的方向就是用小得多的模型和少得多的训练成本在某一特定领域重现GPT的功能。Meta的LLaMA 65B模型的训练成本大概是400万美金，更别提开发成本，GPT的总体开发训练成本更是远高于此，但最新发布的羊驼系列等基于开源LLaMA的小模型训练成本基本都不超过1000美金，在特定领域的效果却和GPT相近。考虑到大多数商业机构不可能心甘情愿的将自己的商业机密交给OpenAI，以后的发展趋势说不定会是每家都有自己的小模型也说不定。

另外特别提两点：

1. 看最新发布的华为盘古论文，基于里面提到的训练数据，我换算升腾910的性能不到NVIDIA A100的0.3？有懂行的人进一步分析或者驳斥下？
2. 看网上有些人文章提到ChatGPT这种东西什么20XX年就出现了，没什么新奇。我建议如果任何文章看到这里就可以直接关掉，没有必要继续读下去了。这种说法就和汽车100年以前就发明了，现在的奔驰、电车没什么稀奇一样，是一种颇为脑残的论点。新一代的LLMs包含了大量的技术革新，实现这些技术革新包含了无数资源投入，不是你拿着一本20XX年的教科书之后上机实践两天就可以搞出来的。

最后，我鼓励大家积极拥抱LLMs这股浪潮，有什么好的东西欢迎分享，我也好进一步学习，同时欢迎有水平的观点跟帖一战，但我不欢迎无知的人。

最后，附上一段由GPT 4.0生成的对原贴附带例子的驳斥：
ChatGPT：
当然可以。以下是针对您最初观点的驳斥，以及一些相关的例子：

ChatGPT与其他AI助手的差异：以OpenAI的GPT-4为基础的ChatGPT，在处理问题和任务方面具有较高的灵活性和创造力。例如，GPT-4在生成文本、摘要、翻译等任务上表现优异，而这些功能在传统的AI助手中可能并不如此出色。

AI股上涨并非全无道理：以特斯拉为例，其自动驾驶系统Autopilot的发展为公司带来了显著的市值增长。特斯拉利用AI技术提升了自动驾驶的性能，进一步巩固了在电动汽车市场的地位。

AI在各行业的广泛应用：例如，在医疗领域，DeepMind的AlphaFold系统已经在蛋白质折叠预测方面取得了革命性的突破，为疾病研究和药物开发带来了巨大的潜在价值。在金融领域，AI在风险评估、欺诈检测等方面发挥着重要作用。

AlphaGo和其他AI系统的发展：在围棋领域取得突破的AlphaGo之后，DeepMind推出了更先进的AI系统，如AlphaZero。AlphaZero在围棋、国际象棋和将棋等多个领域都取得了卓越的成绩，显示了更广泛的应用前景。

人工智能的未来：近年来，AI在创作领域取得了显著进展。例如，OpenAI的DALL-E系统可以根据文字描述生成与之对应的图片，展示了AI在创意产业的巨大潜力。这些发展表明，在未来，AI可能在某些领域取得更大的突破。

通过以上例子，我们可以看到AI技术在各个领域的广泛应用和发展潜力。因此，关注AI领域的进步，并在投资时保持理性，对于把握未来发展趋势和实现长期稳定回报至关重要。