使用AI辅助自己些代码已经很久了，从gpt3.5开始。 一开始都在正在开发的项目中，需要一些功能函数，在网页上让些一些功能函数，这时候自己对代码的把控都还行，都是写一些功能函数。 但是尤其最近一年以来,各种agent工具一浪一浪的推过来，更新层出不穷。新项目几乎全用AI开发，自己就写需求。购买的各种token套餐，国外的国内的结合使用，为了省钱。 老项目，总想着用AI过一边，优化一下，而且几乎AI都能给出看起来都很有道理的优化方案，而且找出一些列代码风险，也给出很多修复方案，然后自己审核plan之后，感觉相当有道理。OK，优化吧，执行吧。 多来几轮之后，以前的老项目，如果出了问题，几乎心里立刻能定位到大概在什么位置。但是现在经过几轮优化之后，出了问题，具体哪里有问题，心里没以前有底了。 新项目用AI开发的，在初步进行测试时，很多时候执行都没问题，测试也没什么问题。好吧，上线，面对各种形式的用户和使用逻辑，出了一些问题之后，然后开始继续改代码，怎么改呢，没办法继续使用AI改，因为AI写的代码量上来之后，想要手动精准修改到很多问题是有难度的。AI就继续改，因为只要你说了实际的问题，基本AI都认同，然后又不停叠加修复方案。 最后导致项目上线之后，心里一点底都没有。 与原来手动写代码时，基本手动写的慢，经常一个功能写出来时，实际已经测试了好几次了，心里相当于复习了很多次。即使出了问题，心里也能及时定位给出修复方案，然后上线。 现在AI越用越多，心里反而底气越来越不足了，尤其是后端项目。前端的还不那么怕，前端出bug了及时修复然后覆盖就行，只要保证后端数据正常和执行逻辑的安全，问题都在可控范围。但是后端出问题，造成数据搞错了，脑袋都大了，难道每次都有数据库回滚的机会？怎么可能。 大家都怎么解决遇到的这类似的问题的？ (以上内容全手打，格式乱，大家担待，想用AI优化一下格式，还是算了，闲聊而已) 1 个帖子 - 1 位参与者 阅读完整话题
base64 网址:aHR0cHM6Ly9xb2Rlci5jb20uY24vcmVmZXJyYWw/cmVmZXJyYWxfY29kZT1XOGdhbkV4Q2lYWmNCT3JYM0RJZHdydWp6U0xQdDhkRg==
base64 网址:aHR0cHM6Ly9xb2Rlci5jb20uY24vcmVmZXJyYWw/cmVmZXJyYWxfY29kZT1XOGdhbkV4Q2lYWmNCT3JYM0RJZHdydWp6U0xQdDhkRg==
base64 网址:aHR0cHM6Ly9xb2Rlci5jb20uY24vcmVmZXJyYWw/cmVmZXJyYWxfY29kZT1XOGdhbkV4Q2lYWmNCT3JYM0RJZHdydWp6U0xQdDhkRg==
base64 网址:aHR0cHM6Ly9xb2Rlci5jb20uY24vcmVmZXJyYWw/cmVmZXJyYWxfY29kZT1XOGdhbkV4Q2lYWmNCT3JYM0RJZHdydWp6U0xQdDhkRg==
base64 网址:aHR0cHM6Ly9xb2Rlci5jb20uY24vcmVmZXJyYWw/cmVmZXJyYWxfY29kZT1XOGdhbkV4Q2lYWmNCT3JYM0RJZHdydWp6U0xQdDhkRg==
base64 网址:aHR0cHM6Ly9xb2Rlci5jb20uY24vcmVmZXJyYWw/cmVmZXJyYWxfY29kZT1XOGdhbkV4Q2lYWmNCT3JYM0RJZHdydWp6U0xQdDhkRg==
移动宽带能突破nat3吗，光猫已经桥接了nat等级没变化 5 个帖子 - 4 位参与者 阅读完整话题
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。
背景。 我认为，大语言模型从 gpt3 开始（ 2020 年 6 月）到今天，虽然已经有了 5-6 年时间，但仍然处于这项技术的发展初期，大语言模型本身还有很多可以改进的地方（这块我不是很懂，我觉得如何用更少的资源实现更强的能力应该是一个很重要的方面，特别是如何在 cpu 上也能运行能力强大的模型。），但是，最关键的是我认为，大语言模型的工程化还在非常早的初期，很多问题还有待解决，特别是大模型的幻觉问题，直接限制了大模型在实际业务中的应用。 我认为，从开始我们直接用语言和大模型进行沟通，也就是所谓的“提示词工程”可能就是一个错误。 大模型的本质，就是以语言为计算因子的一种数学计算过程。大模型的所谓幻觉、对齐问题，不是大模型本身的问题，而是我们使用大模型的方式不对。 我们现在发几个字符，就希望大模型实现一个准确、高质量的回复；或者发一堆字符，希望大模型都能理解、记忆。这种用文字直接让大模型生成结果的做法我认为是错误的方式。 本体论 我认为，正确的方式是，应该在大模型和人之间建立一个层，这个层是一个由人类建立的符合现实的语义空间，对话语义经过这个转换层，就能确保大模型参与计算的所有因子都是真实可信的。 那么，如何建立这个层呢？我认为，就是将本体论（ ontology ）引入 agent 。现在也有很多人在做这方面的工作，但问题是他们都只是将一个很小知识领域本体化，每个人都需要建立自己的领域本体论，这也是为什么 Palantir 公司的成本这么高。 ** 疯狂的想法： ** 我们可以花费几万亿去计算一个模型，为什么不能花一点小钱，将整个现实世界通过语言抽象到一个本体论的知识图谱空间中？ 总结 人工智能领域一直有三大流派：符号主义、连接主义和行为主义。 open ai 的 chatgpt 告诉我们，连接主义正确的打开方式，就是用扩大规模。 那么，符号主义、行为主义的问题是不是也是因为规模不够大？ 如果我们用力大飞砖的方式，把符号主义、行为主义的技术规模扩大是否也会产生质的变化？ 最后，我们为什么不将符号主义（本体论）、连接主义（大模型）和行为主义（强化学习）的技术为什么不同用 agent 链接起来？这可能才是人工智能真正的打开方式。