1. 比起大模型ai,能不能开发出小模型AI，满足：

• 针对特定领域的知识performance强于大模型
• 易于使用者/开发者定制
• 模型涉及领域的数据一般为个性化数据，量少而且难以直接大量获取

2. 除了制作AI专家，还要制作AI管家，和专家模型“沟通”，进行训练，比传统的训练方式更好

3. AI专家模型融合，单领域性能必然大概率降低（破坏了原有参数映射的完美型）。但为什么GPT针对海量任务都能完成得很好呢？因为参数量大吗？GPT是怎么训练出来的？是不是要用“合”的角度来看，而不是“分”领域的角度呢？

此外，现在的GPT还有哪些不完美性呢？

• 智能体训练，如何上手方便？（涉及问题1）
• 不能够自主/半自主进行任务。（个人最大的感受）（和智能体有关系）
• 全人类有效训练数据基本用完了，接下来不一定靠参数量提升了，而且要注重性能开销（毕竟AI是要普及的呀，不能穷人每个月也20充美刀吧）

4. 我觉得真正的AI时代应该是：

• 普通人free
• 厉害的模型在企业和国家层面使用，造福人类

关于模型融合的小总结：

• KD
  • 哪些问题：