你不需要是技术人员，也可以在你的设备上使用开源 LLM 模型
LLM 的数据隐私问题使用像 OpenAI 的 ChatGPT 这一类闭源大模型的问题是，你的数据随时有可能成为模型训练的素材。 虽然现在开源大模型的表现已经可以匹敌闭源大模型，有很大平台也基于这些开源模型提供 LLM 推理服务。但对于使用这些服务的用户而言，他们仍然要承受相同的数据隐私风险，因为这些平台同样有可能会收集用户的信息，用于训练大模型。 目前最好的保护数据隐私安全的方案是，在用户个人的设备上运行 LLM。所有的计算都运行在用