LLM 的数据隐私问题

使用像 OpenAI 的 ChatGPT 这一类闭源大模型的问题是，你的数据随时有可能成为模型训练的素材。

虽然现在开源大模型的表现已经可以匹敌闭源大模型，有很大平台也基于这些开源模型提供 LLM 推理服务。但对于使用这些服务的用户而言，他们仍然要承受相同的数据隐私风险，因为这些平台同样有可能会收集用户的信息，用于训练大模型。

目前最好的保护数据隐私安全的方案是，在用户个人的设备上运行 LLM。所有的计算都运行在用户个人的设备上，用户的数据也不会离开他自己的设备，这样就不会出现数据泄露的问题了。

运行 LLM 模型有很多复杂的设置

但要在自己的设备上运行 LLM 模型，用户需要做一系列复杂的设置，并且需要对 LLM 模型的原理有一些了解。比如：

1）寻找并安装能够运行 LLM 模型的软件。目前这一类型的软件都有比较多相对专业设置，用户需要先学习一些关于 LLM 模型的基本概念。

2）寻找适合自己设备的 LLM 模型。简单而言，参数量越大的模型表现会越好，但同时对设备的硬件要求也越高。用户需要付出一定的时间去尝试才能找到适合自己设备的模型。

简单而言，你需要是一个对技术有兴趣的人，才能设置好本地运行的 LLM。

FishLLM 帮助您跳过所有复杂的设置

FishLLM 的使命就是：让尽可能多的人可以在自己的设备上使用 LLM 模型。

FishLLM 帮助你处理所有复杂的设置，你不需要了解 LLM 的原理，也不需要懂技术，只需要点击安装，FishLLM 就会完成所有设置。

FishLLM 会追踪最新的开源 LLM 模型，并根据你的设备硬件配置，寻找最适合你的设备的模型。你只需要定期点击更新，即可使用最新的开源模型，不需要浪费时间去浏览技术圈的消息。