FM-12 需复核 · v1.1
用本地模型离线起草敏感文本
在自己机器上跑模型,装好之后断网使用,用于那些绝不能外发的草稿。
最终产出
一套可用的本地环境:许可已核对、离线运行已验证,并养成清理临时文件的习惯。
- 难度
- 进阶
- 耗时
- 首次约 1 小时 40 分钟
- 适用环境
- 本机运行的本地模型,完全支持
这条技能适合你吗?
适用场景
- 草稿内容包含政策禁止发送给任何外部服务的信息。
- 草稿质量的重要性低于数据去向的重要性。
不适用场景
- 你的机器跑不动模型,速度无法接受。
- 输出需要最新事实;本地模型只知道训练时的事。
开始之前
- 一台内存足以支撑你所选模型规模的机器。
- 获准安装软件,并允许下载一次模型。
步骤
检查点没过,就不要往下走。
-
选模型并核对许可
选一个与你硬件匹配的模型,并按照你的使用目的阅读它的许可条款。
检查点 许可允许你的用法,并且你保存了一份副本。
-
只下载一次,然后断网
从官方渠道下载运行时和模型,有公布校验值的要核对,然后关闭网络。
检查点 在断网状态下,模型能回答一条测试提示。
-
检查后台流量
检查运行时的设置里有没有遥测或更新检查,并关掉它们。
检查点 从防火墙看,整个会话期间没有任何出站连接尝试。
-
起草并清理
照常使用。用完删除会话记录和运行时留下的临时文件。
检查点 一次会话之后,运行时的历史目录是空的。
可能出问题的地方
- 安全 只从官方渠道下载。被篡改的模型文件是供应链风险。
- 权利与许可 各家模型许可不同,有些限制商业使用。
- 准确性 更小的本地模型事实性错误更多。用它们起草,不要用它们查事实。
修订记录
| 版本 | 日期 | 变更 |
|---|---|---|
| v1.1 | 标记为需复核:本地运行时的设置在版本之间会变。 | |
| v1.0 | 首次发布。 |