演示

演示目录。这些条目是为检验格式而写的,既不是一份完整清单,也没有获得任何机构认可;其中的复核日期都是示例记录。 这里的演示指什么

FM-12 需复核 · v1.1

用本地模型离线起草敏感文本

在自己机器上跑模型,装好之后断网使用,用于那些绝不能外发的草稿。

最终产出

一套可用的本地环境:许可已核对、离线运行已验证,并养成清理临时文件的习惯。

难度
进阶
耗时
首次约 1 小时 40 分钟
适用环境
  • 本机运行的本地模型,完全支持

这条技能适合你吗?

适用场景

  • 草稿内容包含政策禁止发送给任何外部服务的信息。
  • 草稿质量的重要性低于数据去向的重要性。

不适用场景

  • 你的机器跑不动模型,速度无法接受。
  • 输出需要最新事实;本地模型只知道训练时的事。

开始之前

  • 一台内存足以支撑你所选模型规模的机器。
  • 获准安装软件,并允许下载一次模型。

步骤

检查点没过,就不要往下走。

  1. 选模型并核对许可

    选一个与你硬件匹配的模型,并按照你的使用目的阅读它的许可条款。

    检查点 许可允许你的用法,并且你保存了一份副本。

  2. 只下载一次,然后断网

    从官方渠道下载运行时和模型,有公布校验值的要核对,然后关闭网络。

    检查点 在断网状态下,模型能回答一条测试提示。

  3. 检查后台流量

    检查运行时的设置里有没有遥测或更新检查,并关掉它们。

    检查点 从防火墙看,整个会话期间没有任何出站连接尝试。

  4. 起草并清理

    照常使用。用完删除会话记录和运行时留下的临时文件。

    检查点 一次会话之后,运行时的历史目录是空的。

可能出问题的地方

  • 安全 只从官方渠道下载。被篡改的模型文件是供应链风险。
  • 权利与许可 各家模型许可不同,有些限制商业使用。
  • 准确性 更小的本地模型事实性错误更多。用它们起草,不要用它们查事实。

修订记录

演示记录,最新的在前。
版本日期变更
v1.1标记为需复核:本地运行时的设置在版本之间会变。
v1.0首次发布。