实战指南
端到端的实战示例,展示 TypeSafe 如何在真实问题中发挥作用,从几个问题到完整流水线。
每个实战指南都是一个完整的示例:一个真实数据集、围绕它作出决策的 TypeSafe 问题,以及把这些决策变成一个可用系统的代码。当你想看原语与模式如何在一个具体问题上组合起来时,可以读其中一篇,也可以直接复制一篇作为你自己的起点。
本节假设你已了解 TypeSafe 原语,并理解置信度的工作原理。如果还没有,请先阅读这两部分。
自一致性
重复执行同一个决策,并把多次运行之间的一致性用作信号。
| 实战指南 | 它做什么 | 难度 |
|---|---|---|
| 自一致性:nouls | 将不确定的概率路由到人工审核,同时保持底层的 noul 值可见。 | 入门 |
| 自一致性:choices | 在内容审核决策中加入一个不确定的结果,并将标签一致性与自动操作所占的比例进行对比。 | 入门 |
批量处理
把许多问题打包进一次请求。
| 实战指南 | 它做什么 | 难度 |
|---|---|---|
| 并行问题 | 对 GDPR 维基百科文章运行一个包含 13 个问题的监管简报,展示把所有问题批量打包进一次 TypeSafe 调用可以便宜 12.2 倍、快 10.0 倍,而答案保持不变。 | 入门 |
操作指南
常见任务的实用配方:搜索、格式化、工具选择、防护栏。
| 实战指南 | 它做什么 | 难度 |
|---|---|---|
| 重排序 | 为 40 个 CLERC 法律查询构建各含 30 个段落的 BM25 短名单,然后对每个查询-候选对使用一个 TypeSafe 问题,把 top-1 准确率从 5% 提升到 18%,top-10 准确率从 38% 提升到 62%。 | 入门 |
| 逐行搜索 | 为 GitHub 服务条款构建语义搜索。在一次请求中,用一个 Choice 问题针对自然语言查询对 218 个行 id 打分,再用一个 Noul 问题检查文档中是否包含答案。 | 入门 |
| 结构恢复 | 用两次请求从丢失格式的纯文本中重建 Markdown:一次把被硬换行拆散的行重新拼接起来,一次对每个区块(标题、列表、代码、标注)进行分类。 | 入门 |
| 函数调用 | 通过把函数名和封闭集合参数映射到具备置信度感知的 TypeSafe 问题,把自然语言交易请求转化为对普通类型化函数的调用。 | 进阶 |
| 技能建议 | 从 Nous Research 的 Hermes 目录中的 182 个技能里,为智能体的一个回合至多挑选一个技能,用两次 TypeSafe 请求对排名靠前的候选进行排序和复查。 | 进阶 |
| 知识图谱实体对齐 | 利用一个 Score 问题加三个伴随的 Noul 问题(后者会揭示哪些字段存在分歧),判断来自两个啤酒目录的 450 个候选对中哪些描述的是同一款产品。 | 入门 |
| 对 RAG 段落分类 | 用一个 TypeSafe 请求对每条检索到的段落打分,然后在代码中决定哪些段落送入回答模型。 | 进阶 |
| 复核引用 | 通过对照原始文档来发现错误或虚构的引用。一个 Choice 问题即可判断引文上下文是否支持该论断。 | 入门 |
| 面向 LLM 的防护栏 | 用一个 TypeSafe 请求筛查进出 LLM 应用的每一条消息,对危害概率和严重程度设定阈值,从而放行、复核、拦截或路由。 | 进阶 |
抽取
从杂乱的文本中提取类型化的值。
| 实战指南 | 它做什么 | 难度 |
|---|---|---|
| SDE 级联 | 使用两阶段的结构化数据抽取级联(mini → verify → reasoning),以极小的成本获得大型推理模型的大部分质量。 | 进阶 |
| 日期抽取 | 通过向 TypeSafe 询问文档中提到的各个日期部分来抽取绝对日期和相对日期,然后在代码中进行解析与校验,并采用基于置信度的审核。 | 入门 |
| 预解析值抽取 | 先用正则表达式找出候选的电子邮箱、电话号码和金额,再让 TypeSafe 选出所请求的片段,以便代码对逐字原样的值进行规范化。 | 入门 |
分类
把输入归入任意深度的类别。
| 实战指南 | 它做什么 | 难度 |
|---|---|---|
| 层次化分类 | 基于 TypeSafe Choice 概率上的并行束搜索,在专利、零售商品、生物医学和源代码等深层层级体系中为文档分类。 | 进阶 |
| 自动研究特征发现 | 运行一个自动研究循环:提出 TypeSafe 问题、把自由文本转换为数值特征,并利用模型误差来改进一个有监督的 CatBoost 回归器。 | 高级 |
| 基于置信度的分类 | 用每个报告一个 Choice 问题的方式把 SEC 年报分类到 75 个行业组,然后读取答案自身的置信度,决定是上报该行业组还是其上一层更宽泛的部门。 | 入门 |
提示
我们非常乐意了解大家如何使用我们的原语。如果你构建了值得写成一篇实战指南的东西,欢迎告诉我们!