🪴 小胖的数字花园

提示词工程

2025年1月07日4分钟阅读

提示词工程

提示词基础

什么是提示词

定义：通过不断优化输入，提升模型输出（Assistant Prompt）的质量，包括三个纬度：

  1. 质量维度：输出内容的专业、完整和有价值（让人感觉说到点子上）
  2. 稳定性维度：在不同场景和时间下产生可预期的一致表现（让人感觉靠得住）
  3. 正确性维度：信息的准确度和可信度，不产生虚假或误导性内容（让人感觉说的对）

以“辅助编码”场景举例，三个维度可以概括为：

  1. 质量维度：代码的可读性、可维护性和专业性
  2. 稳定性维度：代码在各种情况下的可预测性和一致性
  3. 正确性维度：代码的语法正确性和逻辑正确性

token和文本的不同

token 和字符不等

  • 比如happy是一个token，而unhappy则是两个
  • 不同上下文拆分token逻辑不通

不同语言的token 表达效率不同

  • 这样就可以用更少的代码，来表达同样的意思。
    不同模型的分词器不同，同样的文本对应的token数量不同

302 API 文档

Langchain

使用langChain来串联你的提示词

启示

细分场景的完整提示词工程流程终将交给AI实现，这既是机遇也是挑战：

  • 挑战：传统固定场景的前端业务开发（比如后台管理系统）会被AI取代
  • 机遇：这也是新的职业发展机遇，实战篇最终的成果就是实现细分场景的完整提示词工程流程（生成私有业务组件）

如何写好提示词

写提示词的步骤：

  1. 确定特定场景下的最佳实践
  2. 判断最佳实践的复杂度
    • 简单：自然语言输出
    • 中等：MD格式输出
    • 复杂：选定提示词载体和结构（默认LangGPT）
  3. 选一个提示词生成工具，输入步骤1的输出：
  1. 调试并优化输出的提示词

好提示词示例

结构化提示词

CO-STAR结构

新加坡政府组织的首届 GPT-4 提示工程大赛的获奖提示词框架（补充资料）。一条提示词要包含如下模块：

  • C：context 上下文 要做事的背景信息
  • O：Objective 目标 明确要实现什么目标
  • S：Style 风格 写作风格
  • T：Tone 语气 输出的语气
  • A：Audience 受众 输出的受众，会根据受众理解能力调整输出
  • R：Response 响应 规定输出的格式，JSON、专业报告等### CO-STAR结构

CO-STAR框架是一种用于设计Prompt的结构化模板，旨在提高大型语言模型（LLM）响应的相关性和有效性，考虑了多种影响LLM输出的关键因素。

LangGPT

如何优化prompt

参考文章

关系图谱

反向链接