Skip to content
导航栏

Prompt 工程

提示模板

在非聊天应用中,提示词的精准性对 ai 返回结果会有很大的影响,解决方法:

  • 动态提示词=提示模板+变量,通过引入给提示词引入变量的方式,一方面保证了灵活性,一方面又能保证 Prompt 内容结构达到最佳

  • 聊天提示模板 聊天场景中,消息可以与 AI、人类或系统角色相关联,模型应该更加密切地遵循系统聊天消息的指示。一般 ai 输入都会有以下的角色抽象:

    • 用户,表示用户的输入

    • 助手,模型的输出

    • 系统,系统预设

      比如对 OpenAI gpt-3.5-tubor API 中 role 字段(role 的属性用于显式定义角色,其中 system 用于系统预设,比如”你是一个翻译家“,“你是一个写作助手”,user 表示用户的输入, assistant 表示模型的输出)的一种抽象,以便应用于其他大语言模型。SystemMessage 对应系统预设,HumanMessage 用户输入,AIMessage 表示模型输出,使用 ChatMessagePromptTemplate 可以使用任意角色接收聊天消息。

输出解析器

针对机器人返回的消息,需要作内容抽取与规范。解析器需要分析模型输出,判断是否符合预期结构。