产品必读|AI对话(二):Prompt不只是一句话
创始人
2024-01-12 18:54:08
0

原标题:产品必读|AI对话(二):Prompt不只是一句话

很大程度上,Prompt的结构与内容会对最后模型的输出能力产生极大影响,所以,我们需要做好Prompt的设计。这篇文章里,作者就对Prompt如何构建等问题做了分享,一起来看。

Prompt是什么?简单理解,用户输入给AI模型的一串指令或提示词(Prompt)让模型完成指定任务。前文提到,训练模型的【Pre-train,Prompt,Predict】这个范式,用特定语言的模板(prompt)挖掘预训练模型(Pre-train)的本身能力,因此可以降低语义差异。(其他训练范式请见上个系列)

理所当然的,输入的不同直接决定了输出的质量。Prompt 的结构与内容对最后模型的输出能力有极大影响,要想更好地得到输出,对Prompt的设计必不可少。

一、Prompt有哪些分类 1. Zero-shot

零样本提示,即直接给指令,不举例引导。其实这是最为能证明模型推理能力的情况,也是我们最理想的任务形式,我们让机器人做什么事,它就能直接做了。

例如:在机器没有专门针对进行股市描述分析训练,输出一份股市走势报告。

我们常发现这样的情况模型输出的效果不是很好,因此针对这样的情况,还会进一步补充更多的提示信息过渡。

2. Few-Shot

即提供给模型几个示例,实现上下文学习(ICL – In Context Learning),引导模型更好地输出任务。其中只提供了一个示例的是One-shot。

例如下图(与豆包对话),在这个Case中给出了两个示例,最后的输出也可以看到依赖了相关输入。

但Few shot仍然具有局限性,特别是对于推理性等复杂任务。

但大家发现,如果将问题分解成步骤,并向模型演示,可能会有所帮助,因此CoT(chain-of thought prompting)成为大家关注的方向,以解决复杂任务(例如算术、推理等)。

3. CoT(Chain of Thought)

简单来讲,为了更好地解决复杂问题,我们需要模型了解中间推导/计算的过程,因此思维链其实是多了中间的推导。但CoT对小模型作用不大,对复杂问题的性能增益更大。(模型参数达到10B有效果,100B效果明显)

1)Zero shot CoT

这种思维链非常的取巧,即不再给模型任何的示例,只是发出指令让它自己“一步步想”。即利用:Let’s think step by step 以及 Therefore,the answer is 等提示得出答案。

例如下图的情况,虽然模型回答错了;

当然如果矫正这个问题,我们可以再给出一些提示,继续给出推导思路 (不属于Zero Shot);

现在模型已回答正确,那么我们再提问一次,可以看到模型已经学到这样的推导逻辑。

2)Few shot CoT

是ICL(In-context learning)的一种特殊情况,将扩充为

Few shot CoT是在进行提示的时候,给出一个具体的推导示例,例如:

3)增强的CoT策略:Self- Consistency

这个名字看起来很复杂,翻译也比较复杂,利用自洽性提高语言模型中的思维链推理效果。其实你可以很简单的理解,就是模型通过了多种思维得出了多个结果,最后投票看哪个结果占比最多(可能也有其他维度),最后输出这个投票出来的结果。

例如刚刚的篮子数学题,豆包给了三种解法:

假设现在使用的是Self- Consistency,那么模型内部投票发现有两个结果的答案是4个水果,1个答案是5个水果,按照既定投票规则,最后输出的答案是4,就可以在很大程度上可以提高模型的效果。

针对思维链,行业内也整理了有效思维链的特点:

  1. 具有逻辑性,即思维链的逻辑相互连接,形成了一个完整的思考过程
  2. 具有全面性:即全面细致地思考问题,这里可以采用MECE法则(独立且穷尽每一个关键步骤)
  3. 可行性:每个步骤都可行
  4. 可验证性:每个步骤都可验证
二、如何构建Prompt

AIGC产品经理(及人工智能训练师)构建Prompt的能力是核心竞争力之一,Prompt影响最终模型输出,而使用者需要洞察当下产品需求。框架化、结构化组建Prompt可以更好地完成任务。

网上已经有很多介绍如何Prompt的体系和模板,但万变不离其宗,再多维的框架也有基础。针对文本类,我个人比较推荐QCIPSPE框架,大家可以根据不同的需求进行修改。注意,要避免说不做什么,直接说要做什么即可,做直接、具体、精确的输入。

  • Q:Question type:问题类型,例如建议、查询、比较等
  • C:Capacity and role :角色
  • I:Insight:提供上下文
  • P:Priorty::表明问题中的优先级
  • S:Statement:需求澄清
  • P:Personality:回答的风格
  • E:Experiment:多个答案或者比较

三、Prompt需要避免的问题

  • 过于精简的信息:如果BOT能根据缺失信息再触发多轮问询是最好的,但如果BOT不支持,可能就会出现回答过于宽泛或者不准确的问题。如框架所示,附上背景描述或示例参考有助于模型更好的输出。
  • 过于修饰的词藻:复杂的语义反而会扰乱模型输出,Prompt简单、直接、完整,即可最高效的得到答复。
  • 前后语义互斥:保证指令的准确性,不要将冲突信息放在一起。这里特殊地,尽量要求模型做什么,不要说不可以做什么。

对于生成类对话产品来说,Prompt决定了最后的输出。但是对于垂类场景来说,Prompt是用户对于BOT的指令,用户使用门槛是否过高还需提供框架精简用户输入,是否每个场景都合适生成式引入也需垂类产品考虑。

本文由 @JasmineWei 原创发布于人人都是产品经理。未经作者许可,禁止转载。

题图来自Unsplash,基于CC0协议。

相关内容

热门资讯

国产九价HPV疫苗获批上市 转自:科技日报 记者5日从厦门大学获悉,由厦门大学、翔安创新实验室夏宁邵团队和万泰生物联合研制的九价...
字节发布SeedEdit3.0... 近日,字节跳动旗下的Seed团队正式推出了其图像编辑模型的最新版本——SeedEdit 3.0。目前...
科技创新与自然博物馆可持续发展... 北京6月6日电 (记者 吕少威)5日至6日,由北京市科学技术研究院和中国自然科学博物馆学会共同主办,...
原创 抖... 01 一座大熊猫公园到处都是「知识点」 1954年,大卫·爱登堡在非洲热带雨林拍摄到了濒危动物白颈岩...
Rokid要借速卖通跳板全球突... 作者 | 黄昱 编辑 | 王小娟 在国内上市近10个月后,被视作“苹果Vision Pro平替”的R...
格瑞拓动力取得真空除尘分离器专... 金融界2025年6月6日消息,国家知识产权局信息显示,格瑞拓动力股份有限公司取得一项名为“一种真空除...
操纵斯格明子新方法有助研发下一... 据新华社电 (记者王卓伦、冯国芮)以色列研究人员参与的国际团队近日在英国《自然—通讯》杂志上发表论文...
东软医疗“准光子”CT重塑影像... 近日,东软医疗以一场颠覆行业认知的发布会,将CT技术的本质拉回正轨——在NeuViz Epoch E...
华为FreeBuds Pro ... 【CNMO科技消息】近日,研究机构TechInsights发布华为FreeBuds Pro 4耳机的...
聚焦生命科学前沿 5位青年科学... 北京6月6日电 首届“Wiley新锐科学家奖”颁奖典礼5月24日在北京举行。5位在生命科学领域取得突...
笔落千钧力 国寿伴梦行:“国寿... 当蝉鸣渐起,六月的风裹挟着青春的热烈与期待扑面而来,又一届学子即将奔赴高考考场,书写人生的重要篇章。...
信展机械取得防止跳动的联轴器专... 金融界2025年6月6日消息,国家知识产权局信息显示,无锡市信展机械有限公司取得一项名为“一种防止跳...
金星耐火取得低气孔莫来石砖生产... 金融界2025年6月6日消息,国家知识产权局信息显示,郑州金星耐火材料有限公司取得一项名为“一种低气...
DR纳睿雷获得发明专利授权:“... 证券之星消息,根据天眼查APP数据显示DR纳睿雷(688522)新获得一项发明专利授权,专利名为“板...
苹果价格战打懵华为?份额激翻3... “本想新手机换国产,结果一看iPhone 16 Pro只要5499,真香。” 在过去的两周里,原本定...
先导智能获得发明专利授权:“电... 证券之星消息,根据天眼查APP数据显示先导智能(300450)新获得一项发明专利授权,专利名为“电池...
迈吉机电取得电气设备散热防尘保... 金融界2025年6月6日消息,国家知识产权局信息显示,宁波市迈吉机电有限公司取得一项名为“一种电气设...
“科技创新与自然博物馆可持续发... 新京报讯(记者展圣洁)6月5日-6日,由北京市科学技术研究院和中国自然科学博物馆学会共同主办、国家自...
南昌红谷滩区政数局开展网络安全... 数字化时代,网络安全的重要性愈发凸显,因为它不仅关系到个人隐私保护、企业运营安全,更关乎国家安全和社...
新进展!我国卫星互联网低轨卫星... 为了让大家都能在任何地方都能享受到网络服务,美国和中国纷纷开启了地轨道互联网卫星的发展,美国主要由S...