Prompt自动化进阶之路:不会走也能飞提示工程是大模型使用的第一道坎,写出高质量的PE有一定门槛,偷懒的小白该怎么办?大模型时代,提示工程(PE)成了重中之重...

贴文 2周前
560 0

Prompt自动化进阶之路:不会走也能飞

提示工程是大模型使用的第一道坎,写出高质量的PE有一定门槛,偷懒的小白该怎么办?

大模型时代,提示工程(PE)成了重中之重。

(1)PE为什么重要: NLP四大范式

第一范式:非神经网络时代的完全监督学习(特征工程)。大量任务相关的训练数据,借助特征工程和算法(朴素贝叶斯Naïve Bayes、支持向量机SVM、逻辑回归LR等);

第二范式:基于神经网络的完全监督学习(架构工程)。也要大量任务相关的训练数据,通过深度学习方法自动获取特征(表示学习)进行端到端分类学习;

第三范式:预训练-精调范式(目标工程):当前使用比较多的预训练+微调范式,通过预训练方式(比如掩码语言模型Masked Language Model)来学习海量的语言学知识,然后下游使用少量任务相关数据对预训练模型进行微调即可;

第四范式:预训练-提示-预测范式(Prompt工程):当前进入了Prompt Learning提示学习的新范式,使用Few shot或者Zero-shot即可完成下游任务。

第五范式(提示学习),相比上一代两阶段(pretrain+finetune)范式,不需要针对具体任务做领域微调,只需通过prompt提示词描述下游任务就行, 模型参数都不用更新。

提示学习让任务执行能力进一步收敛到基础模型(GPT系列大模型),作为“纽带”的提示工程当然成了重中之重 网页链接

暂无评论

暂无评论...