Prompt自动化进阶之路:不会走也能飞
提示工程是大模型使用的第一道坎,写出高质量的PE有一定门槛,偷懒的小白该怎么办?
大模型时代,提示工程(PE)成了重中之重。
(1)PE为什么重要: NLP四大范式
第一范式:非神经网络时代的完全监督学习(特征工程)。大量任务相关的训练数据,借助特征工程和算法(朴素贝叶斯Naïve Bayes、支持向量机SVM、逻辑回归LR等);
第二范式:基于神经网络的完全监督学习(架构工程)。也要大量任务相关的训练数据,通过深度学习方法自动获取特征(表示学习)进行端到端分类学习;
第三范式:预训练-精调范式(目标工程):当前使用比较多的预训练+微调范式,通过预训练方式(比如掩码语言模型Masked Language Model)来学习海量的语言学知识,然后下游使用少量任务相关数据对预训练模型进行微调即可;
第四范式:预训练-提示-预测范式(Prompt工程):当前进入了Prompt Learning提示学习的新范式,使用Few shot或者Zero-shot即可完成下游任务。
第五范式(提示学习),相比上一代两阶段(pretrain+finetune)范式,不需要针对具体任务做领域微调,只需通过prompt提示词描述下游任务就行, 模型参数都不用更新。
提示学习让任务执行能力进一步收敛到基础模型(GPT系列大模型),作为“纽带”的提示工程当然成了重中之重 网页链接
版权声明: 发表于 2023-11-22 9:12:58。
转载请注明:Prompt自动化进阶之路:不会走也能飞提示工程是大模型使用的第一道坎,写出高质量的PE有一定门槛,偷懒的小白该怎么办?大模型时代,提示工程(PE)成了重中之重... | AI 時.空 | AiTime.Space
转载请注明:Prompt自动化进阶之路:不会走也能飞提示工程是大模型使用的第一道坎,写出高质量的PE有一定门槛,偷懒的小白该怎么办?大模型时代,提示工程(PE)成了重中之重... | AI 時.空 | AiTime.Space
暂无评论...