PEFT documentation
PEFT 类型
快速入门
指南
方法
API 参考
PEFT 类型
PeftType 包含 PEFT 支持的适配器,TaskType 包含 PEFT 支持的任务。
PeftType
PEFT 中不同适配器类型的枚举类。
支持的 PEFT 类型:
- PROMPT_TUNING
- MULTITASK_PROMPT_TUNING
- P_TUNING
- PREFIX_TUNING
- LORA
- ADALORA
- BOFT
- ADAPTION_PROMPT
- IA3
- BEFT
- LOHA
- LOKR
- OFT
- XLORA
- POLY
- LN_TUNING
- VERA
- FROD
- FOURIERFT
- HRA
- BONE
- MISS
- RANDLORA
- SHIRA
- PACA
- C3A
- ROAD
- WAVEFT
- OSF
- DELORA
- GRALORA
- ADAMSS
- SHADOW
- DEFT
任务类型
PEFT 支持的不同任务类型的枚举类。
支持的任务类型概述:
- SEQ_CLS:文本分类。
- SEQ_2_SEQ_LM:序列到序列语言建模。
- CAUSAL_LM:因果语言建模。
- TOKEN_CLS:Token 分类。
- QUESTION_ANS: 问答。
- FEATURE_EXTRACTION:特征提取。提供可用作嵌入或特征的隐藏状态,供下游任务使用。