PEFT documentation
BEFT: Ajuste fino eficiente en sesgo de modelos de lenguaje en regímenes con pocos datos
BEFT: Ajuste fino eficiente en sesgo de modelos de lenguaje en regímenes con pocos datos
BEFT es un algoritmo de ajuste fino eficiente en parámetros (PEFT) que solo ajusta los términos de sesgo añadidos a las proyecciones de valor de los modelos transformer preentrenados. BEFT demuestra que ajustar los términos de sesgo añadidos a las proyecciones de valor de los transformers preentrenados generalmente conduce a un mejor rendimiento en tareas posteriores en regímenes con pocos datos que ajustar los términos de sesgo añadidos a las proyecciones de consulta/clave.
BEFT presenta actualmente las siguientes compensaciones:
Ventajas:
- BEFT requiere muchos menos parámetros que LoRA, al tiempo que mantiene un rendimiento competitivo o superior en tareas con pocos datos.
Desventajas:
- En regímenes con grandes volúmenes de datos, BEFT puede mostrar una eficacia limitada en comparación con LoRA y el ajuste fino de parámetros completos.
Si su caso de uso pertenece al régimen de alto volumen de datos, considere otros métodos de PEFT, como LoRA.
El resumen del artículo es:
El ajuste fino de los términos de sesgo de los modelos de lenguaje de gran escala (LLM) tiene el potencial de lograr una eficiencia de parámetros sin precedentes manteniendo un rendimiento competitivo, especialmente en regímenes con pocos datos. Sin embargo, hasta la fecha, la relación entre el ajuste fino de diferentes términos de sesgo (es decir, bq, bk y bv en las proyecciones de consulta, clave o valor) y el rendimiento en tareas posteriores sigue siendo en gran parte poco claro. En este artículo, investigamos la relación entre el ajuste fino de bq, bk y bv y el rendimiento de la tarea posterior. Nuestro hallazgo clave es que el ajuste fino directo de bv generalmente conduce a un mayor rendimiento en tareas posteriores en regímenes con pocos datos, en comparación con bq y bk. Evaluamos exhaustivamente esta propiedad única en una amplia gama de LLM que abarcan arquitecturas solo de codificador y solo de decodificador de hasta 6.7B parámetros (incluidos LLM sin sesgo). Nuestros resultados proporcionan una fuerte evidencia de la efectividad del ajuste fino directo de bv en diversas tareas posteriores.
Resumen de las pruebas de rendimiento
API
BeftConfig
clase peft.BeftConfig
< source >( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falsetarget_modules: Optional[Union[list[str], str]] = Nonemodules_to_save: Optional[list[str]] = Noneinit_weights: bool = True )
Parámetros
- target_modules (
Optional[Union[List[str], str]]) — Los nombres de los módulos a los que se aplicará el adaptador. Si se especifica, solo se reemplazarán los módulos con los nombres indicados. Al pasar una cadena de caracteres, se realizará una coincidencia mediante expresión regular. Al pasar una lista de cadenas de caracteres, se realizará una coincidencia exacta o se verificará si el nombre del módulo termina con alguna de las cadenas pasadas. Si no se especifica, los módulos se elegirán según la arquitectura del modelo. Si la arquitectura no es conocida, se generará un error; en este caso, debe especificar los módulos objetivo manualmente. - modules_to_save (
Optional[List[str]]) — Lista de módulos, aparte de las capas BEFT, que se configurarán como entrenables y se guardarán en el punto de control final. - init_weights (
bool) — Si se inicializan los vectores en las capas BEFT, por defecto esTrue. Se desaconseja establecerlo enFalse.
Esta es la clase de configuración para almacenar la configuración de un BeftModel.
BeftModel
clase peft.BeftModel
< source >( modelpeft_config: Union[PeftConfig, dict[str, PeftConfig]]adapter_name: strlow_cpu_mem_usage: bool = Falsestate_dict: Optional[dict[str, torch.Tensor]] = None ) → torch.nn.Module
Parámetros
- model (PreTrainedModel) — El modelo que se va a adaptar.
- config (BeftConfig) — La configuración del modelo (BEFT).
- adapter_name (
str) — El nombre del adaptador, por defecto es"default". - low_cpu_mem_usage (
bool,optional, defaults toFalse) — Crea pesos de adaptador vacíos en el dispositivo meta. Útil para acelerar el proceso de carga.
Devuelve
torch.nn.Module
El modelo (BEFT).
Crea un Infused Adapter mediante el ajuste fino de los términos de sesgo añadidos a las proyecciones de valor de un modelo de transformers preentrenado en regímenes con pocos datos de entrenamiento (BEFT). El método se describe en detalle en https://arxiv.org/abs/2509.15974
Ejemplo:
>>> from transformers import AutoModelForSeq2SeqLM
>>> from peft import BeftConfig, get_peft_model
>>> config = BeftConfig(
... task_type="SEQ_2_SEQ_LM",
... target_modules=["v"],
... )
>>> model = AutoModelForSeq2SeqLM.from_pretrained("t5-base")
>>> beft_model = get_peft_model(model, config)Atributos:
- model (PreTrainedModel) — El modelo que se va a adaptar.
- peft_config (BeftConfig): La configuración del modelo (BEFT).