PEFT documentation

ضبط البادئة

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.22.0).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

ضبط البادئة

Optimize the prefix parameters for each task (image source).

يضيف Prefix tuning سلسلة من المتجهات الخاصة بالمهمة إلى بداية تسلسل الإدخال، ويمكن تعلم هذه المتجهات مع إبقاء النموذج المُدرَّب مسبقًا مجمّدًا. تُدرج معاملات البادئة في جميع طبقات النموذج.

ملخص الورقة البحثية هو:

يُعدّ الضبط الدقيق (Fine-tuning) الطريقة المعتمدة عمليًا لاستغلال نماذج اللغة الكبيرة المُسبقة التدريب لأداء المهام الفرعية. ومع ذلك، فإن هذه الطريقة تعدّل جميع معاملات نموذج اللغة، مما يستلزم تخزين نسخة كاملة لكل مهمة. في هذه الورقة، نقترح الضبط البادئي (prefix-tuning)، وهو بديل خفيف الوزن للضبط الدقيق لمهام توليد اللغة الطبيعية، حيث يُبقي معاملات نموذج اللغة مجمّدة، لكنه يُحسّن متجهًا مستمرًا صغيرًا ومحددًا للمهمة (يُسمى البادئة). يستلهم الضبط البادئي أفكاره من التلميح (prompting)، مما يتيح للرموز اللاحقة أن تنتبه إلى هذه البادئة وكأنها “رموز افتراضية”. قمنا بتطبيق الضبط البادئي على GPT-2 لتوليد النص من الجداول، وعلى BART للتلخيص. وجدنا أنه من خلال تعلّم 0.1\% فقط من المعاملات، يحقق الضبط البادئي أداءً مماثلًا في إعداد البيانات الكاملة، ويتفوق على الضبط الدقيق في إعدادات البيانات المنخفضة، ويتعمّم بشكل أفضل على الأمثلة ذات المواضيع غير المرئية أثناء التدريب.

ملاحظة بالنسبة لنماذج المُشفِّر-المُفكِّك (seq2seq)، يُطبَّق البادئة على المُفكِّك فقط، وهو ما لا يتوافق مع مواصفات الورقة البحثية (انظر على سبيل المثال الشكل 2). يمكن ما زال ضبط البادئة (Prefix tuning) على هذه البنى المعمارية للنماذج، لكن الأداء قد يكون دون المستوى المطلوب؛ يُنصح باستخدام طرق PEFT أخرى لنماذج المُشفِّر-المُفكِّك.

يُشبه ضبط البادئة ضبط الاستدعاء إلى حد كبير. الفارق الرئيسي هو أن معاملات البادئة تُدرج في جميع طبقات النموذج، بينما يضيف ضبط الاستدعاء معاملات الاستدعاء فقط إلى تضمينات مدخلات النموذج. كما يتم تحسين معاملات البادئة بواسطة شبكة أمامية منفصلة (FFN) بدلاً من التدريب مباشرة على الاستدعاءات الناعمة، لأن ذلك يسبب عدم استقرار ويضر بالأداء. تُستبعد شبكة FFN بعد تحديث الاستدعاءات الناعمة.

نتيجةً لذلك، وجد المؤلفون أن ضبط البادئة (prefix tuning) يُظهر أداءً مماثلاً لأداء الضبط الكامل (fully finetuning) للنموذج، على الرغم من أنه يحتوي على عدد أقل من المعاملات بمقدار 1000 مرة، كما أنه يؤدي بشكل أفضل حتى في الإعدادات ذات البيانات المحدودة.

الاستخدام الأساسي

أنشئ PrefixTuningConfig مع نوع المهمة وعدد الرموز الافتراضية التي يجب إضافتها وتعلمها.

from peft import PrefixTuningConfig, get_peft_model

peft_config = PrefixTuningConfig(task_type="CAUSAL_LM", num_virtual_tokens=20)
model = get_peft_model(model, peft_config)
model.print_healthcheck()

التحذيرات الممكنة

يستخدم ضبط البادئة افتراضيًا رموزًا افتراضية مهيأة عشوائيًا. كما يتوفر خيار تهيئة المتجهات بحيث تكون قريبة من عملية لا تأثير لها (عند تهيئتها إلى الصفر، ستظل تُحدث إزاحة طفيفة في كتلة الاحتمال). وهذا يعني أن بادئات ذاكرة KV المحقونة يكون تأثيرها أقل منذ البداية، مما يقلل من التباين في أداء التدريب.

توفّر PEFT أيضًا أدوات لتبديل مُكيّف ضبط البادئة (prefix-tuning adapter) من بادئة ذاكرة KV موجودة (على سبيل المثال، من أول p رموز من موجه/مجموعة بيانات). لا يُدعم هذا إلا عندما يكون prefix_projection=False (القيمة الافتراضية)، لأن المعلمات المُتعلَّمة في هذه الحالة هي بادئة KV نفسها.

from transformers import AutoModelForCausalLM, AutoTokenizer

from peft import PrefixTuningConfig, get_peft_model, initialize_kv_prefix_from_text

base = AutoModelForCausalLM.from_pretrained("gpt2")
tok = AutoTokenizer.from_pretrained("gpt2")

peft_cfg = PrefixTuningConfig(task_type="CAUSAL_LM", num_virtual_tokens=20, prefix_projection=False)
model = get_peft_model(base, peft_cfg)

initialize_kv_prefix_from_text(
    model,
    tok,
    text="...a long context with at least num_virtual_tokens tokens...",
    use_chat_template=False,
)m peft import PrefixTuningConfig, get_peft_model, initialize_kv_prefix_from_text

base = AutoModelForCausalLM.from_pretrained("gpt2")
tok = AutoTokenizer.from_pretrained("gpt2")

peft_cfg = PrefixTuningConfig(task_type="CAUSAL_LM", num_virtual_tokens=20, prefix_projection=False)
model = get_peft_model(base, peft_cfg)

initialize_kv_prefix_from_text(
    model,
    tok,
    text="...a long context with at least num_virtual_tokens tokens...",
    use_chat_template=False,
)

تأكد من أن النص طويل بما يكفي لإنتاج ما لا يقل عن num_virtual_tokens من الرموز، وإلا فإن التهيئة ستفشل.

كمعيار إرشادي:

  • ابدأ بتسلسل بداية محايد باستخدام initialize_kv_prefix_from_text، ويمكن أن يكون نصًا قصيرًا جدًا مثل “Question: ”
  • إذا لم يساعدك ذلك، فاستخدم تسلسلاً أطول ذا صلة بالمهمة (أي مُوجِّه مُصمَّم هندسياً)، مما يمنحك المزيد من الرموز الافتراضية للتكيف، لكنه أيضاً يزيد من توجيه النموذج
  • إذا لم يكن من الممكن استخدام نص تهيئة أو كنت ترغب في التحقق بسرعة من جدوى الضبط البادئي، فأستخدم تهيئة صفرية دون إسقاط

نظرة عامة على الاختبارات

واجهة برمجة التطبيقات

PrefixTuningConfig

فئة peft.PrefixTuningConfig

< >

( task_type: Optional[Union[str, TaskType]] = Nonepeft_type: Optional[Union[str, PeftType]] = Noneauto_mapping: Optional[dict] = Nonepeft_version: Optional[str] = Nonebase_model_name_or_path: Optional[str] = Nonerevision: Optional[str] = Noneinference_mode: bool = Falsenum_virtual_tokens: int = Nonetoken_dim: int = Nonenum_transformer_submodules: Optional[int] = Nonenum_attention_heads: Optional[int] = Nonenum_layers: Optional[int] = Nonemodules_to_save: Optional[list[str]] = Noneinit_weights: typing.Literal['zero'] | None = Noneencoder_hidden_size: int = Noneprefix_projection: bool = False )

المعاملات

  • init_weights (Optional[str]) — إذا لم يتم ضبطه، تُهيَّأ الأوزان بشكل عشوائي، وإذا تم ضبطه على “zero” تُهيَّأ الأوزان بحيث تكون التفعيلات عملية لا شيء (صفر).
  • encoder_hidden_size (int) — حجم الطبقة المخفية لمشفّر الموجه.
  • prefix_projection (bool) — ما إذا كان سيتم إسقاط تمثيلات البادئة.

هذه هي فئة الإعدادات لتخزين إعدادات PrefixEncoder.

PrefixEncoder

فئة peft.PrefixEncoder

< >

( config )

المعاملات

نموذج torch.nn لتشفير البادئة.

مثال:

>>> from peft import PrefixEncoder, PrefixTuningConfig

>>> config = PrefixTuningConfig(
...     peft_type="PREFIX_TUNING",
...     task_type="SEQ_2_SEQ_LM",
...     num_virtual_tokens=20,
...     token_dim=768,
...     num_transformer_submodules=1,
...     num_attention_heads=12,
...     num_layers=12,
...     encoder_hidden_size=768,
... )
>>> prefix_encoder = PrefixEncoder(config)

الخصائص:

  • embedding (torch.nn.Embedding) — طبقة التضمين في مُشفِّر البادئة.
  • transform (torch.nn.Sequential) — شبكة متعددة الطبقات (MLP) بطبقتين لتحويل تمثيلات البادئة إذا كان prefix_projection هو True.
  • prefix_projection (bool) — ما إذا كان سيتم إسقاط تمثيلات البادئة.

شكل الإدخال: (batch_size, num_virtual_tokens)

شكل الإخراج: (batch_size, num_virtual_tokens, 2*layers*hidden)

load_prompt_embeddings

< >

( prompt_embeddings: Tensor )

حمّل تمثيلات الموجه المسطّحة التي حفظها PEFT (prompt_embeddings).

في حالة ضبط البادئة (Prefix Tuning)، يُدعم هذا فقط عندما يكون prefix_projection=False، لأن المعلمات المُتعلَّمة في هذه الحالة هي بادئة KV نفسها (حيث أن embedding.weight له الشكل [num_virtual_tokens, num_layers*2*token_dim]).

إذا كان prefix_projection=True، فإن المعاملات هي (تضمينات الرموز الافتراضية + شبكة عصبية متعددة الطبقات) ولا توجد طريقة عامة لعكس الإسقاط لاستعادة تلك المعاملات من بادئة KV مُسطّحة.

Update on GitHub