PEFT documentation
PEFT entegrasyonları
PEFT entegrasyonları
PEFT’nin pratik faydaları, Diffusers ve Transformers gibi diğer Hugging Face kütüphanelerine de uzanır. PEFT’nin başlıca faydalarından biri, bir PEFT yöntemiyle üretilen bir adaptör dosyasının orijinal modelden çok daha küçük olmasıdır; bu da birden fazla adaptörü yönetmeyi ve kullanmayı son derece kolay hale getirir. Çözdüğünüz görev için ince ayar yapılmış yeni bir adaptör yükleyerek, birden fazla görev için tek bir önceden eğitilmiş temel model kullanabilirsiniz. Veya metinden görüntüye difüzyon modeliyle birden fazla adaptörü birleştirerek yeni efektler oluşturabilirsiniz.
Bu eğitim, PEFT'nin Diffusers ve Transformers'taki adaptörleri yönetmenize nasıl yardımcı olabileceğini gösterecektir.
Diffusers
Diffusers, difüzyon modelleriyle metinden veya görüntülerden görüntü ve video üretmek için kullanılan bir üretken yapay zeka kütüphanesidir. LoRA, yeni stillerde görüntü üreten difüzyon modellerini çok hızlı bir şekilde eğitebilip paylaşabildiğiniz için difüzyon modellerinde özellikle popüler bir eğitim yöntemidir. Birden fazla LoRA modelini kullanmayı ve denemeyi kolaylaştırmak için Diffusers, çıkarım sırasında farklı adaptörleri yönetmeye yardımcı olmak üzere PEFT kütüphanesini kullanır.
Örneğin, bir taban model yükleyin ve ardından load_lora_weights yöntemiyle çıkarım için artificialguybr/3DRedmond-V1 adaptörünü yükleyin. Yükleme yöntemindeki adapter_name argümanı PEFT tarafından etkinleştirilir ve adaptöre bir ad vermenizi sağlayarak referans almayı kolaylaştırır.
import torch
from diffusers import DiffusionPipeline
device = torch.accelerator.current_accelerator().type if hasattr(torch, "accelerator") else "cuda"
pipeline = DiffusionPipeline.from_pretrained(
"stabilityai/stable-diffusion-xl-base-1.0", torch_dtype=torch.float16
).to(device)
pipeline.load_lora_weights(
"peft-internal-testing/artificialguybr__3DRedmond-V1",
weight_name="3DRedmond-3DRenderStyle-3DRenderAF.safetensors",
adapter_name="3d"
)
image = pipeline("sushi rolls shaped like kawaii cat faces").images[0]
image
Şimdi başka bir harika LoRA modelini deneyelim: ostris/super-cereal-sdxl-lora. Yapmanız gereken tek şey, bu yeni adaptörü adapter_name ile yükleyip adlandırmak ve set_adapters yöntemini kullanarak onu şu an aktif olan adaptör olarak ayarlamak.
pipeline.load_lora_weights(
"ostris/super-cereal-sdxl-lora",
weight_name="cereal_box_sdxl_v1.safetensors",
adapter_name="cereal"
)
pipeline.set_adapters("cereal")
image = pipeline("sushi rolls shaped like kawaii cat faces").images[0]
image
Son olarak, temel modeli geri yüklemek için disable_lora metodunu çağırabilirsiniz.
pipeline.disable_lora()
PEFT'nin Diffusers'ı nasıl desteklediği hakkında daha fazla bilgi için Inference with PEFT eğitimine göz atın.
Transformers
🤗 Transformers, tüm modallardaki tüm görev türleri için önceden eğitilmiş modellerin bir koleksiyonudur. Bu modelleri eğitim veya çıkarım için yükleyebilirsiniz. Modellerin çoğu büyük dil modeli (LLM) olduğundan, adaptörleri yönetmek ve eğitmek için PEFT'yi Transformers ile entegre etmek mantıklıdır.
Eğitmek için bir taban ön eğitilmiş model yükleyin.
from transformers import AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained("facebook/opt-350m")Ardından, model parametrelerinin nasıl uyarlanacağını belirtmek için bir adaptör yapılandırması ekleyin. Yapılandırmayı temel modele eklemek için add_adapter() metodunu çağırın.
from peft import LoraConfig
peft_config = LoraConfig(
lora_alpha=16,
lora_dropout=0.1,
r=64,
bias="none",
task_type="CAUSAL_LM"
)
model.add_adapter(peft_config)Artık modeli Transformer’ın Trainer sınıfı veya tercih ettiğiniz herhangi bir eğitim çerçevesiyle eğitebilirsiniz.
Yeni eğitilen modeli çıkarım için kullanmak için AutoModel sınıfı, arka planda PEFT'yi kullanarak adaptör ağırlıklarını ve yapılandırma dosyasını temel önceden eğitilmiş modele yükler.
from transformers import AutoModelForCausalLM
model = AutoModelForCausalLM.from_pretrained("peft-internal-testing/opt-350m-lora")Alternatif olarak, çıkarımı (inference) kolayca çalıştırmak için modeli yüklemek üzere Pipelines kullanabilirsiniz:
from transformers import pipeline
model = pipeline("text-generation", "peft-internal-testing/opt-350m-lora")
print(model("Hello World"))Birden fazla adaptörle karşılaştırma yapmak veya kullanmak istiyorsanız, adaptör yapılandırmasını temel modele eklemek için add_adapter() metodunu çağırabilirsiniz. Tek gereklilik, adaptör türünün aynı olmasıdır (LoRA ve LoHa adaptörlerini karıştıramazsınız).
from transformers import AutoModelForCausalLM
from peft import LoraConfig
model = AutoModelForCausalLM.from_pretrained("facebook/opt-350m")
model.add_adapter(lora_config_1, adapter_name="adapter_1")Yeni bir adaptörü temel modele eklemek için add_adapter() fonksiyonunu tekrar çağırın.
model.add_adapter(lora_config_2, adapter_name="adapter_2")Ardından set_adapter() işlevini kullanarak aktif olan adaptörü belirleyebilirsiniz.
model.set_adapter("adapter_1")
output = model.generate(**inputs)
print(tokenizer.decode(output_disabled[0], skip_special_tokens=True))Adaptörü devre dışı bırakmak için disable_adapters metodunu çağırın.
model.disable_adapters()
Adaptörleri yeniden etkinleştirmek için enable_adapters kullanılabilir.
Merak ediyorsanız, daha fazla bilgi edinmek için PEFT ile adaptörleri yükleme ve eğitme eğitimine göz atın.
Update on GitHub