پرش به محتوای اصلی

جست‌وجو در مدل‌ها، ابزارها، سرویس‌ها، شرکت‌ها، ارائه‌دهندگان، APIها، پلن‌ها، مقالات و اخبار.

آموزش و تنظیم

لورا (تنظیم دقیق کم‌رده)

LoRA

لورا (تنظیم دقیق کم‌رده)

روش تنظیم دقیق ارزان: به‌جای آموزش همه پارامترها، فقط چند ماتریس کوچک اضافه می‌شود؛ نتیجه، سفارشی‌سازی مدل با کسری از هزینه.

LoRA (سازگاری کم‌رده) روش آموزش کارآمدِ مدل است: به‌جای دست‌زدن به میلیاردها پارامتر اصلی، فقط چند ماتریس کوچک اضافه روی لایه‌ها آموزش داده می‌شود. هزینه‌ی fine-tuning از «خوشه‌ی GPU» به «یک کارت گرافیک» می‌افتد.

چرا همه‌جا شده: نسخه‌پذیری (روی یک مدل پایه، ده‌ها LoRA برای ده کار)، سرعت (چند ساعت) و پاک‌شدنی بودن (برگردان به مدل پایه). در اکوسیستم متن‌باز، LoRA یعنی دموکراتیزه‌شدن سفارشی‌سازی مدل.

مراقبت: LoRAهای زیاد روی هم کیفیت را خراب می‌کنند؛ و برای تزریق دانش حجیم، هنوز RAG منطقی‌تر است. LoRA برای رفتار و سبک ساخته شده، برای بانک دانش نه.

بازگشت به واژه‌نامه