پرش به محتوای اصلی

جست‌وجو در مدل‌ها، ابزارها، سرویس‌ها، شرکت‌ها، ارائه‌دهندگان، APIها، پلن‌ها، مقالات و اخبار.

استدلال، ایمنی و کیفیت

محافظ‌ها (گاردریل)

Guardrails

محافظ‌ها (گاردریل)

لایه‌های کنترلی دور مدل که خروجی‌های مضر، نامناسب یا خارج از سیاست را مسدود می‌کنند — جدا از خود مدل و معمولاً به‌شکل فیلتر ورودی/خروجی.

محافظ‌ها لایه‌های کنترلی دور مدل‌اند: فیلتر ورودی/خروجی، اعتبارسنجی قالب، سیاست‌های دامنه و ممیزی. جدا از خود مدل‌اند و همین نقطه‌ی قوتشان — با تغییر مدل، محافظ‌ها دست‌نخورده می‌مانند.

جعبه‌ی ابزار ۲۰۲۶: کتابخانه‌های متن‌باز (NeMo Guardrails، Guardrails AI)، بررسی با مدل کوچک، و ریل‌های ساختاریافته (JSON schema، محدودیت طول). محافظ خوب، ناظر بیرونی است نه توضیحِ بیشتر در پرامپت.

الگوی طراحی: مدل برای فهم، محافظ برای الزام. هر قرارداد خروجی (قالب، زبان، ارجاع) را به کد deterministic بسپارید که مدل فراموشش می‌کند.

بازگشت به واژه‌نامه