در این درس یاد می‌گیرید ارزیابی حرفه‌ای Prompt Injection را به یک تصمیم قابل اجرا تبدیل کنید. تمرکز فقط روی تعریف واژه‌ها نیست؛ هدف این است که مسئله، داده، معیار موفقیت و مسیر کنترل خطا را به زبان تیم محصول و عملیات بنویسید.

شناخت عمومی از مدل‌های AI، workflowهای کاربردی و اصطلاحات پایه برای دنبال‌کردن مثال‌ها کافی است.

ارزیابی حرفه‌ای Prompt Injection زمانی publish-ready است که ورودی، خروجی، owner و معیار پذیرش آن مشخص باشد. برای شروع، یک use case کوچک انتخاب کنید، baseline انسانی را نگه دارید و خروجی را با چند hard case بسنجید. سپس هزینه، latency، کیفیت و مسیر fallback را کنار هم ببینید.

برای ساخت چک‌لیست کنترل ریسک می‌توانید از NIST AI Risk Management Framework استفاده کنید و آن را با نیاز تیم خود ساده‌سازی کنید.

فرض کنید تیم شما می‌خواهد ارزیابی حرفه‌ای Prompt Injection را در یک فرایند واقعی اجرا کند. ابتدا سه نمونه موفق، سه نمونه شکست و یک مورد مبهم جمع کنید. بعد از آن، معیار پذیرش را بنویسید و مشخص کنید کدام خروجی باید به انسان ارجاع شود.

• مسئله و معیار پذیرش باید قبل از ابزار مشخص شود.
• هر خروجی حرفه‌ای به owner، log و مسیر fallback نیاز دارد.
• نمونه‌های شکست بخشی از آموزش هستند، نه حاشیه آن.
• گام بعدی باید به یک pilot کوچک و قابل سنجش وصل شود.

• شروع با ابزار قبل از تعریف مسئله و معیار پذیرش.
• نداشتن log و owner برای خطاهای بعد از انتشار.
• اعتماد به demo بدون آزمون روی داده واقعی و موردهای دشوار.

این درس ارزیابی حرفه‌ای Prompt Injection را با هدف، پیش‌نیاز، مثال، خطاهای رایج، کوییز سریع و گام بعدی توضیح می‌دهد تا یادگیرنده بتواند یک pilot قابل سنجش طراحی کند.

یک pilot دو هفته‌ای برای ارزیابی حرفه‌ای Prompt Injection طراحی کنید: دامنه، داده، معیار، reviewer، مسیر rollback و گزارش هفتگی کیفیت را در یک صفحه بنویسید.