این درس کمک می‌کند قبل از ساخت یک قابلیت AI، محدوده ریسک آن را روشن کنید. governance قرار نیست فرم اداری اضافه کند؛ هدفش این است که تیم بداند چه کسی تصمیم می‌گیرد، چه چیزی ثبت می‌شود و در چه شرایطی قابلیت متوقف می‌شود.

شناخت عمومی از مدل‌های AI، workflowهای کاربردی و اصطلاحات پایه برای دنبال‌کردن مثال‌ها کافی است.

این درس کمک می‌کند قبل از ساخت یک قابلیت AI، محدوده ریسک آن را روشن کنید. governance قرار نیست فرم اداری اضافه کند؛ هدفش این است که تیم بداند چه کسی تصمیم می‌گیرد، چه چیزی ثبت می‌شود و در چه شرایطی قابلیت متوقف می‌شود.

ریسک را در چهار گروه ببینید: داده حساس، تصمیم اثرگذار بر کاربر، ادعای بدون منبع و رفتار غیرقابل توضیح. هر گروه باید مالک و معیار کنترل جدا داشته باشد.

در یک سیستم خلاصه‌سازی اسناد حقوقی، مدل نباید توصیه حقوقی مستقل بدهد. باید فقط خلاصه منبع‌دار ارائه کند، بخش‌های نامطمئن را علامت بزند و تصمیم نهایی را به کارشناس بسپارد.

• ریسک AI فقط فنی نیست؛ مالکیت، داده، مسئولیت و تجربه کاربر را هم شامل می‌شود.
• هر قابلیت حساس باید policy دسترسی، logging و مسیر اعتراض داشته باشد.
• human review باید در نقطه‌ای قرار بگیرد که واقعاً ریسک را کم کند.
• قبل از انتشار، معیار توقف و rollback را مکتوب کنید.

راهنمای عملی برای تعریف مالکیت، policy، logging، human review و تصمیم‌های توقف در پروژه‌های AI سازمانی.

برای هر قابلیت AI یک risk card کوتاه بسازید: دامنه، داده، کاربران، failure mode، کنترل‌ها، owner و معیار توقف. این card باید قبل از rollout توسط محصول و فنی تایید شود.