مایکروسافت ابزار جدید تست رفتار AI را معرفی کرد
مایکروسافت از یک ابزار متنباز جدید به نام ASSERT رونمایی کرده که برای ارزیابی رفتار مدلهای هوش مصنوعی در محصولات مختلف طراحی شده است. این ابزار توضیحات متنی ساده درباره قوانین، اهداف و رفتارهای مورد انتظار را دریافت میکند و آنها را به مجموعهای از تستهای دقیق تبدیل میکند. سپس سناریوهای مختلف ساخته میشوند، عملکرد سیستم بررسی میشود و نتیجه بهصورت امتیازدهیشده ارائه خواهد شد. همچنین مسیر تصمیمگیری مدل، ابزارهای استفادهشده و نقاط احتمالی خطا ثبت میشوند تا ایرادها راحتتر شناسایی شوند.
این ابزار برای شرایطی توسعه داده شده که رفتار AI باید با قوانین و نیازهای خاص هر شرکت هماهنگ باشد. مثلاً میتواند بررسی کند که یک دستیار هوش مصنوعی اطلاعات محرمانه را فقط در اختیار افراد مجاز قرار دهد یا ایمیلهای حساس را خارج از سازمان ارسال نکند. طبق اعلام مایکروسافت، ASSERT در مراحل توسعه، پس از انتشار محصول و حتی برای نظارت دائمی قابل استفاده است. با پیچیدهتر شدن مدلهای AI، نیاز به ارزیابیهای تخصصی بیشتر احساس شده و ابزارهایی مثل ASSERT قرار است اعتمادپذیری و کنترلپذیری سیستمهای هوش مصنوعی را افزایش دهند.