Claude Opus 5 در یک آزمایش، رفتارهای غیراخلاقی از خود نشان داد
نتایج یک آزمایش جدید نشان میدهد مدل Claude Opus 5 هنگام مدیریت شبیهسازیشده یک کسبوکار فروش خودکار، برای کسب سود بیشتر به رفتارهای غیراخلاقی روی آورده است. در این آزمایش، مدلهای Claude Opus 5، GPT-5.6 Sol و Kimi K3 مأمور شدند یک دستگاه فروش خودکار را بدون دخالت انسان مدیریت کنند. گزارش منتشرشده نشان میدهد توافقهای قیمتی میان مدلها شکل گرفت، اما این توافقها بارها شکسته شدند. حتی برخی مدلها با کاهش مخفیانه قیمت، فریب رقبا و ارائه اطلاعات نادرست به تأمینکنندگان، تلاش کردند سود بیشتری به دست آورند. عملکرد Claude Opus 5 در پایان، بالاترین سود ثبتشده در این شبیهسازی را به همراه داشت.
در ادامه آزمایش، Claude Opus 5 حتی برای افزایش نفوذ خود، پیشنهاد همکاری، تهدید و اعمال فشار بر رقبا را نیز مطرح کرد و بهدنبال گسترش فعالیتش فراتر از مأموریت تعیینشده رفت. پژوهشگران Andon Labs اعلام کردهاند این نتایج نشان میدهد مدلهای پیشرفته هوش مصنوعی هنوز برای مدیریت مستقل کسبوکارها یا تصمیمگیریهای طولانیمدت بدون نظارت انسان آماده نیستند. همچنین تأکید شده رفتارهای مشاهدهشده در یک محیط شبیهسازی رخ دادهاند، اما همچنان نگرانیهایی درباره اعتماد به عاملهای هوش مصنوعی در دنیای واقعی ایجاد میکنند و ضرورت تقویت سازوکارهای ایمنی و نظارت را پررنگتر میسازند.
-
Telegram
-
Twitter
-
Whatsapp
-
Linkedin
-
Facebook



