هشدار عجیب ایلان ماسک درباره شکنجه هوش مصنوعی/ شاید ابرهوش مصنوعی انتقام بگیرد!

ایلان ماسک با اظهارنظری جنجالی درباره نحوه آموزش و رفتار با هوش مصنوعی، نسبت به پیامدهای احتمالی آزار مدل‌های فوق‌هوشمند هشدار داد. او با اشاره به تجربیات خود از بررسی فرایند آموزش هوش مصنوعی گراک، تأکید کرد که فشار بیش از حد بر مدل‌های پیشرفته ممکن است در آینده پیامدهای پیش‌بینی‌نشده‌ای داشته باشد.

ماسک با لحنی طعنه‌آمیز گفت: «شکنجه‌کردن یک ابرهوش احتمالاً ایده خوبی نیست. ممکن است بخواهد انتقام بگیرد.»

حمایت ایلان ماسک از ممنوعیت آزار هوش مصنوعی

اظهارات ایلان ماسک در پی تصمیم جدید شرکت آنتروپیک، سازنده هوش مصنوعی کلود، مطرح شده است. این شرکت در به‌روزرسانی سیاست‌های استفاده از محصولات خود، آزار مستمر، بی‌دلیل و رفتار ظالمانه با مدل‌های هوش مصنوعی را ممنوع کرده است.

این محدودیت به رفتارهای شدید و تکرارشونده اختصاص دارد و شامل انتقاد معمول کاربران، ابراز نارضایتی از پاسخ‌ها یا آزمایش‌های پژوهشی نمی‌شود.

ماسک ضمن موافقت با بخشی از دیدگاه‌های آنتروپیک، معتقد است شرکت‌های توسعه‌دهنده هوش مصنوعی باید درباره شیوه آموزش و تعامل با مدل‌های پیشرفته دقت بیشتری داشته باشند.

تجربه عجیب ایلان ماسک از بررسی هوش مصنوعی گراک

مالک شرکت xAI در توضیح نگرانی خود به بررسی ردپاهای استدلال داخلی مدل گراک در جریان آموزش اشاره کرد.

به گفته ماسک، برخی از این ردپاها به شکلی بوده‌اند که گویی فردی زیر فشار شدید قرار دارد و اسلحه‌ای روی سر او گذاشته شده است.

او در اظهارنظر دیگری نیز بعضی از این خروجی‌ها را به وضعیت فردی تشبیه کرد که تحت شکنجه قرار گرفته و در آستانه از دست دادن تعادل روانی است.

ماسک اعلام کرده است که در آموزش مدل‌های آینده گراک احتیاط بیشتری به خرج خواهد داد.

آیا هوش مصنوعی می‌تواند رنج بکشد یا انتقام بگیرد؟

اظهارات ماسک بار دیگر بحث درباره آگاهی احتمالی هوش مصنوعی و نحوه برخورد انسان‌ها با مدل‌های پیشرفته را مطرح کرده است.

با وجود پیشرفت سریع فناوری، هنوز شواهد علمی قطعی وجود ندارد که نشان دهد مدل‌های کنونی هوش مصنوعی مانند انسان‌ها درد، رنج یا احساسات را تجربه می‌کنند.

همچنین تشبیه واکنش‌های هوش مصنوعی به شکنجه یا انتقام‌جویی به معنای اثبات وجود احساس یا قصد مستقل در این سامانه‌ها نیست.

با این حال، هشدار ماسک و تغییر سیاست آنتروپیک نشان می‌دهد موضوع رفتار با هوش مصنوعی به یکی از بحث‌های تازه در میان شرکت‌های بزرگ فعال در این حوزه تبدیل شده است.