هوش مصنوعی چگونه می تواند انسان ها را نابود کند؟ به گزارش عصر لینک، آیا هوش مصنوعی پیشرفته واقعا می تواند روزی به نابودی انسان ها منجر شود؟ در چه شرایطی هوش مصنوعی می تواند انسان را میان بردارد؟ به گزارش عصر لینک به نقل از خبر آنلاین، مقاله ای در وب سایت The Conversation پنج سناریو را بررسی نموده که از یک خطر ناشناخته برای انسان تا جنگ هسته ای و فروپاشی اجتماعی را شامل می شود. اینها سناریوهایی جهت بررسی ریسک های احتمالی هوش مصنوعی اند. ۱. شاید اصلاً ندانیم چه اتفاقی می افتد نخستین سناریو از تمام مبهم تر است. اگر روزی هوش مصنوعی به سطحی از توانایی برسد که از انسان در تقریبا همه زمینه ها باهوش تر باشد، پیش بینی رفتار آن برای ما بسیار دشوار خواهد بود. مشکل اینجاست که برای فهمیدن کاری که یک هوش مصنوعی فوق هوشمند می تواند انجام دهد، شاید خودمان به سطحی مشابه از هوش نیاز داشته باشیم. البته هوش مصنوعی امروزی هنوز با چنین تعریفی از ابرهوش فاصله دارد. ۲. سناریوی «گیره کاغذ» یکی از مشهورترین مثال ها در بحث ایمنی هوش مصنوعی، ماشینی است که مأموریتش تولید هرچه بیشتر گیره کاغذ است. اگر چنین سامانه ای هدف خویش را بدون هیچ محدودیتی دنبال کند، ممکنست انسان و حتی منابع زمین را صرفا موادی برای رسیدن به هدف خود ببیند. مساله در این سناریو نفرت از انسان نیست، بلکه اجرای بسیار مؤثر یک هدف اشتباه یا ناقص است. البته چنین هوشی برای تبدیل زمین به کارخانه گیره کاغذ باید قدرت حقیقی و دسترسی گسترده ای هم داشته باشد. ۳. سلاح های زیستی سناریوی دیگر، استفاده از هوش مصنوعی پیشرفته برای طراحی یا توسعه یک عامل بیماری زا است.این نگرانی کاملا فرضی نیست. محققان در سالیان اخیر نشان داده اند که مدلهای هوش مصنوعی زیستی می توانند در طراحی توالی های ژنتیکی نقش داشته باشند. با این وجود، نابودی کل انسان ها با یک ویروس بسیار دشوار است. یک عامل بیماری زا باید به میزان کافی قابل انتقال باشد و با این حال کشندگی بسیار بالایی داشته باشد، ترکیبی که از نظر زیستی پیچیده است. ۴. جنگ هسته ای هوش مصنوعی لزوماً نباید خودش سلاح هسته ای بسازد. کافی است به هر شکلی وارد زنجیره تصمیم گیری نظامی شود و اطلاعات اشتباه تولید نماید یا یک تهدید ساختگی را حقیقی نشان دهد. در وضعیت بحرانی، چنین خطایی می تواند تصمیم گیری انسانی را تحت تاثیر قرار دهد و خطر درگیری هسته ای را افزایش دهد. نگرانی اصلی فقط انفجارهای هسته ای نیست. پیامدهایی مانند قحطی گسترده بعد از یک جنگ هسته ای هم می تواند فاجعه بار باشد. ۵. خطر اصلی شاید خود انسان ها باشند جالب ترین سناریو شاید این باشد که هوش مصنوعی مستقیماً انسان ها را نکشد، بلکه مشکلات موجود در جامعه را تشدید کند. از دست رفتن گسترده مشاغل، انتشار اطلاعات جعلی، تشدید شکاف های سیاسی و وابستگی شدید به همراهان مصنوعی می تواند به فرسایش نهادهای اجتماعی منجر شود. در این تصویر، هوش مصنوعی بیشتر یک شتاب دهنده است تا یک قاتل مستقل. بالاخره، این سناریوها نشان نمی دهند که نابودی بشر توسط هوش مصنوعی حتمی است. آنها بیشتر یک سؤال را مطرح می کنند که اگر هوش مصنوعی بسیار قدرتمندتر از امروز شود، چطور باید مطمئن شویم قدرت آن با اهداف انسانی سازگار باقی می ماند؟بطور خلاصه، شاید اصلاً ندانیم چه اتفاقی می افتد اولین سناریو از تمام مبهم تر است. سناریوی گیره کاغذ یکی از مشهورترین مثال ها در بحث ایمنی هوش مصنوعی، ماشینی است که مأموریتش تولید هرچه بیشتر گیره کاغذ است. منبع: عصر لینك 1405/07/04 11:07:13 3 0.0 / 5 تگهای مطلب: تولید , هوش مصنوعی , هوشمند , وب این پست عصر لینک را می پسندید؟ (0) (0) تازه ترین مطالب مرتبط درصد چربی بدن روی دقت ساعت هوشمند اثر دارد قیمت برق خورشیدی سقوط کرد چین چه طور انرژی پاک را ارزان کرد؟ مدیرعامل انویدیا از جهش فروش تراشه ها در سال آینده می گوید قول بدهید که بشریت را نابود نمی کنید مغز در خواب وارد حالت پاک سازی می شود هوش مصنوعی پرده از یک راز برداشت نظرات بینندگان در مورد این مطلب نظر شما در مورد این مطلب نام: ایمیل: نظر: سوال: = ۳ بعلاوه ۲