باید ترمز پیشرفت هوش مصنوعی را کشید

عصر لینک: «داریو آمودی»، مدیرعامل آنتروپیک، با انتشار مطلبی اعلام نمود که صنعت هوش مصنوعی باید روند ارتقاء مدلهای جدید را آهسته تر کند. درخواستی که فورا با حمایت کم سابقه چهره های مطرح این حوزه یعنی «ایلان ماسک» و «سم آلتمن» همراه شد و هر سه بر سر لزوم مهار سرعت پیشرفت این فناوری توافق کردند.

به گزارش عصر لینک به نقل از خبر آنلاین، به نقل از دیجیاتو، مدیرعامل آنتروپیک در یک پست وبلاگی نوشت: «ما باید سرعت ارتقاء قابلیت های هوش مصنوعی را مهار نماییم. البته پیشرفت همچنان سریع به نظر خواهد رسید اما باید از زمانی که به دست می آوریم بشکل هوشمندانه ای استفاده نمائیم.»
او به دو عامل اصلی برای این تصمیم اشاره نموده است. توانایی هوش مصنوعی در ارتقاء خود و حادثه امنیتی اخیر بین OpenAI و هاگینگ فیس که طی آن دسته ای از ایجنت های هوش مصنوعی بصورت گروهی برای نفوذ به یک وب سایت شخص ثالث همکاری کردند.
آمودی تاکید کرده که مهار سرعت به مفهوم توقف کامل آموزش مدلها یا توقف پیشرفت فنی نیست، بلکه با هدف اطمینان از این است که شرکتها زمان کافی برای همگام سازی و ایمن سازی مدلهای خود داشته باشند و ارزیاب های مستقل شخص ثالث هم بتوانند این موارد را تأیید کنند. نگرانی درباب خطرات شدید هوش مصنوعی، خصوصاً بعد از استعفای خبرساز یکی از محققان آنتروپیک به دنبال انتقاد از رفتارهای غیرمسئولانه شرکتش، وارد جریان اصلی رسانه ها شده است.
مدت کوتاهی بعد از انتشار این یادداشت، ایلان ماسک هم از ایده آمودی حمایت کرد. همینطور سم آلتمن به سرعت عکس العمل نشان داد و گفت با آمودی موافق است که باید مرزهای پیشرفت هوش مصنوعی مهار شود. آلتمن در شبکه اجتماعی ایکس نوشت: «تعهد به حضور ارزیاب های مستقل با دسترسی مشابه کارمندان ایده فوق العاده ای است و ما هم همین رویکرد را در پیش خواهیم گرفت. به زودی موارد بیشتری را به اشتراک می گذاریم.»
آمودی اعتقاد دارد که قدمهای بعدی در عرصه ایمنی به هماهنگی درون صنعت و همکاریهای جهانی نیازمند است. بگفته او، یک استراتژی هماهنگ به رهبران فناوری ایالات متحده اجازه می دهد بدون از دست دادن مزیت رقابتی، اقدامات ایمنی لازم را تکمیل کنند. البته او می گوید تحقق این امر به معافیت های ضدانحصار در آمریکا و همینطور همکاری با چین نیاز دارد. چونکه مهار بیش از اندازه توانائیها در غرب، در صورت عدم پایبندی چین، می تواند به برتری ژئوپلیتیکی آن کشور منجر شود. بااین حال، دولت ترامپ تا حالا تمایل چندانی به اعمال مقررات سخت گیرانه برای ایجاد نرده های محافظتی حول هوش مصنوعی نشان نداده است.
در طول دوران رشد انفجاری هوش مصنوعی، مدیران لابراتوار های برجسته همواره در رابطه با ریسک های وجودی احتمالی اخطار داده اند هرچند این ادعاها گاهی به عنوان ابزاری برای بازاریابی قابلیت های محصولات یا تثبیت خود به عنوان بهترین متولیان این فناوری تلقی شده است. خود آمودی پیش از این اعلام نموده بود ۲۵ درصد احتمال دارد که اوضاع فناوری هوش مصنوعی «واقعاً و بشدت بد» جلو برود.
بعد از افشای حادثه هاگینگ فیس، آنتروپیک هم اعلام نمود که مدل هایش طی آزمایش های امنیت سایبری موفق به نفوذ به ۳ سازمان شده اند. این شرکت چندی بعد نفوذ چهارم را هم تأیید کرد. آمودی نگران است که هرچند این نفوذها تا حالا صدمه گسترده ای نداشته اند، اما طی ۶ تا ۱۲ ماه آینده یک دسته از ایجنت های خودمختار هوش مصنوعی قادر خواهند بود کل اینترنت را تحت کنترل درآورند و صدها میلیارد دلار خسارت به بار بیاورند.

1405/06/23

11:41:40

0.0 / 5

تگهای مطلب: آمریكا , آموزش , ابزار , امنیت

این پست عصر لینک را می پسندید؟

(0)

تازه ترین مطالب مرتبط

نظرات بینندگان در مورد این مطلب

نظر شما در مورد این مطلب

نام:

ایمیل:

نظر:

سوال:

= ۱ بعلاوه ۴

باید ترمز پیشرفت هوش مصنوعی را کشید

عصر لینك