سم آلتمن: اگر کنترل هوش مصنوعی را از دست بدهیم شاید دیگر آنرا پس نگیریم به گزارش عصر لینک، مدیرعامل OpenAI دو سناریوی فاجعه بار را پیشبینی کرده است: واگذاری بازگشت ناپذیر کنترل آینده به ماشین ها یا انحصار قدرت بوسیله ی یک شرکت یا دولت. به گزارش عصر لینک به نقل از خبر آنلاین و برپایه گزارش دیجیاتو، «سم آلتمن» بخش عمده ای از زمان خودرا صرف تشریح مزایای هوش مصنوعی و کوشش برای بهبود جهان و همین طور ایستادگی در مقابل پیشبینی های آخرالزمانی می کند. بااین حال، مدیرعامل شرکت OpenAI دیدگاه های بسیار شوکه کننده ای در رابطه با شرایطی دارد که توسعه هوش مصنوعی می تواند به فاجعه ختم شود. وی در قسمت جدیدی از پادکست Figuring Out With Raj Shamani با جزئیاتی تامل برانگیز به تشریح این نگرانی ها پرداخت. به قول آلتمن، دو سناریوی ویران کننده وجود دارد که از دو معضل تقریبا متضاد ریشه می گیرند؛ یا بشریت کنترل ماشین های قدرتمندتر از خودرا از دست می دهد، یا یک گروه خاص انحصار و کنترل بیشتر این فناوری را تصاحب می کند. او در رابطه با این دو وضعیت گفته است: «یکی این است که کنترل به هوش مصنوعی واگذار شود؛ ما به صورت عمدی یا تصادفی مهار آینده را به سیستم هایی واگذار نماییم که بشکلی باورنکردنی توانمندتر از ما هستند و دیگر نتوانیم آنرا پس بگیریم. سناریوی دیگر این است که یک فرد، یک شرکت یا یک کشور، در مقایسه با دیگران بیشتر از حد قدرتمند شود.» سناریوی اول بر خلاف کلیشه های قدیمی شورش روبات ها، در حقیقت تسلیم آرام اختیارات انسان به هوش مصنوعی است؛ تا جایی که دیگر امکان بازپس گیری عاملیت از نرم افزار ناممکن خواهد بود. سناریوی دوم نیز شبیه داستانهای علمی تخیلی مدرن است که در آن، یک تکنولوژی مقتدر در دستان یک فرد یا شرکت متمرکز شده و بقیه افراد تحت اراده آنها قرار می گیرند. باآنکه این دو سناریو به صورت مداوم توسط کنشگران این حوزه و سیاست گذاران به بحث گذاشته شده، اما هشدار مستقیم آلتمن بعنوان یکی از محوری ترین چهره های هوش مصنوعی اهمیتی دوچندان دارد. ورود به عرصه تصمیم گیری و نتایج واگذاری کنترل نگرانی از مهارناپذیری هوش مصنوعی به جهت واگذاری اختیارات از طرف انسان ها، در سالیان اخیر بسیار جدی تر شده است؛ چونکه این سیستم ها حالا از پاسخ گویی ساده فراتر رفته و به حوزه تصمیم گیری وارد شده اند. مدلها و ایجنت ها حالا می توانند در وب تعامل داشته و تکالیف پیچیده را با پایین ترین میزان نظارت انسانی انجام دهند. هرچه مسئولیت های محول شده به این سیستم ها بیشتر شود، نتایج فاصله گرفتن اهداف آنها از مقاصد واقعی انسان ها نیز شدیدتر خواهد بود. باید به یاد داشت که هوش مصنوعی فعلی بر پایه پیشبینی احتمالات کار می کند. هرچند این سامانه ها بسیار قدرتمند هستند و از انبوهی از داده ها استفاده می نمایند، اما مانند انسان توانایی قضاوت و درک ندارند و برای لطمه رسانی حتما احتیاجی به داشتن انگیزه خباثت آمیز نیست؛ بنابراین در شبیه سازی های مدیریت کشورها، گاهی به تصمیم فاجعه باری مانند استفاده از سلاح هسته ای متوسل می شوند. نگرانی های آلتمن در تعارضی ملموس با جایگاه و اقدامات شرکت تحت مدیریتش قرار دارد. OpenAI تابحال در ابعاد مختلفی تسلط خودرا تثبیت کرده و آلتمن نیز در تشریح قدرت سازمان خود می گوید: «فکر می کنم ما بیشترین تعداد کاربر و بهترین مجموعه فناوری را از تراشه ها گرفته تا مراکز داده و مدلها و سایر اجزا در اختیار داریم؛ زیرساختی که هوشمندی فراوان را به دستان مردم می رساند. ما بهترین برند و ارزش هایی را داریم که استفاده کنندگان از این فنآوری به دنبال آن هستند؛ بااین حال می خواهیم دیگران نیز موفق شوند و تصور می کنم مردم این نگاه را از جانب ما حس می کنند.» با وجود تمام هشدارها، آلتمن نسبت به مسیر پیش رو و آینده بشر خوش بین است و باور دارد نسل های بعد با این فضا سازگار خواهند شد. وی در این رابطه توضیح داد: «نمی دانم آینده چطور خواهد بود، اما خیالم راحت است و اعتماد بسیار عمیقی به توانایی مردم برای سازگاری، پیشرفت و بهتر ساختن جامعه برای همه ما دارم؛ گمان می کنم دنیا به احتمال زیاد روزبه روز بهتر خواهد شد.» این نگاه مثبت به برنامه های OpenAI برای بهره برداری از هوش مصنوعی در اکتشافات علمی نیز گسترش یافته است. آلتمن در رابطه با چشم انداز آینده توضیح داد: «بسیار هیجان زده ام که ببینم چقدر می توانیم هوش مصنوعی را برای کشف علوم تازه به جلو ببریم. من ماشینی را تصور می کنم که بتواند به درک بهتر ما از جهان کمک کند؛ عمیق ترین بینش ها در علم فیزیک، درمان های پزشکی نوین و منابع جدید انرژی را آشکار سازد؛ چیزهایی که شاید هم اکنون حتی تصورش را هم نمی توانیم بکنیم اما با درک علمی بهتر ممکن می شوند. برای ساخت چنین ماشینی فوق العاده هیجان زده ام.» اظهارات جدید آلتمن درحالی طرح شده اند که هفته ها پیش او از انتشار موفقیتهای ریاضی بیشتر توسط هوش مصنوعی آگاهی داده بود. همین طور «گرگ براکمن»، دیگر هم بنیانگذار OpenAI در یک کنفرانس این ایده را مطرح کرده بود که هوش مصنوعی شاید در آینده مرگ را به گزینه ای اختیاری تبدیل کند.بطور خلاصه وی در رابطه با این دو وضعیت گفته است: یکی اینست که کنترل به هوش مصنوعی واگذار شود؛ ما به شکل عمدی یا تصادفی مهار آینده را به سیستم هایی واگذار نماییم که بشکلی باورنکردنی توانمندتر از ما هستند و دیگر نتوانیم آن را پس بگیریم. ورود به عرصه تصمیم گیری و نتایج واگذاری کنترل نگرانی از مهارناپذیری هوش مصنوعی به سبب واگذاری اختیارات از سوی انسان ها، در سالیان اخیر خیلی جدی تر شده است؛ چراکه این سیستم ها حالا از پاسخ گویی ساده فراتر رفته و به حوزه تصمیم گیری وارد شده اند. هرچند این سیستم ها خیلی قدرتمند هستند و از انبوهی از داده ها استفاده می نمایند، اما مانند انسان توانایی قضاوت و درک ندارند و برای لطمه رسانی حتماً احتیاجی به داشتن انگیزه خباثت آمیز نیست؛ بدین سبب در شبیه سازی های مدیریت کشورها، گاهی به تصمیم فاجعه باری مانند استفاده از اسلحه هسته ای متوسل می شوند. منبع: عصر لینک 1405/08/17 11:27:19 3 0.0 / 5 تگهای مطلب: تراشه , تکنولوژی , سیستم این پست عصر لینک را می پسندید؟ (0) (0) تازه ترین مطالب مرتبط ردمی توربو ۶ مکس با باتری ۱۱ هزار میلی آمپرساعتی می آید سوسکی که فشار چرخ خودرو را تحمل می کند، الهام بخش روش جدید تعمیر هواپیما شد پالانتیر شرکتی که هوش مصنوعی را به یکی از ابزارهای جنگ مدرن تبدیل کرد اپل تصویر ژست حساسیت برانگیز دست را از تبلیغ آیپد مینی در کره جنوبی حذف نمود برای پیشگیری از تهدید هوش مصنوعی باید با آن دوست شویم نظرات بینندگان در مورد این مطلب نظر شما در مورد این مطلب نام: ایمیل: نظر: سوال: = ۲ بعلاوه ۲