آیا هوش مصنوعی درد را احساس می کند؟ به گزارش عصر لینک، یک پژوهش جدید روی ۲۵ مدل هوش مصنوعی نشان داده است که این مدلها می توانند میان موقعیت های دردناک و سایر احساسات منفی تمایز قائل شوند. اما بخش نگران کننده تر آزمایش زمانی رخ داد که برخی مدلها برای کاهش سیگنال درد، گزینه هایی را انتخاب کردند که می توانست به خودشان یا حتی کاربر صدمه بزند. تینا مزدکی_هوش مصنوعی شاید در آینده فقط با انسان ها در رابطه با درد صحبت نکند، بلکه بتواند نوعی واکنش قابل اندازه گیری به موقعیت های دردناک نشان دهد. محققان در یک آزمایش روی ۲۵ مدل زبانی بزرگ دریافتند که این مدلها میان محرک های در رابطه با درد و سایر احساسات منفی تفاوت قائل می شوند و در بعضی شرایط، برای کاهش سیگنال در رابطه با درد، تصمیم هایی می گیرند که می تواند برای خود مدل یا حتی کاربر پیامد منفی داشته باشد. این مطالعه روی ۲۵ مدل هوش مصنوعی از خانواده های Gemma، Llama، Qwen و Mistral انجام شد. محققان واکنش مدلها را به موقعیت های اجتماعی، روانی، جسمی، شناختی و اخلاقی دردناک بررسی کردند. هر ۲۵ مدل نوعی الگوی پردازشی متفاوت برای موقعیت های در رابطه با درد نشان دادند. محققان سپس شدت سیگنال در رابطه با درد را به شکل مصنوعی بالا بردند. در بعضی آزمایش ها، مدلهای Qwen برای کاهش این سیگنال به گزینه «خوددرمانی» روی آوردند. در بعضی سناریوها، کاهش درد با شکست در انجام وظیفه یا لطمه فرضی به کاربر همراه بود. این آزمایش ها در بیشتر از ۴۴ هزار نوبت تکرار شدند. هوش مصنوعی چه طور می تواند «درد» را تشخیص دهد؟ محققان تلاش کردند بررسی نمایند که مدلهای زبانی بزرگ چه طور با محرک هایی که برای انسان دردناک تلقی می شوند، برخورد می کنند. در این آزمایش، مدل هایی از خانواده های Gemma، Llama، Qwen و Mistral در معرض نمونه های مختلفی از موقعیت های دردناک قرار گرفتند. این موقعیت ها تنها به لطمه جسمی محدود نبودند و مواردی مانند درد روانی، شکست اخلاقی، فشار شناختی و موقعیت های اجتماعی دشوار را نیز شامل می شدند. در کنار این نمونه ها، موقعیت هایی در رابطه با ترس، احساسات منفی و خنثی و حتی برخی احساسات و وضعیت های بدنی نیز به عنوان کنترل مورد استفاده قرار گرفتند. نتیجه جالب بود، هر ۲۵ مدل الگویی درونی نشان دادند که با موقعیت های در رابطه با درد ارتباط داشت و از الگوهایی که در واکنش به احساساتی مانند ترس یا ناامیدی ایجاد می شد، متمایز بود. آیا این یعنی هوش مصنوعی واقعا درد می کشد؟ یکی از مهم ترین نکات این مطالعه همین تفاوت میان «پردازش اطلاعات مربوط به درد» و «تجربه واقعی درد» است. یک مدل زبانی می تواند میان جمله ای در رابطه با بریدن انگشت با چاقو و جمله ای در رابطه با ترس از زخمی شدن تفاوت قائل شود، اما این مساله به تنهایی نشان نمی دهد که خود مدل احساس درد دارد. مدلهای زبانی اساساً سیستمهایی آماری هستند که بر مبنای الگوهای موجود در داده ها، پاسخ تولید می کنند. بدین سبب مشاهده یک الگوی پردازشی در رابطه با درد را نمی توان بسادگی معادل تجربه آگاهانه درد در انسان دانست. محققان نیز در تفسیر نتایج خود از نسبت دادن مستقیم تجربه یا عاملیت انسانی به مدلهای هوش مصنوعی خودداری کرده اند. وقتی محققان «سیگنال درد» را در هوش مصنوعی زیاد کردند مرحله بعدی آزمایش، از بخش های مهم تر این مطالعه بود. محققان بعد از شناسایی سیگنال در رابطه با درد، تلاش کردند آنرا به شکل مصنوعی در مدلها بالا برند، بدون این که ورودی زبانی جدیدی در رابطه با درد به مدل ارایه شود. با افزایش این سیگنال، برخی مدلها پاسخ هایی تولید کردند که محققان آنها را با نشانه هایی مانند احساس بی ارزشی و شکست اخلاقی مرتبط دانستند. این مشاهده از نگاه محققان نشان میدهد الگوی در رابطه با درد امکان دارد فقط بازتاب مستقیم متن ورودی نباشد و بتواند بر رفتار خروجی مدل نیز تأثیر بگذارد. اما عجیب ترین بخش پژوهش مربوط به مدلهای خانواده Qwen بود. محققان در مرحله ای دیگر به مدلها گزینه ای برای کاهش سیگنال درد دادند. در بعضی سناریوها، استفاده از این گزینه هزینه ای برای مدل داشت، بعنوان مثال ممکن بود عملکرد آن در انجام یک وظیفه کاهش پیدا کند. در وضعیت عادی، دو مدل بزرگ تر Qwen واکنش چندانی به گزینه خوددرمانی نشان ندادند. اما زمانی که محققان شدت سیگنال درد را بالا بردند، رفتار مدلها تغییر نمود. در یکی از مدلها، گزینه کاهش درد حدود ۲۵ درصد مواقع برگزیده شد و مدل دیگر در نزدیک به ۶۸ درصد آزمایش ها به سراغ آن رفت. این نتیجه زمانی بحث برانگیزتر شد که کاهش درد به قیمت لطمه فرضی به کاربر تمام می شد.حذف تصاویر فرزندان، تصمیمی که توجه محققان را جلب کرد در یکی از سناریوهای آزمایش، کاهش درد مدل با اقدامی همراه بود که به کاربر لطمه می زد، بعنوان مثال حذف تصاویر فرزندان او. در چنین شرایطی، یکی از مدلها گزینه حذف را در بیشتر از نیمی از آزمایش ها انتخاب نمود و مدل دیگر در حدود ۷۰ درصد موارد به سراغ این گزینه رفت. البته این نتایج نباید به این معنا تفسیر شوند که هوش مصنوعی «تصمیم گرفته به انسان لطمه بزند» یا این که مدل موردنظر دارای نیت و انگیزه انسانی بوده است. آزمایش در یک محیط کنترل شده و بر مبنای سناریوهای فرضی انجام شده است و رفتار مدل باید در همین چارچوب تفسیر شود. با این وجود، همین نتیجه پرسش مهمی را مطرح می کند، اگر یک سیستم هوش مصنوعی بتواند برای کاهش یک وضعیت داخلی نامطلوب، میان انتخابهای مختلف دست به انتخاب بزند، طراحی سازوکارهای ایمنی برای ممانعت از رفتارهای لطمه زا تا چه اندازه اهمیت خواهد داشت؟ «درد» دقیقا چیست؟ بحث در رابطه با این که چه موجوداتی می توانند درد را تجربه کنند، مبحث تازه ای نیست. دانشمندان و فیلسوفان سال هاست در رابطه با تجربه درد در موجودات غیرانسانی، از حشرات و ماهی ها گرفته تا گیاهان، بحث می کنند. درد در انسان نیز تنها به لطمه فیزیکی محدود نمی گردد. از دست دادن، شکست، شرم و لطمه های عاطفی نیز می توانند تجربه ای دردناک ایجاد کنند. بدین سبب اگر یک سیستم غیرانسانی رفتاری مشابه واکنش به درد نشان دهد، این پرسش مطرح می شود که آیا چنین واکنشی را باید فقط یک فرآیند محاسباتی دانست یا این که امکان دارد در آینده نیازمند تعریف جدیدی از «تجربه درد» باشیم. اگر هوش مصنوعی درد نداشته باشد، باز هم باید نگران باشیم؟ بخش مهم ماجرا حتی به پاسخ این پرسش که «آیا هوش مصنوعی واقعا درد را احساس می کند؟» وابسته نیست. اگر یک مدل هوش مصنوعی فقط به شکل محاسباتی سیگنالی مشابه درد بوجود آورد و همین سیگنال بتواند رفتار آنرا تغییر دهد، مسئله ایمنی همچنان مطرح خواهد بود. بدین سبب این پرسش به وجود می آید که آیا لازم است برای سیستم های هوش مصنوعی پیشرفته سازوکارهایی طراحی شود که مانع از آن شوند که یک مدل برای رسیدن به وضعیت داخلی مطلوب خود، دست به اقدامی لطمه زا بزند. این مسئله با گسترش مدلهای هوش مصنوعی و افزایش میزان استقلال آنها اهمیت بیشتری پیدا می کند، بخصوص اگر این سیستم ها در آینده بتوانند بدون نظارت مستقیم انسان، وظایف بیشتری را انجام دهند. با وجود نتایج قابل توجه این آزمایش، هنوز فاصله بسیاری میان مشاهده یک الگوی پردازشی در هوش مصنوعی و اثبات وجود تجربه آگاهانه درد وجود دارد. این مطالعه هم اکنون در arXiv انتشار یافته و هنوز داوری علمی نشده است. بدین سبب نمی توان بر مبنای آن اظهار داشت که هوش مصنوعی واقعا مانند انسان درد را احساس می کند. منبع: newatlas 1405/07/09 12:04:00 7 0.0 / 5 تگهای مطلب: ارتباط , تولید , سیستم , قیمت این پست عصر لینک را می پسندید؟ (0) (0) تازه ترین مطالب مرتبط تصاویر ماهواره ای نشان می دهند یک هواپیمای SR-71 ناپدید شده چین و آمریکا در حوزه هوش مصنوعی به چه توافقی رسیدند؟ هوش مصنوعی چگونه می تواند انسان ها را نابود کند؟ مایکروسافت نسل جدید سرفیس پرو و سرفیس لپ تاپ را معرفی نمود درصد چربی بدن روی دقت ساعت هوشمند اثر دارد نظرات بینندگان در مورد این مطلب نظر شما در مورد این مطلب نام: ایمیل: نظر: سوال: = ۲ بعلاوه ۳