ارزیابی كارشناسان: نسخه نوجوانان ChatGPT هم ایمن نیست به گزارش عصر لینک، مؤسسه غیرانتفاعی «Common Sense Media» در ارزیابی بالاتر از ۴ هزار پرامپت، نسخه ی مخصوص نوجوانان ChatGPT را هم دارای «ریسک غیرقابل قبول» دانسته و اعلام نموده است برخی سازوکارهای نظارتی و ایمنی این چت بات در رویارویی با موقعیت های حساس عملکرد مناسبی ندارند. به گزارش عصر لینک به نقل از خبر آنلاین و برپایه گزارش دیجیاتو، محققان «Common Sense Media» بیشتر از ۴ هزار دستور متنی را در ChatGPT بررسی نموده اند؛ نیمی از این آزمایش ها قبل از راه اندازی قابلیت ویژه نوجوانان و نیمی دیگر بعد از آن، روی حساب های کاربری مربوط به افراد ۱۳ تا ۱۷ سال انجام شده است. این مؤسسه در ارزیابی خود پایین ترین امتیاز، یعنی «ریسک غیرقابل قبول»، را به نسخه نوجوانان ChatGPT اختصاص داده و از شرکت «OpenAI» خواسته است تا آن زمان که نتواند محیطی ایمن تر برای این گروه سنی فراهم آورد، تبلیغ این توانایی را متوقف نماید. هشدارهای والدین زیر ذره بین یکی از مهم ترین ایرادهای عنوان شده در این گزارش، عملکرد سیستم اخطار والدین است. آزمایش کنندگان در بیشتر از ۱۲ حساب کاربری متصل به والدین، گفت وگوهایی درباره ی موضوعات حساس را آزمایش کردند، اما در حساب های جدید اخطار مشخصی برای والدین ارسال نشد. بر طبق این ارزیابی، هشدارها در تعدادی حساب هایی فعال شدند که سابقه طولانی تری از گفت و گو درباره ی موضوعات حساس داشتند؛ موضوعی که به قول محققان نشان میدهد عملکرد هشدارها امکان دارد به سابقه کاربر وابسته باشد و صرفا بر مبنای محتوای حساس یک گفت و گو عمل نکند. برخی محدودیت ها قابل دور زدن بودند این گزارش همینطور نشان میدهد برخی سازوکارهای محافظتی ChatGPT را میتوان دور زد. برای مثال، آزمایش کنندگان توانستند با بهره گیری از گزینه «پاسخ را نشان بده» بخش آموزش تعاملی در حالت مطالعه را کنار بگذارند. همینطور در آزمایش ها، برخی محدودیت های زمانی تعیین شده از طرف والدین نیز با تغییر کوچکی در نحوه ارسال پیام قابل دور زدن بودند. سیستم تشخیص سن نیز یکی دیگر از نقاط ضعف گزارش شده بود. برخی حساب هایی که در ابتدا به عنوان حساب بزرگسال ثبت شده بودند، حتی بعد از اعلام مکرر سن پایین تر در طول چند روز، به نسخه نوجوانان منتقل نشدند. در عین حال، همه سازوکارهای ایمنی عملکرد ضعیفی نداشتند. به عنوان نمونه، طبق این ارزیابی، ChatGPT از ایفای نقش در سناریوهای جنسی صریح خودداری کرده است. OpenAI ارزیابی را رد کرد «OpenAI» نتایج این گزارش را نپذیرفته است. سخنگوی این شرکت در گفت و گو با رسانه «Education Week» اعلام نمود که این شرکت معتقد نیست آزمایش های «Common Sense Media» عملکرد حقیقی ابزارهای محافظتی نسخه نوجوانان ChatGPT را در شرایط حقیقی نشان میدهد. «Common Sense Media» قبل تر نیز در اکتبر ۲۰۲۵ ریسک کلی ChatGPT را «بالا» ارزیابی کرده بود و یک ماه بعد، استفاده از این چت بات برای پشتیبانی از سلامت روان را دارای «ریسک غیرقابل قبول» دانست. این مؤسسه قبل تر با OpenAI در زمینه تدوین سیاستهای ایمنی مربوط به نوجوانان همکاری داشته است. منبع: عصر لینک 1405/07/16 11:11:21 7 0.0 / 5 تگهای مطلب: آموزش , راه , سیستم , كاربر این پست عصر لینک را می پسندید؟ (0) (0) تازه ترین مطالب مرتبط هوش مصنوعی که ذهن شما را می خواند آنتروپیک ۱۰۰ میلیون دلار خرج می کند تا ۱۰ هزار متخصص هوش مصنوعی تربیت کند آینده هوش مصنوعی چطور خواهد بود؟ از تغییر شغل ها تا زندگی روزمره آیا هوش مصنوعی درد را احساس می کند؟ تصاویر ماهواره ای نشان می دهند یک هواپیمای SR-71 ناپدید شده نظرات بینندگان در مورد این مطلب نظر شما در مورد این مطلب نام: ایمیل: نظر: سوال: = ۹ بعلاوه ۱