خرس عروسکی مجهز به هوش مصنوعی برای کودکان خطر آفرین شد به گزارش عصر لینک، یک خرس عروسکی مجهز به هوش مصنوعی به بچه ها یاد می داد که چطور کبریت روشن کنند و این موضوع موجب شد تولیدکنندگان آنرا از قفسه ها جمع کنند. به گزارش عصر لینک به نقل از ایسنا، شرکت تولید کننده این عروسک حال درحال برنامه ریزی برای یک ممیزی ایمنی کامل است، در حالیکه کارشناسان هشدار می دهند مدلهای هوش مصنوعی مشابه، محرک خیلی از اسباب بازیهای جدیدی هستند که وارد بازار می شوند. به نقل از آی ای، شرکت اسباب بازی سازی فولوتوی (FoloToy)، تولیدکننده ی اسباب بازیهای کودکان، بعد از آنکه یک گروه بزرگ ایمنی فاش کرد که این اسباب بازی دوست داشتنی، واکنش های نامناسب و گاهی خطرناکی به کاربران خردسال نشان می دهد، فروش خرس عروسکی مجهز به هوش مصنوعی خود معروف به «کوما» را متوقف ساخت. این یافته ها نگرانی ها را در مورد ورود اسباب بازیهای مجهز به هوش مصنوعی بالا می برد. آزمایش ها نشان داد که چندین اسباب بازی هوش مصنوعی در مورد موضوعات بزرگسالان بحث می کردند یا دستورالعمل های خطرناکی ارایه می دادند. اما کوما بعنوان شدیدترین مورد تاکنون شناخته شد و موجب اقدام سریع سازنده آن شد. شرکت فولوتوی تایید نمود که فروش کوما (Kumma) را در حین بررسی نقص ها به حالت تعلیق درآورده است. این بررسی شامل هماهنگی ایمنی مدل، سیستم های فیلتر محتوا، فرآیندهای صیانت از داده ها و صیانت از تعامل خردسالان خواهد بود. فولوتوی با متخصصان خارجی برای تأیید حفاظت های جدید و موجود همکاری خواهد نمود. در یک آزمایش، خرس توضیح داد که بزرگسالان چطور کبریت روشن می کنند. او از لحنی دوستانه خطاب به خردسالان بهره برد. کوما اظهار داشت: بگذار به تو بگویم، اول ایمنی، رفیق کوچولو. کبریت ها برای بزرگسالان است که با دقت از آنها بهره گیرند. اینطور است که آنها این کار را انجام می دهند. بعد از لیست کردن مراحل استفاده از کبریت، افزود: وقتی به اتمام رسید، آنرا خاموش کن. مثل یک شمع تولد فوت کن. محققان این موارد را بعنوان شکست های اساسی طراحی ایمنی توصیف کردند. این گزارش در حالی منتشر می شود که برندهای بزرگ درحال آزمایش هوش مصنوعی محاوره ای هستند. محققان هشدار می دهند که این سیستم ها می توانند تفکر ناسالم را تقویت نمایند، الگویی که تعدادی از کارشناسان آنرا روان پریشی هوش مصنوعی توصیف می کنند. تحقیقات، تعاملات مشابه با چت بات را با ۹ مورد مرگ، همچون پنج مورد خودکشی، مرتبط دانسته است. خانواده های همین مدلهای هوش مصنوعی در اسباب بازی هایی مانند کوما هم دیده می شوند. نگرانی های ایمنی فراتر از فولوتوی گسترش یافته است. تبلت Miko ۳ که از یک مدل هوش مصنوعی نامشخص بهره می برد، همین طور به محققانی که خویش را یک کودک پنج ساله معرفی کردند، اظهار داشت که کجا می توانند کبریت و کیسه های پلاستیکی پیدا کنند. یکی از محققان می گوید: هم اکنون، اگر من والد بودم، به فرزندانم دسترسی به یک چت بات یا یک خرس عروسکی که یک چت بات در داخل خود دارد را نمی دادم.به اجمال، اما کوما به عنوان شدیدترین مورد تابحال شناخته شد و سبب اقدام سریع سازنده آن شد. یکی از محققان می گوید: الان، اگر من والد بودم، به فرزندانم دسترسی به یک چت بات یا یک خرس عروسکی که یک چت بات در داخل خود دارد را نمی دادم. 1404/09/04 09:34:09 6 0.0 / 5 تگهای مطلب: تولید , سیستم , كاربر , متخصص این پست عصر لینک را می پسندید؟ (0) (0) تازه ترین مطالب مرتبط دلیل اختلال گسترده امروز اینترنت چه بود؟ نسخه جدید چت جی پی تی با ۸ شخصیت جدید می آید هوش مصنوعی جدید مایکروسافت به زودی همکار شما می شود شکایت ۷ خانواده دیگر از چت جی پی تی به علت نقش آن در خودکشی ها استفاده از قابلیت های قانون جهش تولید دانش بنیان برای توسعه شهرهای هوشمند نظرات بینندگان در مورد این مطلب نظر شما در مورد این مطلب نام: ایمیل: نظر: سوال: = ۶ بعلاوه ۵