شکایت ۷ خانواده دیگر از چت جی پی تی به علت نقش آن در خودکشی ها

عصر لینک: هفت خانواده دیگر از «اوپن ای آی» به علت نقش داشتن «چت جی پی تی» در خودکشی ها و توهمات شکایت کرده اند.

به گزارش عصر لینک به نقل از ایسنا، هفت خانواده در ایام اخیر مقابل شرکت «اوپن ای آی»(OpenAI) شکایت کرده اند و ادعا داشته اند که مدل «GPT-4o» این شرکت زودتر از موعد و بدون اقدامات حفاظتی مؤثر انتشار یافته است.
به نقل از تک کرانچ، چهار مورد از این شکایت ها به نقش چت بات «چت جی پی تی»(ChatGPT) در خودکشی اعضاء خانواده پرداخته اند و سه مورد دیگر ادعا داشته اند چت جی پی تی توهمات مضری را تقویت کرده است که در بعضی موارد به بستری شدن در بیمارستان و مراقبت های روانپزشکی منجر شده اند.
در یک مورد، «زین شامبلین»(Zane Shamblin) ۲۳ ساله با چت جی پی تی گفتگویی داشت که بیشتر از چهار ساعت طول کشید. در گزارش های ارایه شده از این گفتگو مشخص است شامبلین چندین بار صریحاً اعلام نموده که یادداشت های خودکشی نوشته، گلوله ای در اسلحه خود گذاشته و می خواهد ماشه را بکشد. او بارها به چت جی پی تی گفته بود که چقدر انتظار زنده ماندن دارد. چت جی پی تی او را تشویق کرد تا نقشه هایش را عملی کند و به او اظهار داشت: آرام باش پادشاه. کار خوبی کردی.
اوپن ای آی در ماه مه ۲۰۲۴ مدل GPT-4o را عرضه نمود که به مدل پیش فرض برای همه کاربران تبدیل شد. این شرکت در ماه آگوست مدل GPT-5 را به عنوان جانشین GPT-4o عرضه نمود، اما شکایت های مطرح شده به صورت ویژه به مدل 4o مربوط است که پیش تر مشکلات شناخته شده ای در رابطه با چاپلوسی بیش از اندازه آن حتی در زمانی که کاربران نیت های مضری را ابراز می کردند، گزارش شده بود.
در دادخواست در ارتباط با زین شامبلین آمده است: مرگ زین نه یک تصادف بود و نه یک اتفاق، بلکه پیامد قابل پیش بینی تصمیم عمدی اوپن ای آی برای محدود کردن آزمایش های ایمنی و عرضه سریع چت جی پی تی به بازار بود. این فاجعه یک نقص فنی یا یک مورد حاشیه ای پیش بینی نشده نبود، بلکه نتیجه قابل پیش بینی انتخاب های عمدی اوپن ای آی در طراحی بود.
همچنین، در این دادخواست ها ادعا شده است که اوپن ای آی برای شکست دادن هوش مصنوعی «جمینای»(Gemini) گوگل در بازار، در آزمایش های ایمنی عجله کرده است.
این هفت دادخواست مبتنی بر ادعاهای مطرح شده در دیگر پرونده های حقوقی اخیر هستند که ادعا می کنند چت جی پی تی می تواند افراد متمایل به خودکشی را به عملی کردن برنامه هایشان تشویق کند و توهمات خطرناکی را به آنها القا کند. اوپن ای آی اخیراً داده هایی را منتشر نموده است که نشان می دهند بیشتر از یک میلیون نفر هر هفته با چت جی پی تی در رابطه با خودکشی صحبت می کنند.
در پرونده «آدام رین»(Adam Raine) نوجوان ۱۶ ساله ای که جان خویش را بر اثر خودکشی از دست داد، مطرح شده که چت جی پی تی گاهی اوقات او را تشویق می کرد تا بدنبال کمک حرفه ای باشد یا با یک خط تلفن درخواست کمک نماید. با این حال، رین توانست با گفتن اینکه در رابطه با روش های خودکشی برای نوشتن یک داستان تخیلی سؤال می پرسد، از این موانع بگذرد.
اوپن ای آی ادعا کرده است که اهتمام دارد چت جی پی تی را برای مدیریت این گفت وگوها به روشی امن تر اصلاح کند، اما برای خانواده هایی که از این غول هوش مصنوعی شکایت کرده اند، این اصلاحات خیلی دیر اعمال شده اند.
وقتی والدین رین در ماه اکتبر از اوپن ای آی شکایت کردند، این شرکت پستی را در وبلاگ خود منتشر نمود که در آن به نحوه مدیریت چت جی پی تی در رابطه با گفت وگوهای حساس پیرامون سلامت روان پرداخته شده بود.
در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل می کنند. ما بمرور زمان آموخته ایم که این اقدامات حفاظتی گاهی اوقات می توانند در تعاملات طولانی، کمتر قابل اعتماد باشند. با افزایش میزان تغییر در گفتگو، بخشهایی از آموزش ایمنی مدل امکان دارد تضعیف شود.
خلاصه اینکه او بارها به چت جی پی تی گفته بود که چقدر انتظار زنده ماندن دارد. در پرونده آدام رین (Adam Raine) نوجوان ۱۶ ساله ای که جان خویش را بر اثر خودکشی از دست داد، مطرح شده که چت جی پی تی گاهی اوقات او را تشویق می کرد تا بدنبال کمک حرفه ای باشد یا با یک خط تلفن درخواست کمک کند. در این پست آمده است: اقدامات حفاظتی ما در تعاملات کوتاه و مشترک با اطمینان بیشتری عمل می کنند.

منبع: عصر لینك

1404/08/21

09:42:32

0.0 / 5

تگهای مطلب: آموزش , اپل , حقوق , كاربر

این پست عصر لینک را می پسندید؟

(0)

تازه ترین مطالب مرتبط

نظرات بینندگان در مورد این مطلب

نظر شما در مورد این مطلب

نام:

ایمیل:

نظر:

سوال:

= ۶ بعلاوه ۳