قانون گذاری هوش مصنوعی از دیپ فیک تا نظارت بر غول های فناوری عصر لینک: یک الگوریتم می تواند در چند ثانیه میلیونها داده را بررسی کند، چهره ای را شناسایی کند، رزومه های شغلی را مرتب کند یا متنی شبیه نوشته انسان تولید کند؛ اما اگر همین فناوری تصمیمی اشتباه، تبعیض آمیز یا خطرناک بگیرد، چه کسی باید پاسخ گو باشد؟ به گزارش عصر لینک به نقل از خبر آنلاین، همین پرسش ها سبب شده اند «قانون گذاری هوش مصنوعی» از موضوعی تخصصی در محافل فناوری به یکی از مهم ترین مباحث حقوقی و سیاستگذاری جهان تبدیل گردد. رشد سریع هوش مصنوعی، گسترش سامانه های مولد، تولید دیپ فیک، نگرانی درباره ی حریم خصوصی و احتمال سوگیری الگوریتمی، دولت ها را وادار کرده است جهت استفاده مسئولانه تر از این فنآوری چارچوب هایی مشخص کنند.در سالهای اخیر اتحادیه اروپا یکی از جامع ترین نظام های حقوقی را برای تنظیم هوش مصنوعی به وجود آورده است. «قانون هوش مصنوعی اتحادیه اروپا» یا AI Act نگاهی مبتنی بر ریسک دارد؛ یعنی همه سامانه های هوش مصنوعی را به یک شکل محدود نمی کند، بلکه بر مبنای نوع استفاده و میزان خطری که امکان دارد برای افراد و جامعه ایجاد کنند، الزامات متفاوتی درنظر می گیرد.اما قانون گذاری هوش مصنوعی دقیقاً چیست، چه کاربردی دارد و چرا دولت ها بدنبال وضع چنین قوانینی هستند؟ قانون گذاری هوش مصنوعی دقیقاً چیست؟ انون گذاری هوش مصنوعی به مجموعه قوانین، مقررات، استانداردها و چارچوب هایی گفته می شود که نحوه طراحی، توسعه، عرضه و استفاده از سامانه های هوش مصنوعی را تنظیم می کنند.این چارچوب ها می توانند مطالبی مانند حریم خصوصی، امنیت، تبعیض الگوریتمی، شفافیت، مسئولیت تولیدکنندگان، حقوق مصرف کنندگان و روش استفاده از داده ها را پوشش دهند.البته نباید همه چارچوب های در رابطه با هوش مصنوعی را «قانون» دانست. به عنوان نمونه، چارچوب مدیریت ریسک هوش مصنوعی مؤسسه ملی استاندارد و فناوری آمریکا (NIST)، چارچوبی داوطلبانه جهت کمک به سازمان ها در شناسایی و مدیریت ریسک های هوش مصنوعی است و به خودی خود قانون اجبار آور محسوب نمی شود.در نتیجه، قانون گذاری هوش مصنوعی بخشی از اکوسیستمی گسترده تر است که در آن قوانین اجبار آور، معیارهای فنی، دستورالعمل های اجرایی و چارچوب های مدیریت ریسک در کنار یکدیگر قرار می گیرند. چرا قانون گذاری هوش مصنوعی ضروری شد؟ وش مصنوعی، بر خلاف خیلی از نرم افزارهای سنتی، می تواند در تصمیم هایی دخالت کند که مستقیماً بر زندگی انسان ها اثر می گذارند.تصور کنید سیستم ای در پروسه استخدام، درخواست وام، تشخیص پزشکی یا ارزیابی یک پرونده به تصمیم گیری کمک نماید. اگر داده های آموزشی آن سوگیری داشته باشند، امکان دارد خروجی سیستم نیز به صورت نظام مند به زیان گروهی از افراد باشد.از سوی دیگر، ابزارهای مولد هوش مصنوعی امکان تولید متن، تصویر، صدا و ویدیو را در مقیاسی گسترده فراهم آورده اند. این مورد تشخیص محتوای واقعی از محتوای مصنوعی را دشوارتر کرده و دیپ فیک و انتشار اطلاعات گمراه کننده را به دغدغه هایی جدی تبدیل نموده است.بنابراین، قانون گذاری قرار نیست فقط جلوی ساخت فناوری را بگیرد؛ هدف اصلی آن تعیین قواعدی جهت استفاده ایمن تر، شفاف تر و مسئولانه تر از این فنآوری است. قانون هوش مصنوعی اتحادیه اروپا چه طور کار می کند؟ کی از شناخته شده ترین نمونه های قانون گذاری جامع هوش مصنوعی، قانون AI اتحادیه اروپا است. این قانون از نگاهی «مبتنی بر ریسک» استفاده می کند: هرچه احتمال صدمه ناشی از یک کاربرد بیشتر باشد، الزامات قانونی آن نیز سخت گیرانه تر است. ۱. کاربردهای ممنوع یا دارای ریسک غیرقابل قبول برخی کاربردهای هوش مصنوعی به سبب خطر جدی برای حقوق بنیادین افراد ممنوع شده اند یا با محدودیت های خیلی مشکل گیرانه رو به رو هستند. برای مثال، قانون هوش مصنوعی اتحادیه اروپا برخی شیوه های دست کاری فریب کارانه، برخی انواع امتیازدهی اجتماعی و بعضی کاربردهای خاص سامانه های بیومتریک را در محدوده ممنوعیت قرار داده است.بااین حال، نباید تصور کرد که هرگونه استفاده از شناسایی بیومتریک از راه دور در لحظه و در اماکن عمومی مطلقاً ممنوع می باشد. قانون برای برخی کاربردهای انتظامی استثناها و شرایط مشخصی درنظر گرفته و استفاده از آنها را به محدودیت های قانونی، ضرورت و تناسب و، در مواردی، دریافت مجوز قضایی یا اداری وابسته کرده است.این تفاوت مهم است؛ برای اینکه در گزارشهای عمومی گاهی از «ممنوعیت کامل تشخیص چهره» صحبت می شود، درحالی که جزییات قانون پیچیده تر از این تعبیر ساده است. ۲. سامانه های پرخطر دسته بعدی شامل سیستمهایی است که در عرصه هایی فعالیت می نمایند که خطا در آنها می تواند نتایج جدی برای سلامت، امنیت یا حقوق اساسی افراد داشته باشد.از نمونه های طرح شده در قانون می توان به برخی کاربردهای هوش مصنوعی در استخدام و مدیریت کارکنان، آموزش، دسترسی به خدمات ضروری، اجرای قانون و بعضی حوزه های قضایی و مهاجرتی اشاره نمود.برای سامانه های پرخطر، الزاماتی مانند مدیریت ریسک، کیفیت داده، مستندسازی، ثبت سوابق، نظارت انسانی، رعایت الزامات دقت و امنیت و ارزیابی انطباق درنظر گرفته شده است.نکته مهم این است که «هوش مصنوعی پزشکی» یا «هوش مصنوعی استخدامی» به صورت خودکار و در همه شرایط در یک دسته قانونی قرار نمی گیرد؛ طبقه بندی به نوع کاربرد و شرایط مشخص هر سیستم بستگی دارد. ۳. الزامات شفافیت گروهی دیگر از مقررات به شفافیت مربوط می شوند. برای مثال، قانون هوش مصنوعی اتحادیه اروپا در تعدادی موارد، سیستمهایی را که مستقیماً با انسان تعامل دارند ملزم می کند به کاربر اطلاع دهند که با هوش مصنوعی درحال تعامل است.همچنین برای برخی سامانه های تولیدکننده محتوای مصنوعی، الزاماتی درباره ی قابل شناسایی بودن محتوای تولیدشده یا دست کاری شده درنظر گرفته شده است. درباره ی دیپ فیک نیز در وضعیت مشخص، استفاده کننده باید مصنوعی یا دست کاری شده بودن محتوا را اعلام نماید.این بخش از قانون اهمیت دارد، برای اینکه می تواند به روشن ترشدن مرز میان محتوای واقعی و مصنوعی برای کاربران کمک نماید. قانون با هوش مصنوعی مولد چه می کند؟ هور مدلهای مولد هوش مصنوعی، مانند مدل هایی که متن، تصویر، صدا یا کد تولید می کنند، قانون گذاران را با مسایل جدیدی رو به رو کرده است.این مدلها امکان دارد در محصولات و خدمات فراوانی به کار گرفته شوند. به همین دلیل، قانون هوش مصنوعی اتحادیه اروپا برای «مدل های هوش مصنوعی با کاربرد عمومی» یا GPAI نیز الزامات خاصی تعیین کرده است.در چارچوب اتحادیه اروپا، عرضه دهندگان این مدلها باید اقداماتی مانند تهیه مستندات فنی، تدوین سیاستی برای رعایت حق نشر و انتشار خلاصه ای از محتوای مورد استفاده برای آموزش مدل را انجام دهند. برای مدل هایی که ریسک سیستمی دارند، الزاماتی بیشتر، همچون ارزیابی و کاهش ریسک، گزارش دهی حوادث و تمهیدات امنیت سایبری، درنظر گرفته شده است.بنابراین این تصور که قانون فقط به «ربات های گفت وگومحور» یا ابزارهای تولید تصویر مربوط می شود، درست نیست؛ بخش مهمی از مقررات به خود مدلهای زیربنایی مربوط است. آیا قانون گذاری هوش مصنوعی یعنی انتشار همه داده های آموزشی؟ کی از نکاتی که هنگام توضیح قوانین هوش مصنوعی باید با دقت بیان شود، موضوع داده های آموزشی است.گاهی در توضیح های ساده شده گفته می شود شرکت های هوش مصنوعی موظف اند «همه کتاب ها و مقاله های آموزشی مدل» را منتشر کنند. این تعبیر دقیق نیست.در چارچوب اتحادیه اروپا، عرضه دهندگان مدلهای هوش مصنوعی با کاربرد عمومی موظف اند سیاستی برای رعایت حق نشر داشته باشند و خلاصه ای از محتوای آموزشی مدل منتشر کنند. بنابراین، موضوع «خلاصه محتوای آموزشی» است، نه اجبار عمومی به انتشار لیست کامل تک تک داده های آموزشی.این موضوع می تواند یکی از محورهای مهم مناقشه میان شرکت های فناوری، پدیدآورندگان آثار و قانون گذاران باشد؛ برای اینکه مدلهای هوش مصنوعی برای آموزش به حجم عظیمی از داده نیاز دارند و تعیین مرز میان استفاده مجاز از آثار و نقض حقوق پدیدآورندگان بازهم پیچیده است. قانون گذاری چه طور با تبعیض الگوریتمی مقابله می کند؟ کی از مهم ترین دلیلهای قانون گذاری هوش مصنوعی، جلوگیری از تصمیم گیری تبعیض آمیز است.هوش مصنوعی به طور معمول از داده های گذشته یاد می گیرد. اگر این داده ها سوگیری داشته باشند، مدل نیز امکان دارد همان الگو را بازتولید کند. به عنوان نمونه، اگر سابقه استخدام یک سازمان در گذشته به صورت نامتوازن به سود گروهی خاص بوده باشد، سیستم استخدامی آموزش دیده با آن داده ها امکان دارد همان الگو را تکرار کند؛ حتی اگر برنامه نویس مستقیماً چنین دستوری به آن نداده باشد.به همین دلیل، مقررات در ارتباط با سامانه های پرخطر بر مطالبی مانند کیفیت داده، مدیریت ریسک، مستندسازی و نظارت انسانی تاکید می کنند. هدف این است که کنترل خطر فقط به بررسی خسارت بعد از وقوع محدود نشود و بخشی از آن از مرحله طراحی و توسعه سیستم آغاز شود. اگر هوش مصنوعی اشتباه کند، چه کسی مسئول است؟این یکی از دشوارترین پرسش های حقوقی عصر هوش مصنوعی است. فرض کنید سیستم ای در یک پروسه حساس نتیجه ای ناصحیح ارائه نماید. آیا مسئولیت بر عهده سازنده مدل است، شرکت ارایه کننده نرم افزار، سازمان استفاده کننده یا انسانی که تصمیم غائی را گرفته است؟پاسخ به نوع سامانه، روش استفاده از آن، قوانین در ارتباط با مسئولیت مدنی و مقررات حوزه مربوط بستگی دارد.بنابراین، نباید تصور کرد که «قانون هوش مصنوعی» برای همه حوادث یک پاسخ واحد دارد. در خیلی از موارد، قوانین هوش مصنوعی در کنار مقررات موجود در عرصه هایی مانند دفاع از مصرف کننده، صیانت از داده ها، ایمنی محصولات و مسئولیت مدنی عمل می کنند.یکی از چالش های اصلی آینده، روشن کردن مسئولیت میان زنجیره ای از بازیگران است؛ زنجیره ای که امکان دارد از سازنده مدل پایه آغاز شود و تا توسعه دهنده نرم افزار و سازمان استفاده کننده ادامه پیدا کند. آیا قانون گذاری نوآوری را کند می کند؟این نگرانی یکی از بحث های اصلی موافقان و مخالفان مقررات گذاری است. مخالفان مقررات سخت گیرانه باور دارند هزینه انطباق می تواند برای شرکت های کوچک و استارتاپ ها سنگین باشد و سرعت گسترش فناوری را کم کند.در مقابل، طرفداران قانون گذاری می گویند نبود قواعد روشن نیز امکان دارد هزینه های سنگین تری ایجاد کند؛ از تجاوز به حریم خصوصی و تبعیض گرفته تا کلاهبرداری، صدمه های امنیتی و کاهش اعتماد عمومی.به همین دلیل، مسئله اصلی دیگر «قانون یا نوآوری» نیست؛ بلکه پیدا کردن نقطه تعادل میان این دو است. چرا قانون گذاری هوش مصنوعی هنوز به انتها نرسیده است؟یکی از دشوارترین چالش های قانون گذاران، سرعت تحول فناوری است. قانون گذاری به طور معمول فرایندی زمان بر است، درحالی که مدلهای هوش مصنوعی امکان دارد ظرف چند ماه دستخوش تغییرات بنیادین شوند.حتی در اتحادیه اروپا نیز اجرای کامل قانون هوش مصنوعی در یکروز اتفاق نیفتاده است و بخش های مختلف آن در زمان های متفاوت اجرا می شوند. بر مبنای اطلاعات رسمی اتحادیه اروپا، خیلی از مقررات AI Act از ۲ اوت ۲۰۲۶ وارد مرحله اجرا شده اند، درحالی که برخی الزامات در ارتباط با سامانه های پرخطر به زمان های بعد موکول شده اند. بر مبنای زمان بندی اعلام شده در سال ۲۰۲۶، اجرای تعدادی از این الزامات به ۲ دسامبر ۲۰۲۷ و ۲ اوت ۲۰۲۸ موکول شده است.این زمان بندی نشان میدهد که قانون گذاری هوش مصنوعی نیز، مانند خود فناوری، فرایندی درحال تحول است. آینده قانون گذاری هوش مصنوعی به کدام سمت می رود؟آینده قانون گذاری هوش مصنوعی احتمالا نه در ممنوعیت گسترده فناوری، بلکه در ایجاد سازوکارهایی جهت استفاده مسئولانه از آن شکل خواهد گرفت. قوانین آینده باید میان کاربردهای کم خطر و کاربردهایی که مستقیماً با جان، آزادی، امنیت یا حقوق افراد ارتباط دارند تفاوت بگذارند.با گسترش مدلهای مولد، مسائلی مانند محتوای مصنوعی، دیپ فیک، حق نشر، شفافیت مدلها، امنیت سایبری و مسئولیت عرضه دهندگان نیز اهمیت بیشتری پیدا خواهند کرد.در چنین شرایطی، قانون گذاری را می توان نوعی «قطب نما» برای حرکت در فضای پیچیده هوش مصنوعی دانست؛ قطب نمایی که قرار نیست مسیر نوآوری را متوقف نماید، بلکه باید روشن کند این مسیر تا کجا می تواند پیش برود، بی آن که حقوق و امنیت انسان ها قربانی سرعت فناوری شود.در نهایت، موفقیت قوانین هوش مصنوعی فقط بشدت مجازات ها بستگی ندارد؛ کیفیت مقررات، امکان اجرای آنها، هماهنگی میان کشورها و توانایی قانون گذاران برای سازگارشدن با تکنولوژیهای جدید نیز اهمیت دارند. هوش مصنوعی با سرعت زیادی تغییر می کند و قانون گذاری برای آن که از این تغییر عقب نماند، باید به همان اندازه هوشمند، انعطاف پذیر و آینده نگر باشد.۵۷به طور خلاصه، کاربردهای ممنوع یا دارای ریسک غیرقابل قبول برخی کاربردهای هوش مصنوعی به جهت خطر جدی برای حقوق بنیادین افراد ممنوع شده اند یا با محدودیت های خیلی مشکل گیرانه مواجه هستند. الزامات شفافیت گروهی دیگر از مقررات به شفافیت مربوط می شوند. این مساله می تواند یکی از محورهای مهم مناقشه میان شرکت های فناوری، پدیدآورندگان آثار و قانون گذاران باشد؛ به جهت اینکه مدل های هوش مصنوعی برای آموزش به حجم عظیمی از داده نیاز دارند و تعیین مرز میان استفاده مجاز از آثار و نقض حقوق پدیدآورندگان بازهم پیچیده است. 1405/08/06 18:43:05 8 0.0 / 5 تگهای مطلب: آمریکا , آموزش , ارتباط این پست عصر لینک را می پسندید؟ (0) (0) تازه ترین مطالب مرتبط اینستاگرام انتشار ویدیوهای طولانی و افقی را آزمایش می کند مدیرعامل گوگل نظر ترامپ را تغییر داد هوش مصنوعی با تحلیل عکس چهره، شانس بقای بیماران سرطانی را تخمین می زند آمریکا استفاده از دیپ سیک را در نهادهای دولت فدرال ممنوع کرد کمیته متناظر هوش مصنوعی پژوهشگاه ارتباطات، برترین کمیته کشور شد نظرات بینندگان در مورد این مطلب نظر شما در مورد این مطلب نام: ایمیل: نظر: سوال: = ۳ بعلاوه ۴