هوش مصنوعی زیر ذره‌بین قوانین؛ بررسی ۱۰ دغدغه اصلی دولت‌ها

راهنمای نقشه‌برداری از قوانین هوش مصنوعی منتشر شد؛ بررسی ۸۴ سند قانونی در ۱۹ حوزه قضایی

تهران(پانا) - راهنمای «Refined Handbook for the Mapping of AI Rules» منتشرشده از سوی Digital Policy Alert، روشی برای طبقه‌بندی نگرانی‌های دولت‌ها درباره هوش‌مصنوعی و الزامات تنظیم‌گری مرتبط با آن‌ها ارائه می‌کند. این راهنما ۱۰ حوزه نگرانی، مجموعه‌ای از الزامات تنظیم‌گری و روش بررسی قوانین داخلی و چارچوب‌های بین‌المللی را تشریح کرده است.

کد مطلب: ۱۷۶۲۷۵۵
لینک کوتاه کپی شد
هوش مصنوعی زیر ذره‌بین قوانین؛ بررسی ۱۰ دغدغه اصلی دولت‌ها

راهنمای «Refined Handbook for the Mapping of AI Rules» در ۱۶ نوامبر ۲۰۲۶ از سوی Digital Policy Alert منتشر شده است. این سند به قلم توماسو جاردینی (Tommaso Giardini) و نیلز دیگ (Nils Deeg) تهیه شده و روش تدوین طبقه‌بندی اختصاصی این مجموعه برای نظام‌مندکردن قوانین داخلی هوش‌مصنوعی و چارچوب‌های بین‌المللی مرتبط با آن را توضیح می‌دهد.

این راهنما با تمرکز بر نگرانی‌های مشترک دولت‌ها درباره هوش مصنوعی و الزامات قانونی مورد استفاده برای مواجهه با آن‌ها، یک طبقه‌بندی شامل ۱۰ نگرانی اصلی و ۵۰ الزام تنظیم‌گری را معرفی می‌کند. نویسندگان در این سند، روش استخراج نگرانی‌ها، شناسایی الزامات قانونی، تفکیک الزامات مشابه و محدوده اسناد مورد بررسی را توضیح داده‌اند.

این پروژه با حمایت بنیاد Patrick J. McGovern Foundation انجام شده و در چارچوب فعالیت‌های St. Gallen Endowment for Prosperity Through Trade قرار دارد.

این سند در سه بخش اصلی تنظیم شده است:

بخش نخست؛ رویکرد و روش‌شناسی (Approach): توضیح می‌دهد طبقه‌بندی نگرانی‌های هوش مصنوعی و الزامات تنظیم‌گری چگونه تدوین شده و در این فرایند از پایگاه داده Digital Policy Alert و کتابخانه Clairk AI استفاده شده است.

بخش دوم؛ طبقه‌بندی (Taxonomy): نگرانی‌های اصلی مرتبط با هوش مصنوعی، الزامات تنظیم‌گری ذیل هر نگرانی، نمونه‌های قانونی از کشورهای مختلف و نحوه تفکیک الزامات مشابه یا دارای هم‌پوشانی را توضیح می‌دهد.

بخش سوم؛ دامنه مطالعه (Scope): اسناد و متونی را که در تحلیل قوانین داخلی و چارچوب‌های بین‌المللی بررسی شده‌اند، مشخص می‌کند و دامنه و سطح پوشش طبقه‌بندی را توضیح می‌دهد.

روش تدوین طبقه‌بندی نگرانی‌ها و الزامات تنظیم‌گری

تیم Digital Policy Alert تحولات سیاستی و اجرایی حوزه اقتصاد دیجیتال را در ۶۰ حوزه قضایی به‌صورت روزانه رصد می‌کند. این پایگاه از ژانویه ۲۰۲۰ تاکنون بیش از ۲۷ هزار مدخل ثبت کرده است.

برای شناسایی نگرانی‌های دولت‌ها درباره هوش مصنوعی، پژوهشگران بیش از ۲ هزار تحول سیاستی و اجرایی مرتبط با این حوزه را در پایگاه Digital Policy Alert و متن ۹ چارچوب بین‌المللی هوش مصنوعی بررسی کرده‌اند. نتیجه این بررسی، شناسایی ۱۰ نگرانی مشترک دولت‌ها درباره AI بوده است.

در مرحله بعد، برای تدوین طبقه‌بندی الزامات تنظیم‌گری، متن ۸۴ قانون و مقرره داخلی مرتبط با هوش مصنوعی، از جمله پیشنهادهای قانونی در حال بررسی، مطالعه شده است. نویسندگان توضیح می‌دهند که چون الزامات بر اساس متن مقررات موجود تدوین شده‌اند، طبقه‌بندی در برخی حوزه‌های سیاستی که در قوانین بیشتر مورد توجه قرار گرفته‌اند، مانند ایمنی، جزئیات بیشتری دارد.

این طبقه‌بندی نشان می‌دهد نگرانی‌های دولت‌ها چگونه در قوانین داخلی و چارچوب‌های بین‌المللی بازتاب یافته و برای مواجهه با هر نگرانی، چه طیفی از الزامات تنظیم‌گری به کار گرفته شده است.

۱۰ نگرانی اصلی دولت‌ها درباره هوش مصنوعی

۱. شفافیت (Transparency)

شفافیت به نگرانی دولت‌ها درباره مبهم‌بودن عملکرد سیستم‌های هوش مصنوعی و محدودشدن امکان انتخاب آگاهانه کاربران و نظارت نهادهای تنظیم‌گر مربوط می‌شود. دولت‌ها با الزام شرکت‌های هوش مصنوعی به ارائه اطلاعات درباره استفاده و عملکرد سیستم‌ها، ورودی‌ها و خروجی‌های آن‌ها، درصدد کاهش این شکاف اطلاعاتی هستند.

این حوزه شامل هشت الزام تنظیم‌گری است:

  • علامت‌گذاری محتوای تولیدشده با هوش مصنوعی (Content marking)
  • افشای استفاده و عملکرد سیستم (Disclosure)
  • مستندسازی اطلاعات و فرایندهای سیستم (Documentation)
  • اشتراک‌گذاری اطلاعات (Information sharing)
  • حقوق اطلاعاتی و دریافت توضیح (Information rights)
  • ثبت رویدادها (Logging)
  • اطلاع‌رسانی درباره رخدادهای مشخص (Notification)
  • گزارش‌دهی دوره‌ای (Reporting)

۲. ایمنی (Safety)

ایمنی به خطراتی می‌پردازد که سیستم‌های هوش مصنوعی ممکن است در اثر نقص عملکرد، سوءاستفاده یا حملات خصمانه برای افراد، اموال و زیرساخت‌های حیاتی ایجاد کنند. قواعد ایمنی می‌توانند چرخه عمر سیستم را از طراحی و آزمایش تا مدیریت خطر، پایش پس از استقرار و اقدامات اصلاحی پوشش دهند.

این حوزه ۱۳ الزام تنظیم‌گری را شامل می‌شود:

  • دریافت مجوز (Authorisation)
  • اقدامات اصلاحی (Corrective measures)
  • ارزیابی بیرونی (External assessment)
  • صدور پروانه فعالیت (Licensing)
  • حضور یا نمایندگی محلی (Local operations)
  • پایش (Monitoring)
  • ممنوعیت (Prohibition)
  • ثبت (Registration)
  • ارزیابی خطر و امنیت (Risk and security assessment)
  • مدیریت خطر (Risk management)
  • ایمنی سیستم (System safety)
  • آزمایش (Testing)
  • شناسایی کاربران (User identification)

۳. حمایت از مصرف‌کننده (Consumer Protection)

این حوزه به نگرانی دولت‌ها درباره فریب کاربران، دستکاری رفتار و ایجاد وابستگی در تعامل با سیستم‌های هوش مصنوعی مربوط می‌شود. حمایت از گروه‌های آسیب‌پذیر، از جمله کودکان و نوجوانان، نیز در این حوزه قرار دارد.

هفت الزام تنظیم‌گری این بخش عبارت‌اند از:

  • بازاریابی و تبلیغات منصفانه (Fair marketing and advertising)
  • ارزیابی تأثیر بر حقوق انسانی و بنیادین (Human/fundamental rights impact assessment)
  • حقوق کاربران در تعامل با سیستم (Interaction rights)
  • حمایت از کودکان و نوجوانان (Minor protection)
  • ممنوعیت روش‌های دستکاری‌کننده و فریبنده (Prohibition of manipulative/deceptive practices)
  • کیفیت خدمات (Quality of service)
  • حفاظت از خود کاربران (User self-protection)

۴. حکمرانی داده (Data Governance)

حکمرانی داده به نگرانی درباره نحوه جمع‌آوری، ذخیره‌سازی و پردازش داده‌های مورد استفاده در سیستم‌های هوش مصنوعی، ترکیب داده‌های آموزشی، امنیت داده‌ها و حقوق افراد در ارتباط با اطلاعات شخصی می‌پردازد.

این حوزه شامل پنج الزام است:

  • امنیت داده (Data security)
  • حقوق صاحبان داده یا افراد موضوع داده (Data subject rights)
  • حفاظت عمومی از داده‌ها (General data protection)
  • ممنوعیت برخی استفاده‌های داده‌ای (Prohibition of certain data use)
  • کیفیت داده‌های آموزشی (Training data quality)

۵. نظارت انسانی (Human Oversight)

نظارت انسانی به حفظ کنترل انسان بر تصمیم‌ها و عملکرد سیستم‌های هوش مصنوعی، به‌ویژه در کاربردهای پرخطر، مربوط می‌شود. نویسندگان این حوزه را شامل چهار الزام می‌دانند:

  • مداخله انسانی و توقف سیستم (Human intervention and suspension)
  • مشارکت و نظارت انسان در تصمیم‌گیری (Human-in-the-loop)
  • حکمرانی سازمانی (Organisational governance)
  • آموزش و تأمین نیروی انسانی (Training and staffing)

۶. تبعیض و سوگیری (Discrimination and Bias)

این حوزه به نگرانی درباره بازتولید یا تشدید سوگیری‌های موجود در سیستم‌های هوش مصنوعی و ایجاد نتایج تبعیض‌آمیز می‌پردازد؛ به‌ویژه در تصمیم‌گیری‌های مهم در زمینه‌هایی مانند استخدام، اعتبار، سلامت و عدالت کیفری.

سه الزام این حوزه عبارت‌اند از:

  • شناسایی سوگیری (Bias detection)
  • کاهش سوگیری (Bias mitigation)
  • عدم تبعیض (Non-discrimination)

۷. یکپارچگی اطلاعات (Information Integrity)

هوش مصنوعی می‌تواند از طریق جریان‌های اطلاعاتی مبتنی بر الگوریتم و سیستم‌های تولید محتوا، بر گفت‌وگوی عمومی تأثیر بگذارد. دولت‌ها در این حوزه با موضوع ایجاد محدودیت و نظارت بر محتوای تولیدشده با AI و در عین حال حفاظت از آزادی بیان قانونی کاربران مواجه هستند.

این حوزه چهار الزام را دربرمی‌گیرد:

  • محدودیت تولید محتوا (Content generation restrictions)
  • تعدیل محتوا (Content moderation)
  • گزارش‌دهی محتوا (Content reporting)
  • حمایت از بیان کاربران (User speech protection)

۸. نیروی کار (Labour)

این حوزه به تغییر بازار کار، جابه‌جایی نیروی انسانی، پایش کارکنان و کاربرد هوش مصنوعی در مدیریت نیروی کار مربوط می‌شود.

دو الزام تنظیم‌گری آن عبارت‌اند از:

  • پایش و مدیریت کارکنان (Worker monitoring/management)
  • حمایت از کارکنان (Worker protection)

۹. مالکیت فکری (Intellectual Property)

مالکیت فکری به مسائل مربوط به استفاده از آثار دارای حق مالکیت فکری در آموزش مدل‌های هوش مصنوعی، مالکیت خروجی‌های تولیدشده و وضعیت اختراعات مرتبط با AI می‌پردازد.

سه الزام این حوزه عبارت‌اند از:

  • حق مؤلف (Copyright)
  • اختراع (Patent)
  • جبران مالی (Remuneration)

۱۰. پاسخ‌گویی (Accountability)

پاسخ‌گویی در طبقه‌بندی این راهنما، برخلاف سایر نگرانی‌ها، شامل الزامات تنظیم‌گری مستقل نیست؛ بلکه مسئولیت رعایت قواعد، پیامدهای عدم رعایت و سازوکارهای نظارت بر اجرای مقررات را دربرمی‌گیرد. این سه عنصر برای تمام الزامات تنظیم‌گری طبقه‌بندی‌شده اهمیت دارند و پاسخ‌گویی در ارتباط با همه حوزه‌ها مطرح می‌شود.

مسئولیت رعایت قواعد می‌تواند بر اساس سطح خطر سیستم، ویژگی‌های فناوری و جایگاه شرکت در زنجیره ارزش هوش مصنوعی تعیین شود. چارچوب‌های مبتنی بر خطر، سیستم‌ها را در سطوح مختلف خطر دسته‌بندی می‌کنند؛ چارچوب‌های مبتنی بر فناوری، الزامات را با توجه به نوع سیستم یا قابلیت‌های آن تعیین می‌کنند و برخی قواعد نیز بر اساس جایگاه شرکت‌ها در زنجیره ارزش AI اعمال می‌شوند.

نویسندگان اعلام کرده‌اند که هنوز مسئولیت رعایت قواعد را به‌صورت نظام‌مند برچسب‌گذاری نمی‌کنند و قصد دارند این موضوع را در نسخه‌های آینده توسعه دهند. در حوزه پیامدهای عدم رعایت، تمرکز فعلی بر قواعدی است که ضمانت اجرا، مجازات، جریمه یا اقدامات اداری را تعیین می‌کنند. در زمینه نظارت نیز قواعد مربوط به ساختار نهادهای نظارتی و اختیارات اجرایی آن‌ها بررسی می‌شوند.

بررسی قوانین داخلی در ۱۹ حوزه قضایی

در بخش دامنه مطالعه، نویسندگان اعلام کرده‌اند طبقه‌بندی الزامات تنظیم‌گری را بر ۸۴ قانون، مقرره و پیشنهاد قانونی در ۱۹ حوزه قضایی اعمال کرده‌اند. در مجموع، ۴۵۴ ماده یا بند قانونی بررسی و ۹۳۵ برچسب الزام تنظیم‌گری به آن‌ها اختصاص داده شده است؛ زیرا یک ماده قانونی ممکن است چند الزام تنظیم‌گری را دربرگیرد.

اسناد بررسی‌شده شامل قوانین مصوب هوش مصنوعی، مقررات مرتبط، اسناد اجرایی، پیشنهادهای قانونی در حال بررسی در پارلمان‌ها و برخی پیش‌نویس‌های تاریخی است.

از جمله نمونه‌های ذکرشده در کتاب، قوانین مصوب اتحادیه اروپا، ویتنام، جمهوری کره و برخی ایالت‌های آمریکا از جمله کالیفرنیا، کلرادو و اورگن است. همچنین مقررات هوش مصنوعی چین، برخی فرمان‌های اجرایی آمریکا، پیش‌نویس‌های قانونی در برزیل و کنیا و پیش‌نویس تاریخی قانون AI و داده کانادا در دامنه مطالعه قرار گرفته‌اند.

این پروژه بر چارچوب‌هایی تمرکز دارد که شامل الزامات برای بخش خصوصی باشند. قوانین داخلی متمرکز بر توسعه اکوسیستم هوش مصنوعی، به‌جای تنظیم‌گری آن، و قوانین مربوط به نحوه استفاده نهادهای دولتی از AI خارج از دامنه اصلی مطالعه هستند. اسناد غیرالزام‌آور و راهنماها نیز به‌طور کلی بررسی نشده‌اند، به‌جز برخی موارد استثنایی مانند چارچوب حکمرانی هوش مصنوعی سنگاپور.

بررسی ۹ چارچوب بین‌المللی

در سطح بین‌المللی، متن ۹ چارچوب هوش مصنوعی به‌صورت بندبه‌بند بررسی شده است تا نگرانی‌های مطرح‌شده در آن‌ها شناسایی شود. در این تحلیل، مشخص می‌شود هر نگرانی موضوع اصلی یک بند است یا صرفاً به‌صورت فرعی مطرح شده و آیا بند موردنظر اقدام مشخصی برای دولت‌ها یا فعالان بخش خصوصی ارائه می‌کند یا خیر.

در این روش، بندهای «محوری» (Core) بندهایی هستند که نگرانی موردنظر موضوع اصلی آن‌هاست و بندهای «فرعی» (Tangential) فقط به‌صورت گذرا یا در ارتباط با موضوع دیگری به آن اشاره می‌کنند.

از نظر قابلیت اقدام نیز بندهای «قابل اقدام» (Actionable) شامل اقدام مشخص، تدبیر عملی یا سازوکار نظارتی هستند؛ در مقابل، بندهای «غیرقابل اقدام» صرفاً به تعریف، بحث، تأیید، ترویج یا اشاره به نگرانی می‌پردازند، بدون آنکه اقدام مشخصی ارائه کنند.

۹ چارچوب بین‌المللی بررسی‌شده عبارت‌اند از:

  • اصول هوش مصنوعی OECD
  • قطعنامه مجمع عمومی سازمان ملل متحد A/RES/۷۸/۲۶۵ درباره استفاده از فرصت‌های هوش مصنوعی ایمن، امن و قابل اعتماد برای توسعه پایدار
  • کنوانسیون چارچوب شورای اروپا درباره هوش مصنوعی، حقوق بشر، دموکراسی و حاکمیت قانون
  • اصول راهنمای بین‌المللی فرایند هیروشیما گروه هفت برای سازمان‌های توسعه‌دهنده سیستم‌های هوش مصنوعی پیشرفته
  • دستورالعمل رفتاری بین‌المللی فرایند هیروشیما برای سیستم‌های هوش مصنوعی پیشرفته
  • راهنمای ASEAN درباره حکمرانی و اخلاق هوش مصنوعی
  • راهنمای توسعه‌یافته ASEAN درباره حکمرانی و اخلاق هوش مصنوعی ـ هوش مصنوعی مولد
  • توصیه‌نامه یونسکو درباره اخلاق هوش مصنوعی
  • اعلامیه مشترک درباره هوش مصنوعی، آزادی بیان و آزادی رسانه

3974f189-2bbe-4bc0-9733-b403b8f30a89

ابزارهای تحلیل و دسترسی به داده‌ها

Digital Policy Alert، AI Governance Hub و Clairk از ابزارهایی هستند که در راهنما معرفی شده‌اند.

AI Governance Hub برای هر نگرانی هوش مصنوعی صفحه اختصاصی ارائه می‌کند که شامل به‌روزرسانی روزانه، تحولات مرتبط و متن مقررات داخلی و چارچوب‌های بین‌المللی است.

Clairk ابزار تحلیل متن سیاستی است که امکان جست‌وجو در اسناد، مقایسه متن‌ها و برچسب‌گذاری مواد قانونی را فراهم می‌کند. در راهنما همچنین به ابزار چت مبتنی بر داده‌های تأییدشده، API و یکپارچه‌سازی MCP اشاره شده است که امکان تعامل با داده‌ها و انتقال آن‌ها به سامانه‌های دیگر را فراهم می‌کنند.

درپایان نویسندگان تصریح کرده‌اند که برخی نگرانی‌ها، از جمله رقابت و پایداری، در حال حاضر در دامنه طبقه‌بندی اصلی قرار نگرفته‌اند. همچنین، قوانین داخلی متمرکز بر توسعه اکوسیستم هوش مصنوعی و نحوه استفاده نهادهای دولتی از AI در این پروژه بررسی نشده‌اند. در سطح بین‌المللی نیز برخی اسناد مرتبط با اجلاس‌های هوش مصنوعی در بلچلی، سئول، پاریس و دهلی در طبقه‌بندی تفصیلی قرار نگرفته‌اند؛ زیرا زبان آن‌ها نگرانی‌های مختلف را به‌صورت گسترده پوشش نمی‌دهد یا زبان مشخصی درباره تنظیم‌گری ندارد.

این گزارش بر اساس مطالب منتشرشده در وب‌سایت Digital Policy Alert تنظیم شده است. این نهاد، یکی از بخش‌های بنیاد سوئیسی St. Gallen Endowment for Prosperity Through Trade است که تحولات سیاست‌گذاری و مقررات‌گذاری در حوزه تجارت و فناوری را در سطح بین‌المللی رصد و مستندسازی می‌کند. گزارش اصلی با عنوان Refined Handbook for the Mapping of AI Rules در ۱۶ نوامبر ۲۰۲۶ منتشر شده است.

دانلود فایل کتابچه رفرنس منتشر شده در دیجیتال پالیسی آلرت

 

ارسال دیدگاه

پربازدیدترین ها
آخرین اخبار