هوش مصنوعی، جنگ و چالش حذف ادراک انسانی

سعیدرضا عاملی در نشست پیامدهای اخلاقی هوش مصنوعی با اشاره به دوفضایی شدن جهان در سخنرانی خود با عنوان «ظرفیت‌ها و مخاطرات هوش مصنوعی و فناوری‌های نو، اخلاق جنگ و احترام به انسان» با اشاره به اینکه الگوریتم‌ها فاقد روح انسانی‌اند، اظهار کرد: در جنگ‌های امروزی با «نامرئی شدن کشتار انسان‌ها» مواجه هستیم.

وی با مرور تاریخی نسبت میان فناوری و جنگ افزود: در آخرین مرحله از این تحول، جنگ مبتنی بر الگوریتم و کشتار رایانه‌ای شکل گرفته است؛ وضعیتی که موجب کنار گذاشته شدن حس و ادراک انسانی در تصمیم‌گیری‌های جنگی شده است.

عاملی همچنین بر ضرورت ایجاد «قفل اخلاقی» و نظارت معنادار بر عملکرد سامانه‌های هوش مصنوعی تأکید کرد و گفت: اگر یک سیستم هوش مصنوعی نتواند با دقت ۹۹.۹ درصدی غیرنظامی بودن یا نبودن را تشخیص دهد، نباید اجازه حمله داشته باشد.

تأکید دبیرکل کمیسیون ملی یونسکو در ایران بر ضرورت توجه نظام‌مند به اخلاق در توسعه هوش مصنوعی

حسن فرطوسی، دبیرکل کمیسیون ملی یونسکو در ایران نیز در این نشست با اشاره به تحولات شتابان فناوری هوش مصنوعی، بر نقش فزاینده آن در تصمیم‌سازی و حکمرانی و لزوم انطباق اصول اخلاقی جهانی با شرایط بومی تأکید کرد.

فرطوسی ضمن خیرمقدم به سخنرانان و حاضران، به اهمیت فناوری‌های نوظهور، به‌ویژه هوش مصنوعی، در جهان امروز اشاره کرد و گفت: تحولات شتابان فناوری در حوزه هوش مصنوعی و گسترش کاربردهای آن در عرصه‌های اجتماعی، فرهنگی، رسانه‌ای و حکمرانی، توجه نهادهای ملی و بین‌المللی را به پیامدهای اخلاقی این فناوری جلب کرده است.

وی در ادامه با تأکید بر جایگاه تحول‌آفرین این فناوری افزود: هوش مصنوعی در سال‌های اخیر از یک ابزار فناورانه فراتر رفته و به عنصری اثرگذار در فرآیندهای تصمیم‌گیری، تولید دانش و سیاست‌گذاری عمومی تبدیل شده است؛ امری که ضرورت توجه نظام‌مند به ملاحظات اخلاقی آن را برجسته می‌سازد.

نقش یونسکو در تدوین چارچوب‌های اخلاقی

فرطوسی با اشاره به نقش یونسکو در این حوزه تصریح کرد: یونسکو به‌عنوان نهاد پیشرو در تدوین اسناد بین‌المللی اخلاق هوش مصنوعی، نقش مهمی در هدایت گفت‌وگوهای جهانی پیرامون توسعه مسئولانه این فناوری ایفا کرده و بر اصولی چون عدالت، شفافیت، مسئولیت‌پذیری، احترام به کرامت انسانی و شمول اجتماعی تأکید دارد. تحقق عملی این اصول، مستلزم انطباق آن‌ها با شرایط و اولویت‌های ملی است.

وی افزود: جمع‌بندی این رویکرد در یونسکو، در سال ۲۰۲۱ و در قالب «توصیه‌نامه اخلاق در هوش مصنوعی» منتشر شد. این نهاد در این سند تلاش کرده است چارچوبی جامع مبتنی بر حفظ کرامت و حقوق انسان‌ها و دفاع از آزادی‌های اساسی ارائه دهد.

تأکید بر گفت‌وگوی میان‌رشته‌ای و ظرفیت‌سازی ملی

وی در بخش دیگری از سخنان خود، با قدردانی از همکاری دانشکده مطالعات جهان دانشگاه تهران و کرسی یونسکو در فضای مجازی و فرهنگ: دوفضایی شدن جهان، اظهار داشت: این سند بستری برای گفت‌وگوهای میان‌رشته‌ای میان متخصصان فراهم می‌کند. همچنین امکان شناسایی ظرفیت‌ها و چالش‌ها را در این حوزه به وجود می‌آورد و به تبیین بایسته‌ها و هنجارها در سطح ملی و بین‌المللی کمک می‌کند.

وی ادامه داد: این برنامه در امتداد مأموریت‌های کمیسیون ملی یونسکو در ایران طراحی شده است تا از خلال بررسی این سند توسط کارشناسان و صاحب‌نظران برجسته ایرانی، ظرفیت نهادی در سطح ملی ارتقا یابد.

در ادامه این نشست، سایر سخنرانان نیز به ارائه دیدگاه‌های تخصصی خود پرداختند.

ضرورت بازنگری در مسئولیت اجتماعی بنگاه‌ها

علی کرمانشاه، عضو هیئت علمی دانشکده مدیریت و اقتصاد دانشگاه صنعتی شریف نیز در سخنرانی خود با عنوان «هوش مصنوعی اخلاقی و مسئولانه تأکید کرد: بحث هوش مصنوعی باید در امتداد مفهوم تاریخی مسئولیت اجتماعی بنگاه‌ها بررسی شود.

وی با انتقاد از رویکردهای رایج در این حوزه گفت: مسئولیت اجتماعی در بسیاری از موارد به سودآوری تقلیل یافته و نتوانسته به تعهدات واقعی خود عمل کند. به گفته وی، در عصر جدید باید با تکیه بر مفهوم «مسئولیت اجتماعی دیجیتال»، اصولی چون شفافیت و مسئولیت‌پذیری به‌صورت جامع دنبال شود.

بررسی تطبیقی اسناد ملی و بین‌المللی

حسین حسنی، عضو هیئت علمی پژوهشگاه فرهنگ، هنر و ارتباطات نیز در سخنرانی خود با عنوان «مقایسه تطبیقی سند ملی هوش مصنوعی ایران با توصیه‌نامه اخلاق هوش مصنوعی یونسکو از منظر اخلاقی» به بررسی نقاط همگرایی و واگرایی این دو سند پرداخت.

وی حوزه‌هایی مانند کرامت انسانی، شفافیت، حریم خصوصی، عدالت، حاکمیت و بومی‌سازی اخلاق را از محورهای اصلی این مقایسه دانست و خاطرنشان کرد: تفاوت‌های فرهنگی، سیاسی و حقوقی موجب ارائه تعاریف متفاوتی از هوش مصنوعی شده است که نیازمند بررسی بیشتر است.

واکاوی فلسفی اصول اخلاق در هوش مصنوعی

در بخش پایانی این نشست، حمید شهریاری، دبیرکل مجمع جهانی تقریب مذاهب اسلامی و رئیس سازمان مطالعه و تدوین کتب دانشگاهی در علوم اسلامی و انسانی (سمت)، با رویکردی فلسفی به بررسی توصیه‌نامه اخلاق در هوش مصنوعی یونسکو پرداخت.

وی با تأکید بر دو اصل بنیادین کرامت و عدالت، بر ضرورت تفکیک حوزه‌های خاص و عام اخلاق تأکید کرد و اصولی همچون خودتنظیم‌گری، توجه به وجدانیات، آینده‌نگری، شفافیت، رعایت برابری و انصاف، حمایت از حیات، سلامت و رفاه عمومی، توجه به عواطف انسانی و ضرورت تدوین سازوکارهای نظارتی دقیق را از جمله محورهای اساسی در این حوزه برشمرد.