نوع مقاله : مقاله پژوهشی
عنوان مقاله English
نویسنده English
In the contemporary era, algorithms have moved beyond their role as mere computational tools and are progressively entering the domains of regulation and lawmaking. Through their pervasive embeddedness in governance infrastructures, they are emerging as de facto “silent lawmakers” whose normative force can shape new social and legal orders. This development confronts legal systems with unprecedented challenges. Against this backdrop, the present study aims to clarify the legal nature of algorithmic regulation and to propose a structured framework for addressing the challenges arising from the growing influence of algorithms within systems of governance. Accordingly, the central research question is how an effective legal framework for algorithmic regulation can be designed that is responsive to technical complexities while preserving the fundamental principles of the rule of law. The study proceeds from the premise that regulating algorithms requires a shift from traditional legal frameworks toward approaches that employ technology itself as a regulatory instrument. Methodologically, the research adopts an analytical‑descriptive approach, drawing on library‑based research, the analysis of legal instruments, and the examination of judicial decisions. The findings indicate that algorithms, beyond their instrumental role, possess normative and regulatory capacities. Existing legal frameworks are therefore insufficient to address this phenomenon, which underscores the need for innovative approaches such as data‑driven regulatory infrastructures, algorithmic auditing, regulation by design, and adversarial machine learning. These strategies help to reconcile technological efficiency with legal constraints and outline a pathway for preserving the rule of law in the age of artificial intelligence.
کلیدواژهها English
مقدمه[1]
در چهار دهه گذشته، الگوریتمها با نفوذی چشمگیر در همه ابعاد زندگی، سازوکارهای تصمیمگیری را دگرگون کرده است. این تحول با ظهور رایانههای شخصی در دهه ۱۹۸۰ آغاز شد و گسترش گوشیهای هوشمند، رایانش ابری و کاربردهای پیشرفته هوش مصنوعی نقطه اوج آن بود. امروزه جوامع صنعتی پیشرفته بهطور روزافزون به دستگاههای متصل به اینترنت و مبتنیبر الگوریتم وابسته شدهاند که بهصورت مستمر به جمعآوری، پردازش و تبادل داده میپردازند (Ulbricht et al., 2024). در این چارچوب تحلیلی، الگوریتمها با مجموعهای منظم از دستورالعملها بهشکل کلی (بدون توجه به جزئیات اجرایی) و با زبانی دقیق و قابل فهم برای همگان بیان میشود. این دستورالعملها برای انجام کار محاسباتی خاص طراحی شده و معمولاً با دادهها، ساختارهای داده، برنامهها و فرایندها ارتباط دارد. این تعریف، ماهیت چندوجهی الگوریتمها را آشکار میسازد که فراتر از دستورالعمل محاسباتی صرف، بهعنوان نظامهای پیچیدهای از تعاملات فنی-اجتماعی عمل میکند (Ibid.; Dourish, 2016). به بیان دیگر، الگوریتمها عوامل ناملموس اما مؤثری است که به شکلی عمیق و اغلب خاموش بر ابعاد مختلف زندگی افراد تأثیر میگذارد. برخلاف تصور رایج مبنیبر بیطرفی این ابزارهای فنی، شواهد پژوهشی نشان میدهد الگوریتمها چه در بُعد طراحی و چه کاربست، واجد بار ارزشی است؛ بدینمعنا که گرچه ساختار ریاضیاتی آنها در حالت انتزاعی میتواند فاقد ارزش ذاتی باشد، اما در عمل، انتخاب دادهها، تعریف متغیرها، ضریبگذاری معیارها و تعیین اهداف بهینهسازی، همگی از تصمیمات هنجاری و ارزشمدار متأثر است. این ارزشمحوریِ ساختاری و کاربردی سبب میشود که الگوریتمها پیامدهای حقوقی و اخلاقی متعددی ایجاد کند، بهگونهای که اصول بنیادین حقوقی و اخلاقی را تقویت یا تضعیف کرده و حقوق و کرامت ذاتی انسان را بهشکل نظاممند توسعه داده یا با محدودیت مواجه سازد (See. Martin, 2018). در این راستا، گسترش فراگیر الگوریتمها به پیدایش پدیدهای منجر شده است که پژوهشگران آن را «تنظیمگری الگوریتمی»[2] مینامند. این مفهوم را برخی محققان بهعنوان «تلاش نظاممند و هدفمند برای بهرهگیری از «تصمیمگیری الگوریتمی»[3] بهمنظور تأثیرگذاری بر رفتار یا مدیریت خطر» تعریف کردهاند. این نوع جدید از تنظیمگری با جمعآوری منظم دادهها بهطور پیوسته از بخشهای مختلف محیط تحت نظارت، دانش محاسباتی تولید میکند که برای بهبود عملکرد و دستیابی به اهداف تعیینشده استفاده میشود (Yeung, 2017).
همچنین نفوذ فراگیر الگوریتمها در فرایندهای تصمیمگیری به پیدایش مفهومی دیگر یعنی «حکمرانی الگوریتمی»[4] منجر شده است. این مفهوم دربرگیرنده گسترهای جامع از تأثیرات است که ازیکسو، هدایتهای هدفمند و از پیش طراحیشده و ازسویدیگر، پیامدهای غیرمنتظره و فراتر از قصد طراحان الگوریتمها را در حیات اجتماعی شهروندان شامل میشود. این مفهوم نشان میدهد که سازوکارهای مبتنیبر الگوریتم، فراتر از اهداف طراحی اولیه، قادرند جریان زندگی اجتماعی را به شیوههای متنوع و گاه غیرقابل پیشبینی، هدایت و ساماندهی کند(Latzer etal., 2016) . بدینترتیب، الگوریتمها نهتنها ابزار جمعآوری و تحلیل داده است، بلکه بهصورت فعال در فرایندهای تنظیمگری نقشآفرینی میکند. در این زمینه، ارتباط پیچیده میان الگوریتمها و الزامات حقوقی در مرکز توجه پژوهشها و سیاستگذاریهای حوزه حکمرانی قرار گرفته و دو جنبه مهم را در اولویت قرار میدهد: نخست، این سؤال کلیدی مطرح میشود که نهادهای تقنینی و نظارتی چگونه میتواند الگوریتمها را بهشکل مؤثر تنظیم کند. آیا منطق حقوقی باید بهسمت قالبهای الگوریتمی تحول یابد؟ یک نظام تنظیمگری مؤثر برای الگوریتمها چه مشخصاتی دارد و اصولاً تا چه اندازه عملی است؟ دوم، باید قدرت و نفوذ خود الگوریتمها در شکلدهی به محیط اطرافشان بهطور دقیق بررسی شود. این امر یعنی این الگوریتمها چگونه و تا چه حد بر تصمیمات، رفتارها و ساختارهای اجتماعی تأثیر میگذارد(Musiani, 2013) ؟ پاسخگویی به این پرسشهای بنیادین زمانی اهمیت بیشتری مییابد که درک شود مرز میان تصمیمگیری انسانی و الگوریتمی روزبهروز کمرنگتر میشود. با جایگزینی روزافزون تصمیمگیری الگوریتمها برای انسانها، نگرانی زیادی درباره حکمرانی مبتنیبر هوش مصنوعی و تعادل مناسب میان قضاوت الگوریتمی و انسانی پدیدار میشود (Gritsenko and Wood, 2022). ازاینرو عصر حاضر را میتوان عصر حکمرانی الگوریتمی نامید؛ چراکه نفوذ فراگیر الگوریتمها از حوزه فنی فراتر رفته و به قلمرو تنظیمگری و قانونگذاری وارد میشود. بنابراین الگوریتمها دیگر صرفاً ابزارهای خنثی برای پردازش داده نیست، بلکه به «قانونگذاران خاموشی» تبدیل شده که با قدرت هنجارسازی خود، رفتارها را شکل میدهد و نظم اجتماعی و حقوقی نوینی را پایهگذاری میکند. این تحول بنیادین، نظامهای حقوقی را با چالشهای بیسابقهای روبهرو ساخته که مستلزم بازاندیشی در چارچوبهای تنظیمی موجود است (See. Saxena, 2024).
در این راستا، پژوهش حاضر با هدف تبیین ماهیت حقوقی تنظیمگری الگوریتمی، به واکاوی تعامل پیچیده میان الگوریتمها و اصول حاکمیت قانون در نظامهای حقوقی میپردازد. بر این مبنا، پرسش بنیادین پژوهش این است که چگونه میتوان چارچوبی حقوقی ارائه کرد که ضمن پاسخگویی به پیچیدگیهای فنی، ضامن حفظ اصول اساسی حاکمیت قانون نیز باشد.
پاسخ به این پرسش بنیادین، پیش از هرچیز مستلزم توجه به چالشی مبنایی درخصوص امکان گذارِ الگووارهای از رویکرد تفسیری به رویکرد کمی و مکانیکی است. توضیح اینکه حکمرانی اعم از حقوقی و سیاسی، در چارچوب فکری و نهادی عمدتاً برپایه تفسیر انسانی، استدلال هنجاری و ملاحظات بستر اجتماعی-فرهنگی شکل گرفته است؛ رویکردی که بر ارزشها و هنجارها استوار است (Habermas, 1985; Dworkin, 1986). در این نظام، مفاهیمی مانند عدالت، انصاف و مشروعیت، ماهیتی کیفی و سیال دارد و بهطور کامل قابل فروکاست به معیارهای کمی نیست (Fuller, 1964). بااینحال، پیشرفت علوم داده و هوش مصنوعی، امکان طراحی نظامهای تصمیمگیری مبتنیبر داده، محاسبه و تکرارپذیری مکانیکی را فراهم ساخته است (Hildebrandt, 2020). پرسش اساسی آن است که آیا چنین گذار الگووارهای، از منظر فلسفه حقوق، ممکن و مطلوب است. پاسخ به این پرسش، جایگاه و حدود کارکرد ابزارهای کمی را در فرایند حکمرانی تعیین خواهد کرد. بهطور متعارف، حقوق بهمثابه یک نظام هنجاری و تفسیری شناخته میشود که برپایه استدلال قانونی و قضایی، اصول عرفی و تفسیر متون ازسوی مراجع انسانی شکل میگیرد (Dworkin, 1986). این رویکرد، ویژگیهای منحصربهفرد سیاق اجتماعی و زمینه فرهنگی هر پرونده را بهرسمیت میشناسد و از تفاسیر چندلایه بهرهمند میشود. در مقابل، رویکرد مکانیکی و کمیشده، تصمیمگیری را به قواعد صوری، دادههای کمی و الگوریتمهای از پیش تعریفشده میسپارد که ویژگیهایی چون تکرارپذیری، مقیاسپذیری و کاهش مداخله مستقیم انسانی را به همراه دارد (Brynjolfsson and McAfee, 2014). با این وجود، همانگونه که هیلدبرانت[5] (۲۰۲۰) یادآور میشود، مفاهیمی مانند انصاف و عدم تبعیض بهآسانی قابل ترجمه به زبان کد یا شاخصهای آماری نیست و خطر حذف لایههای معنایی و ارزشی در این فرایند وجود دارد. بنابراین، حتی در صورت گذار به حکمرانی کمیشده، چارچوبهای الگوریتمی نباید جایگزین کامل نظامهای تفسیری شود، بلکه باید نقش آنها در تکمیل و ارتقای کیفیت تصمیمات حقوقی-سیاسی انسانی تعریف شود.
پذیرش یا رد این گذارِ الگووارهای پیامدهایی تعیینکننده برای حکمرانی دارد. پذیرش این گذار بهمعنای اذعان به این است که تصمیمگیریهای حقوقی میتواند و در بسیاری موارد باید از ظرفیتهای تحلیل داده، پیشبینی آماری و اجرای مکانیکی الگوریتمها بهرهمند شود. این دیدگاه بر این باور است که با طراحی چارچوبهای دقیق حقوقی و نظارتی ضمن افزایش کارایی و انسجام تصمیمات، خطرات ناشی از سوگیری دادهای و عدم شفافیت را مهار میکند. در مقابل، رد این گذار نشاندهنده پایبندی به بنیانهای تفسیری و کیفی بهعنوان تنها مبنای مشروع تصمیمگیری است؛ رویکردی که بر نقش حیاتی قضاوت انسانی، ضرورت انعطاف تفسیری و لزوم توجه به بسترهای اجتماعی-فرهنگی تأکید میکند و معتقد است مفاهیمی چون عدالت، مشروعیت و انصاف ماهیتی بنیادی دارد که بهطور کامل قابل فروکاست به شاخصهای کمی و مکانیکی نیست.
این پژوهش موضع «پذیرش مشروط» این گذار را اتخاذ کرده است؛ بدینمعنا که بهرهگیری از رویکرد کمیشده و الگوریتمی صرفاً در قالب یک چارچوب مکمل و نه جایگزین کامل روشهای تفسیری، مطلوب و ممکن تلقی میشود. بر این اساس، همزیستی سازوکارهای کمی و تفسیری میتواند هم کیفیت و سرعت تصمیمات حاکمیتی را ارتقا دهد و هم در صورت تنظیمگری درست، مشروعیت و اعتماد عمومی را تقویت کند.
در همین چارچوب، یکی از محورهای اصلی این پژوهش، بررسی وضعیت ایران از منظر ورود به تنظیمگری الگوریتمی است. بدینمنظور، ضمن مرور اقدامهای داخلی در حوزه حکمرانی داده و هوش مصنوعی، به تحلیل انتقادی خلأها و کاستیهای موجود پرداخته میشود تا بنیانی برای طراحی یک چارچوب منسجم ملی فراهم شود؛ چارچوبی که بتوان الزامات شفافیت الگوریتمی را تضمین کرده و حقوق بنیادین کاربران را در مواجهه با فناوریهای نوین صیانت کند. ازاینرو نخست به تبیین مفاهیم و تمایزها میان «تنظیمگری الگوریتمی» و «حکمرانی الگوریتمی» پرداخته میشود سپس، چارچوبهای تنظیمی نوین در این حوزه مورد بررسی قرار میگیرد. واکاوی چالشهای حقوقی و فنی از قبیل دشواری تبدیل مفاهیم انتزاعی حقوقی به کدهای الگوریتمی، مسائل مربوط به شفافیت و پاسخگویی، تبعیض الگوریتمی، مشروعیتبخشی و حاکمیت قانون در عصر الگوریتمها مبحث دیگری است و درنهایت، با هدف رفع و تقلیل این چالشها، راهکارهایی همچون توسعه زیرساختهای مبتنیبر داده، بهرهگیری از یادگیری ماشینی، حسابرسی الگوریتمی و رویکرد «تنظیمگری از طریق طراحی» ارائه میشود.
1. پیشینه پژوهش
تنظیمگری الگوریتمی و حکمرانی هوش مصنوعی در سالهای اخیر به یکی از موضوعهای محوری در حقوق فناوری تبدیل شده است. مرور ادبیات داخلی و خارجی نشان میدهد هرچند آثار متعددی به برخی ابعاد حقوقی، فنی، سیاستی و اخلاقی این حوزه پرداختهاند، کمتر مطالعهای بهطور مشخص ماهیت حقوقی الگوریتمها بهعنوان «قانونگذاران خاموش» را بررسی کرده است. در حوزه مطالعات خارجی، یانگ[6] (2017) در مقاله «تنظیمگری الگوریتمی: پرسشی انتقادی» با تعریف این مفهوم بهعنوان تلاش نظاممند برای استفاده از تصمیمگیری الگوریتمی در مدیریت رفتار و خطر، گونهشناسی هشتگانهای از مدلهای واکنشی و پیشگیرانه ارائه داده است. پژوهش حاضر با بهرهگیری از این چارچوب، فراتر از تبیین نظری؛ به طراحی راهکارهایی متناسب با نظامهای حقوقی پرداخته است. همچنین هیلدبرانت (2020) در کتاب حقوق برای دانشمندان علوم رایانه و دیگران، چالش تبدیل مفاهیم هنجاری مانند انصاف و عدم تبعیض به کد اجرایی را واکاوی و مفهوم «یادگیری ماشینی تقابلی» را پیشنهاد کرده است. این پژوهش، ضمن اقتباس این ایده، آن را با ابزارهایی چون حسابرسی الگوریتمی و تنظیمگری از طریق طراحی تلفیق و بومیسازی کرده است. افزونبراین، براونزورد[7] (2019) در اثری با عنوان حقوق، فناوری و جامعه، ضرورت بازاندیشی در تنظیمگری فناوریهای نوظهور و بهرهگیری از «تنظیمگری از طریق طراحی» را برجسته کرده و پژوهش حاضر این رویکرد را در قالب راهکارهایی شامل حسابرسی الگوریتمی و یادگیری ماشینی تقابلی بسط داده است. اثر دیگر مربوط به لاتزر و همکاران[8] (2016) است که با معرفی مفهوم موسع «حکمرانی الگوریتمی» بر تأثیر عمدی و غیرعمدی تأکید دارند؛ تمایز این پژوهش آن است که با تفکیک دقیق این دو حوزه، چارچوب نظری ویژهای برای تحلیل حقوقی نقش الگوریتمها عرضه کرده است. بهعلاوه کوبه[9] (2020) در مقالهای با عنوان «سانسور الگوریتمی توسط پلتفرمهای اجتماعی: قدرت و مقاومت» با بحث «تنظیمگری کدمحور» به اصلاح رفتار مستقیم با کد پرداخته و این تحقیق با الهام از آن، چالشهای پیادهسازی چنین سازوکارهایی را تحلیل کرده است. همچنین پاسکواله[10] (2020) در اثری با عنوان قوانین نوین روباتیک: پاسداری از مهارت و تخصص انسانی در عصر هوش مصنوعی، بر ضرورت نظارت مردمسالارانه بر فرایند کدگذاری قوانین تأکید کرده است.
همچنین در میان آثار داخلی؛ بررسی دقیق ادبیات موجود نشان میدهد که این پژوهش در ابعادی با آثار داخلی نیز متمایز است. مهمترین وجه تمایز این تحقیق همانطور که بیان شد، تمرکز بر مفهوم «قانونگذاران خاموش» و نگاه به الگوریتمها بهعنوان عناصر دارای قدرت هنجارسازی و تنظیمگری فراتر از نقش ابزاری است. این پژوهش با تمرکز ویژه بر «سطح خُرد حقوقی» و راهکارهای اجرایی متمرکز است؛ حال آنکه اغلب پژوهشهای موجود به حوزه سیاستگذاری کلان بسنده کردهاند. در این زمینه، اثر میرعرب (۱۴۰۴) با عنوان «از سیاستگذاری تا مسئولیتپذیری: مسیر تحول حکمرانی هوش مصنوعی» عمدتاً بر جنبههای اخلاقی و مسئولیتپذیری در حکمرانی هوش مصنوعی تمرکز دارد، درحالیکه پژوهش حاضر بهصورت مستقیم به ابعاد تنظیمگری الگوریتمی و ترجمان الزامات حقوقی به کدگذاری پرداخته و فراتر از سطح مباحث صرفاً اخلاقی گام نهاده است. همچنین محمدی و همکاران (۱۴۰۳) در مقاله «تجربهنگاری حکمرانی توسعه فناوریهای هوش مصنوعی در کشورهای منتخب» مجموعهای از راهبردهای کلان را در چهار دسته ارائه کرده است، اما پژوهش حاضر بهجای تمرکز بر آن سطح، طراحی و تحلیل سازوکار اجرایی و حقوقی برای تنظیمگری الگوریتمی را هدف قرار داده است. بهعلاوه درحالیکه اثر کهنهوشنژاد (۱۴۰۳) در «حکمرانی بر بستر هوش مصنوعی» به نقش این فناوری در بهبود خدمات و سیاستگذاری پرداخته، این تحقیق به مفهومپردازی حقوقی الگوریتم بهعنوان تنظیمگر و تدوین چارچوبهای عملیاتی اهتمام دارد.
افزونبراین حسنی (۱۴۰۳) در مقاله «سیاستگذاری هوش مصنوعی در اتحادیه اروپا: اصول بنیادین، سازوکار حکمرانی و اصول اخلاقی» به بررسی مبانی، رویکرد کلی، اصول اخلاقی و نظام حکمرانی این حوزه در بستر اروپا پرداخته و بر نقش این نظام حقوقی بهعنوان پیشگام تنظیمگری فناوریهای نوین دیجیتال تأکید دارد، درحالیکه پژوهش حاضر نهتنها به سطح تحلیل مفهومی بسنده نکرده، بلکه از چارچوبهای توصیفی عبور کرده و وارد طراحی سازوکارهای حقوقی- فنی در سطح خُرد برای تنظیمگری الگوریتمی شده است و بهجای تمرکز صرف بر الگوی اتحادیه اروپا، این تحقیق مدل عملیاتی شامل ابزارهایی چون حسابرسی الگوریتمی، یادگیری ماشینی تقابلی و طراحی حقوقمحور سامانهها را ارائه داده است. همچنین اثر ابوذری (۱۴۰۲) در «هوش مصنوعی ابزار قدرت نرم در حوزه سیاست عمومی» بر کارکردهای سیاسی و اجتماعی این فناوری تکیه کرده است، درحالیکه پژوهش حاضر به تحلیل عمیق سازوکارهای حقوقی و فرایند هنجارسازی الگوریتمها میپردازد.
بهعلاوه اصغرنیا، احمدیزاد و ترابی (۱۴۰۱) در مطالعه «فرصتها، چالشها و روندهای جهانی فناوری تنظیمگری: مرور نظاممند مبانی نظری» فناوری تنظیمگر را با تمرکز بر حوزه مالی بررسی کردهاند، حالآنکه در این پژوهش، تنظیمگری الگوریتمی در بستر حکمرانی عمومی و حقوق، مطالعه و طراحی شده است. درنهایت اثر اجاقی، سلیمانیروزبهانی و ظهوریاننادعلی (۱۴۰۳) با عنوان «دکترین هنجارگذاری و تنظیمگری هوش مصنوعی» چهار سطح تطور این دکترین را معرفی کردهاند، اما در سطح مفهومی باقی ماندهاند، درحالیکه این پژوهش مسیر گذار به چارچوبهای اجرایی-فنی برای تنظیمگری الگوریتمی را طراحی کرده است و با توجه به آنچه بیان شد از جنبه نوآوری، فراتر از تحلیلهای نظری، سعی دارد یک مدل عملیاتی شامل راهکارهایی همچون ایجاد زیرساختهای مبتنیبر داده، بهکارگیری یادگیری ماشینی تقابلی، پیادهسازی حسابرسی الگوریتمی و توسعه سامانههای حقوقمحور ارائه دهد.
2. ضرورت قاعدهمندی تنظیمگری الگوریتمی در نظام حقوقی ایران
تحولات سالهای اخیر نشان میدهد که ایران همگام با جریان جهانی تحول دیجیتال، بهتدریج در حال ورود به عرصه تنظیمگری داده و هوش مصنوعی است. هرچند هنوز در قوانین کشور، اصطلاحات و مفاهیمی چون «تنظیمگری الگوریتمی» بهطور صریح وارد نشده، اما مجموعهای از مصوبات، طرحها و لوایح در حوزه حکمرانی داده و فناوریهای هوشمند، بستر ابتدایی این رویکرد را فراهم کرده است. در حوزه داده، میتوان به اسنادی همچون «دستورالعمل اجرایی بهبود حفاظت از حریم خصوصی کاربران و شیوه جمعآوری، پردازش و نگهداری اطلاعات کاربران در سامانهها و سکوهای فضای مجازی»[11] مصوب 03/11/1402 کمیسیون عالی تنظیم مقررات فضای مجازی کشور، اشاره کرد. گرچه این دستورالعمل گامی مثبت برای تنظیمگری حوزه دادههای شخصی است، اما بهدلیل جنبههای محدود مورد حمایت نمیتواند جایگزین قانونی جامع برای حکمرانی داده باشد.
همچنین قانون مدیریت دادهها و اطلاعات ملی مصوب 1401[12] قابل اشاره است که مشابه مورد قبل بهدلیل دامنه محدود، در بسیاری موارد فاقد الزامات حقوقی مشخص بهشمار میرود. افزونبراین، تلاشهایی برای تدوین بستر حقوقی جامعتر صورت گرفته است که نمونههای آن ازجمله پیشنویس لایحه «صیانت و حفاظت از دادههای شخصی» در تیر 1397 ـ منتشر شده در سایت وزارت ارتباطات و فناوری اطلاعات ایران[13]- و طرح «حمایت و حفاظت از داده و اطلاعات شخصی» اعلام وصول در شهریور 1400[14] و «طرح حفاظت از دادههای شخصی» اعلام وصول در نیمه مهر 1403[15] بهعنوان سندی مستقل برای حمایت از دادههای شخصی گام برداشته است. این اسناد پیشنهادی با الهام از مقررات عمومی حفاظت از داده اروپایی، تلاش کرده چارچوب جامعتری برای حفاظت از دادههای شخصی در ایران ایجاد کند. علاوه بر این، همزمان با تلاشهای یادشده، طرحهای دیگری نیز در حوزه داده و اطلاعات به مجلس شورای اسلامی ارائه شده است که ازجمله آنها میتوان به طرح الزام به انتشار داده و اطلاعات اعلام وصول در اردیبهشت 1404[16] و طرح یکپارچهسازی دادهها و اطلاعات ملی اعلام وصول 1399[17] اشاره کرد.
ازسویدیگر در ایران نسبت به تنظیمگری هوش مصنوعی تاکنون دو اقدام سندی و یک اقدام نهادی انجام شده است. این موارد ازجمله «سند ملی هوش مصنوعی» مصوبه شورای عالی انقلاب فرهنگی در تیر 1403 و «طرح ملی هوش مصنوعی» است که در 29 مهر 1403 در مجلس شورای اسلامی اعلام وصول شده و هدف آن ایجاد چارچوبی حقوقی برای توسعه و تنظیمگری هوش مصنوعی در کشور است. این اقدام مهم برای ایجاد چارچوب قانونی برای توسعه، تنظیمگری و کاربست هوش مصنوعی در ایران است و از منظر همگرایی با اسناد بالادستی، بهویژه بند «ج» ماده (۶۵) و ماده (۱۱۳) قانون برنامه هفتم توسعه، قابل توجه است. نقطه قوت آن، نگاه دوسطحی به «لایه بنیادین» و «لایه کاربست» و ایجاد نهادهای تخصصی همچون «سازمان ملی هوش مصنوعی» برای انسجامبخشی و هماهنگی ملی است. همچنین توجه به زیرساختهای داده، سرمایهگذاری، آموزش نیروی انسانی و پیوند نخبگان داخل و خارج کشور، نشان از رویکرد کلاننگر طرح دارد. بااینحال، طرح از منظر انتقادی با چند چالش جدی مواجه است: نخست، گستردگی بیشازحد دامنه و تعدد وظایف سازمان ملی هوش مصنوعی که خطر کندی در اجرا را به همراه دارد. دوم، کمبود شفافیت در سازوکارهای مربوط به پاسخگویی که میتواند ضمانت اجرا را تضعیف کند. سوم، عدم پیشبینی دقیق قواعد حقوقی برای شفافیت الگوریتمی، حفاظت از حقوق کاربران و مدیریت تعارضات حقوقی که در کنار توسعه، برای حکمرانی مسئولانه هوش مصنوعی ضروری است. بهطور خلاصه، هرچند این طرح میتواند بنیادی برای سیاستگذاری ملی هوش مصنوعی باشد، اما برای اجرای مؤثر، نیازمند کاهش پراکندگی وظایف، تقویت ضمانت اجرا و افزودن سازوکارهای شفافیت و پاسخگویی است. درنهایت نیز «سازمان ملی هوش مصنوعی [با معرفی شورای ملی راهبردی هوش مصنوعی]» مصوب در جلسه شورای عالی انقلاب فرهنگی در خرداد 1403 اقدام نهادی ایران درخصوص هوش مصنوعی است.
با توجه به آنچه بیان شد، تحلیل انتقادی وضعیت قانونگذاری در حوزه داده و هوش مصنوعی نشان میدهد که بسترهای موجود در ایران -اعم از قوانین مصوب و اسناد پیشنهادی- فاقد انسجام مفهومی و عملی لازم برای ورود به تنظیمگری الگوریتمی بهمعنای دقیق آن است. بهطوریکه این نواقص ساختاری و ماهوی باعث شده الزامات بنیادینی همچون تضمین شفافیت و پاسخگویی الگوریتمها، پیشگیری از تبعیض الگوریتمی و تعبیه سازوکارهای نظارت مؤثر، هنوز در سطح قوانین داخلی نهادینه نشده باشد. خلأ چنین چارچوبی موجب میشود که الگوریتمها در عمل بتواند نقش «قانونگذاران نهان» را بدون نظارت کافی ایفا کند و در فرایندهای تصمیمگیری عمومی و خصوصی، اثرات عمیق هنجاری برجای گذارد. ازاینرو، پرداختن به تنظیمگری الگوریتمی نه صرفاً ابزاری فنی، بلکه بهمثابه یک مقوله بنیادین حقوقی ضرورت مییابد؛ مقولهای که فهم ماهیت آن، مستلزم واکاوی همزمان ابعاد نظری، ساختاری و کارکردی الگوریتمها در جایگاه نهادهای هنجارساز است. در پرتو این ضرورت، مسیر این پژوهش بهگونهای ترسیم شده است که ـ مطابق با آنچه در مقدمه بیان شد- بتواند قدرت هنجارسازی الگوریتمها را در مسیر منطبق با اصول بنیادین حاکمیت قانون قرار دهد.
3. مفهومشناسی تنظیمگری الگوریتمی و تمایز آن با حکمرانی الگوریتمی
قبل از ورود به مفهومشناسی باید دانست در بررسی رابطه الگوریتمها و نظامهای حقوقی، مفهوم «تنظیمگری الگوریتمی» بر دو فرض اساسی قابل تبیین است. در فرض نخست - که محور اصلی این پژوهش است - الگوریتمها بهعنوان «قانونگذاران نهان» معرفی میشود. در این دیدگاه، الگوریتمها صرفاً ابزارهای محاسباتی نیست، بلکه همانند نظامهای هنجاری عمل میکند که با شکلدهی به رفتارها و تصمیمات انسانی، نقش تنظیمگری دارد. این ایده را نخستینبار بهطور نظاممند لارنس لسینگ[18] با عنوان «کد بهمثابه قانون»[19] مطرح کرد. براساس این دیدگاه، معماری و ساختار فنی سیستمها همانند قانون؛ برای کنشهای انسانی چارچوبها و محدودیتهایی ایجاد میکنند (Lessig, 2009). پژوهشهای بعدی این رویکرد را بسط داده و با مفاهیمی مانند «تنظیمگری از طریق طراحی»[20] نشان دادهاند که کد، همانند قانون، توانایی ایفای نقش یک نظام تنظیمی را دارد و حتی میتواند در عمل جایگزین یا مکمل مفاد قانونی شود (Brownsword, 2019). در مقابل، فرض دوم به چگونگی تنظیم و کنترل الگوریتمها توسط نظامهای حقوقی میپردازد که هرچند مهم است، اما کانون توجه این پژوهش نیست.
ازاینرو با تمرکز بر فرض نخست، به تحلیل حقوقی نقش الگوریتمها بهعنوان قانونگذاران نهان پرداخته میشود. این رویکرد از منظر تکثرگرایی حقوقی[21] قابل تبیین است که منابع هنجارگذاری را متکثر و فراتر از دولت میداند. در این چارچوب تنظیمگری الگوریتمی، نظام نوینی از ساماندهی اجتماعی ارائه میکند که از فرایندهای محاسباتی برای مدیریت خطر یا تغییر رفتار بهره میبرد. بنابر تعریف دقیق محققان، این مفهوم به «نظامهای تصمیمگیری اشاره دارد که حوزهای از فعالیت را بهمنظور مدیریت خطر یا تغییر رفتار از طریق تولید مستمر دانش محاسباتی تنظیم میکنند». در این راستا دادهها به شکلی نظاممند از بخشهای گوناگون محیط تنظیمشده گردآوری میشود تا عملیات بهصورت خودکار برای دستیابی به اهداف از پیش تعیینشده بهینهسازی شود. این مفهومپردازی بین اشکال پسینی (واکنشی) و پیشگیرانه تنظیمگری الگوریتمی تمایز قائل شده و هشتگونه متمایز را برپایه ترتیبات آنها در تعیین استاندارد، جمعآوری اطلاعات و اصلاح رفتار مشخص میسازد. به بیان دقیقتر، یانگ در چارچوب مفهومی خود، تنظیمگری الگوریتمی را به دو دسته اصلی تقسیم میکند. نخست، تنظیمگری واکنشی که پس از وقوع رویدادها عمل میکند و دوم، تنظیمگری پیشگیرانه که پیش از وقوع تخلف یا انحراف، به مداخله اقدام میکند. همچنین هریک از این دو دسته، با توجه به سه مؤلفه کلیدی یعنی نحوه تعیین استانداردها و قواعد، روشهای جمعآوری و پردازش اطلاعات همچنین سازوکارهای اصلاح و هدایت رفتار به زیرمجموعههای متعددی تقسیم میشود که درمجموع هشتگونه متمایز را تشکیل میدهد (See. Yeung, 2017).
تنظیمگری الگوریتمی در حال دگرگونسازی حکمرانی در حوزههای متعددی است. برای مثال، در حوزه تعدیل محتوا، سیستمهای یادگیری ماشینی که با پلتفرمهای آنلاین برای پالایش محتوای احتمالاً غیرقانونی یا مغایر با خطمشیها بهکار گرفته میشود، صرفاً ابزارهایی برای خودکارسازی اجرای قواعد از پیش تعیین شده نیست. این سیستمها بهطور بنیادین ماهیت تنظیمگری بیان را دگرگون میسازد، زیرا با تحلیل حجم عظیم دادهها و استخراج الگوهای پنهان، معیارهای جدیدی برای تشخیص محتوای نامطلوب ایجاد میکند که ممکن است فراتر از مرزهای صریح قواعد موضوعه باشد. بدینترتیب، الگوریتمهای تعدیل محتوا نهتنها مجریان قواعد، بلکه خود به نوعی قاعدهگذاران غیررسمی در فضای گفتمان عمومی تبدیل میشود و تأثیری عمیق بر شکلگیری مرزهای آزادی بیان در عصر دیجیتال میگذارد. این تحول، نوع جدیدی از حکمرانی را معرفی میکند که بر «فرایندهای تصمیمگیری پویا و انطباقپذیر مبتنیبر دادهها، همبستگیها و پیشبینیها» استوار است و اساساً با تنظیمگری سنتی مبتنیبر هنجارها متفاوت است. این رویکرد تنظیمی با آنچه محققان آن را «تنظیمگری کدمحور»[22] مینامند همسو است که به موجب آن خودسیستم بهطور مستقیم و فعال رفتار افراد را اصلاح میکند، نه اینکه صرفاً اطلاعاتی را دراختیار تصمیمگیرندگان انسانی قرار دهد (Hildebrandt, 2020; Cobbe, 2020).
با توجه به آنچه بیان شد، مفهوم دقیقتر «حکمرانی الگوریتمی» نیز لازم است. در این مفهوم دامنه تنظیمگری الگوریتمی فراتر از تلاشهای تنظیمی صرفاً هدفمند است. درواقع این امر بر اقدامهای عامدانه و طراحیشده برای مدیریت خطر یا تغییر رفتار تمرکز دارد اما در مقابل برخی دیگر استدلال میکنند که حکمرانی الگوریتمی مفهومی گستردهتر است که هم تأثیرات هدایتکننده عمدی و هم غیرعمدی نظامهای الگوریتمی را در زندگی روزمره دربرمیگیرد (Latzer etal., 2016). حکمرانی الگوریتمی دربرگیرنده نظامهایی است که هم در بستر پلتفرمهای تجاری خصوصی نظیر شبکههای اجتماعی، موتورهای جستجو و بازارگاههای آنلاین و هم ازسوی کنشگران سیاسی در حوزههای متنوع اجتماعی، اقتصادی و فرهنگی بهکار گرفته میشود. مصداق قابلتوجه آن در فضای شبکههای اجتماعی، پدیده سانسور الگوریتمی[23] است که تجلیبخش گونهای از حاکمیت الگوریتمی است. این سازوکار، ظرفیتهای اجرایی پلتفرمها را بهنحو چشمگیری فراتر از محدودیتهای ذاتی ناظران انسانی ارتقا میبخشد و قدرت تنظیمی بیسابقهای را در کنترل و هدایت گفتمان عمومی به آنها اعطا میکند (Cobbe, 2020).
بهطور خلاصه «تنظیمگری الگوریتمی» زیرمجموعهای از مفهوم موسع «حکمرانی الگوریتمی» است. تنظیمگری الگوریتمی بر جنبههای عمدی و هدفمند کنترل و هدایت رفتارها تمرکز دارد، درحالیکه حکمرانی الگوریتمی مفهومی جامعتر است که همه انواع تأثیرگذاری الگوریتمها بر نظم اجتماعی- چه این تأثیرات عمدی باشند و چه غیرعمدی- را دربرمیگیرد (Yeung, 2017). از این منظر، اثر غیرعمدی و جانبی الگوریتمها که اغلب از دید طراحان و سیاستگذاران پنهان میماند، بخش مهم و گاه تعیینکنندهای از حکمرانی الگوریتمی را تشکیل داده و تحلیل آن در فرایند سیاستگذاری، تدوین قوانین و تصمیمگیری نهادی ضروری است. همچنین در مقایسه با «تنظیمگری سنتی» که عمدتاً مبتنیبر تصویب قوانین، وضع مقررات و اِعمال نظارت انسانی است- رویکردی که اغلب واکنشی، پرهزینه و کند در مواجهه با تغییرات سریع فناورانه عمل میکند- «تنظیمگری الگوریتمی» از الگوریتمها و فناوریهای تحلیلی برای رصد، پیشبینی و هدایت رفتارها استفاده میکند (Calo, 2017; Ranchordás, 2021). کارکرد متمایز تنظیمگری الگوریتمی نسبت به سنتی در چند جنبه مشاهده میشود. این نظام تنظیمی از سرعت و مقیاسپذیری بالایی برخوردار است که امکان پردازش حجم عظیمی از دادهها و شناسایی الگوها را در زمان تقریباً آنی فراهم میسازد. همچنین، تنظیمگری الگوریتمی قابلیت کنش پیشبینانه دارد و میتواند انحرافها یا تخلفها را پیش از وقوع پیشبینی کرده و اقدامهای پیشگیرانه را به اجرا درآورد. از دیگر ویژگیهای مهم این نوع تنظیمگری، هدفمندی و شخصیسازی است که به تنظیم الزامات متناسب با ویژگیها و رفتارهای فردی یا گروهی میانجامد. علاوه بر این انعطافپذیری و بهروزرسانی پویا به الگوریتمها، قدرت انطباق با تغییرات محیطی و دادهای را بهمراتب سریعتر از قوانین سنتی میبخشد. بااینحال، این رویکرد چالشهایی چون شفافیتپذیری محدود برخاسته از ماهیت جعبه سیاه، سوگیری الگوریتمی، مسئولیتپذیری مبهم و مخاطرات مربوط به حریم خصوصی را نیز به همراه دارد که در چارچوب حقوقی باید بهصورت مشخص پاسخ داده شود (Yeung, 2017; Calo, 2017).
4. چارچوبهای تنظیمی نوین در راستای تنظیمگری الگوریتمی
تنطیمگری الگوریتمی نیازمند چارچوبهای تنظیمی تخصصی است که فراتر از رویکردهای حقوقی متعارف گسترش مییابد. سازوکارهای موجود برای «پاسخگویی الگوریتمی»[24] مانند الزامات شفافیت، مبنای مهمی را فراهم میآورد اما برای مقابله با آسیبهای بالقوه ناشی از تصمیمگیریهای الگوریتمی کافی نیست(McGregor, Murray and Ng, 2019) . در این راستا اقدامهای قانونگذاری اخیر، مبین درک نسبت به نیاز برای تنظیمگری خاص الگوریتمها است. برای مثال، قانون خدمات دیجیتالی اتحادیه اروپا[25] مصوب 2022 با هدف افزایش شفافیت سیستمهای الگوریتمی پلتفرمهای بزرگ آنلاین تدوین شده است. این قانون سازوکارهای انصراف از نمایهسازی و شخصیسازی را ارائه میدهد و همچنین، محافظت از خدمات را در برابر دستکاری تضمین میکند. علاوه بر این، الزام به ارزیابی خطر برای پیشگیری از محتوای غیرقانونی و محدودیتهای حقوقی را مقرر داشته است (European Parliament and Council, 2022a). این بستر نشان میدهد که آسیبهای الگوریتمی به «موضوعی برجسته در دستور کار حکمرانی اینترنت» تبدیل شده که ممکن است به کنترل نظارتی مؤثرتر پلتفرمها و عملیات مبتنیبر الگوریتم آنها منجر شود (Saurwein, Just and Latzer, 2021). سایر تحولات تنظیمی قابلتوجه شامل قانون پاسخگویی الگوریتمی ایالات متحده[26] ۲۰۲3 - در سال 2023 مجدداً به کنگره ارائه شد و هنوز تصویب نهایی نشده است (U.S. Congress, 2023). همچنین «قانون هوش مصنوعی اروپا»[27] مصوب 2024 است که بر پاسخگویی و شفافیت در نظامهای هوش مصنوعی تأکید میکند (European Parliament and Council, 2024). این چارچوبهای حقوقی، سازوکارهایی را پیشبینی میکند که طراحان سیستمهای هوشمند را موظف میکند دادهها و اطلاعات کامل و شفافی ارائه دهند تا امکان حسابرسی و ارزیابی انصاف در عملکرد الگوریتمها فراهم شود (Kossow, Windwehr and Jenkins, 2022).
فارغ از آنچه بیان شد در عرصه تنظیمگری الگوریتمی، رویکرد نوظهوری در حال توسعه است که بر پیادهسازی مستقیم الزامات حقوقی در قالب کد رایانهای تأکید میکند. این رویکرد تنظیمی که تحت عنوان «قانون بهمثابه کد»[28] شهرت یافته، پاسخی است به ماهیت ذاتی سیستمهای هوش مصنوعی که اساساً با کدهای الگوریتمی عمل میکند. در این خصوص برخی پژوهشگران استدلال میکنند که نظامهای تنظیمی سنتی که صرفاً به زبان طبیعی تدوین میشود، برای کنترل مؤثر سیستمهای الگوریتمی کفایت نمیکند. آنها معتقدند تنظیمگری کارآمد مستلزم رویکردی دوگانه است. نخست، تدوین چارچوبهای حقوقی به زبان طبیعی و دوم، ترجمه این چارچوبها به زبان محاسباتی که مستقیماً در ساختار الگوریتمی سیستمها قابل پیادهسازی باشد. این رویکرد به طراحی و توسعه «الگوریتمهای تنظیمگر» منجر میشود که قادرند هنجارهای حقوقی را بهصورت خودکار و در زمان اجرا بهعنوان «قانون مؤثر»[29] پیادهسازی کنند. برای مثال، قواعد حفاظت از دادههای شخصی میتواند بهصورت کدهایی پیادهسازی شود که بهطور خودکار از پردازش غیرمجاز اطلاعات جلوگیری کند. این تحول، مستلزم بازاندیشی بنیادین در فرایند قانونگذاری است. در این رویکرد، قانون خود بهمثابه ساختاری الگوریتمی، مفهومپردازی میشود که قابلیت ترجمه به زبانهای برنامهنویسی و اجرا در محیطهای محاسباتی دارد. مزایای بالقوه این رویکرد اجرای خودکار و یکپارچه قوانین، کاهش تفاسیر متناقض، افزایش قابلیت پیشبینی در اعمال قانون و امکان تطبیق سریعتر با شرایط متغیر است. همچنین این رویکرد میتواند به کاهش شکاف بین قانون در نظریه و قانون در عمل کمک کند. بااینحال، چالشهای اساسی نیز پیش روی این رویکرد قرار دارد. در این خصوص چگونگی تبدیل مفاهیم حقوقی انتزاعی به کدهای الگوریتمی، حفظ انعطافپذیری و تفسیرپذیری ذاتی قانون، تضمین نظارت مردمسالارانه بر فرایند کدگذاری قوانین و رسیدگی به مسائل مربوط به شفافیت و پاسخگویی در سیستمهای خودکار اجرای قانون ازجمله مهمترین چالشها است (Kennedy, 2024). توضیح تفصیلی چالشهای پیشگفته و همچنین سایر معضلات حقوقی در ادامه خواهد آمد.
5. چالشهای حقوقی ناشی از تنظیمگری الگوریتمی
رویکرد تبدیل مفاهیم حقوقی به کدهای الگوریتمی با چالشهای بنیادینی مواجه است که ریشه در ماهیت متفاوت نظامهای حقوقی و سیستمهای محاسباتی دارد. مفاهیم حقوقی اغلب ماهیتی انتزاعی، مبهم و تفسیرپذیر دارد که با منطق باینری[30] و قطعی سیستمهای الگوریتمی سازگاری ندارد. برای مثال، مفهوم «منفعت عمومی» یا «رفتار منصفانه» در حقوق، مستلزم ارزیابیهای متنی، زمینهای و گاه ذهنی است. تجربه دادگاههای اروپایی در پروندههای مرتبط با «حق فراموش شدن» همچون پرونده گوگل اسپین و گوگل علیه آژانس حفاظت از دادههای اسپانیا و ماریو کوستخا گونزالز[31] نشان میدهد که حتی با وجود معیارهای مشخص، قضاوت در مورد توازن میان حق حریم خصوصی و آزادی بیان، نیازمند استدلالهای پیچیدهای است که کدگذاری آنها در قالب الگوریتمهای قطعی بسیار دشوار است (See. Kennedy, 2024).
این چالش با مسئله حفظ انعطافپذیری و تفسیرپذیری ذاتی قانون پیوند میخورد تا بتواند با وضعیت متغیر اجتماعی و موارد غیرمنتظره سازگار شود. در این خصوص پرونده «استیت فارم علیه کمپبل»[32] یکی از مهمترین آرای دیوان عالی ایالات متحده در زمینه تعیین محدودیتهای قانون اساسی برای خسارات تنبیهی، اشاره شده است. در این پرونده، کمپبل مرتکب تصادف رانندگی مرگباری شد و شرکت بیمه استیت فارم با وجود الزامات حقوقی از پرداخت مبلغ مورد مطالبه خودداری کرد و مسئله در دادگاه مطرح شد. پس از محکومیت کمپبل در تصادف، وی علیه شرکت بیمه بهدلیل سوءنیت اقامه دعوی کرد و هیئتمنصفه خسارات تنبیهی به مبلغ 145 میلیون دلار در برابر خسارات واقعی 1 میلیون دلاری تعیین کرد. دیوان عالی با نسبت 6 به 3 رأی داد که این مبلغ خسارت تنبیهی نامتناسب و مغایر با اصل دادرسی منصفانه مندرج در متمم چهاردهم قانون اساسی است. اهمیت این پرونده در تعیین سه معیار کلی برای ارزیابی مشروعیت خسارات تنبیهی است. این موارد نخست درجه سرزنشپذیری رفتار خوانده، دوم نسبت میان خسارات تنبیهی و زیان وارده به خواهان و درنهایت تفاوت بین خسارات تنبیهی و مجازاتهای مدنی مقرر برای تخلفات مشابه است. قاضی با رأی اکثریت تأکید کرد که نسبتهای تکرقمی بین خسارات تنبیهی و جبرانی احتمالاً با الزامات دادرسی منصفانه مطابقت دارد، اما تصریح کرد که این معیارها نباید بهصورت فرمولهای خشک و انعطافناپذیر تفسیر شود. این رأی بر حوزه مسئولیت مدنی و حقوق بیمه تأثیر عمیقی گذاشت و بهعنوان یکی از مهمترین آرای محدودکننده خسارات تنبیهی در نظام حقوقی آمریکا شناخته میشود (See. Eisenberg and Heise, 2011). با استناد به این رأی و سایر موارد مشابه، میتوان گفت الگوریتمیسازی این اصول حقوقی، بدون تضعیف انعطافپذیری ذاتی آنها، چالشی بنیادین محسوب میشود. این دشواری ازآنجا ناشی میشود که سیستمهای الگوریتمی -برخلاف قضات انسانی- از ظرفیت محدودی در شناسایی موارد استثنایی و انطباق قواعد با وضعیتهای جدید برخوردارند.
علاوه بر این، نظارت مردمسالارانه بر فرایند کدگذاری قوانین چالش مهم دیگری است. فرایند تبدیل قوانین به کد، خود یک عمل تفسیری است که میتواند متضمن انتخابهای ارزشی و سیاستی باشد. در نظامهای مردمسالار، این پرسش مطرح میشود که چه کسانی باید اختیار این تفسیر و کدگذاری را داشته باشند (See. Pasquale, 2020). بهعنوان نمونه پرونده «نتچویس علیه پکستون»[33] یکی از مهمترین دعاوی حقوقی برای تنظیمگری الگوریتمی و مدیریت محتوای آنلاین است. این پرونده زمانی آغاز شد که ایالت تگزاس قانون موسوم به HB 20 را تصویب کرد و پلتفرمهای بزرگ آنلاین را از سانسور دیدگاههای کاربران براساس نظرهای سیاسی منع میکرد و آنها به شفافیت در مورد شیوههای مدیریت محتوا ملزم شدند. انجمنهای صنعتی «نتچویس»،[34] «اتحادیه صنایع رایانه و ارتباطات»،[35] نمایندگان شرکتهای بزرگ فناوری مانند فیسبوک، توییتر و گوگل، علیه این قانون شکایت و استدلال کردند که این مقررات، حق آزادی بیان پلتفرمها را به موجب متمم اول قانون اساسی نقض میکند، زیرا این متمم شامل حق انتخاب و کنترل محتوا با پلتفرمها از طریق سیستمهای الگوریتمی نیز میشود. دادگاه بدوی دستور منع موقت صادر کرد، اما دادگاه تجدیدنظر این دستور را لغو کرد. درنهایت، دیوان عالی ایالات متحده دستور منع اجرای قانون را تا زمان رسیدگی کامل به پرونده در دادگاههای پایینتر تأیید کرد. گفتنی است این پرونده یک تصمیم موقت[36] است و پرونده اصلی هنوز در حال رسیدگی است. بااینحال این پرونده نقطه عطفی در تعادل میان قدرت تنظیمگری دولت و استقلال الگوریتمی پلتفرمهای دیجیتال بهشمار میرود. در هسته این دعوی، پرسش بنیادینی مطرح شد اینکه آیا حاکمیت قانون میتواند بر چگونگی عملکرد الگوریتمهای مدیریت محتوا نظارت کند؟ قاضی در نظر مخالف خود در دیوان عالی با ابراز نگرانی از «قدرت بیسابقه پلتفرمهای اجتماعی در کنترل گفتمان عمومی» بر ضرورت نظارت قانونی تأکید کرد. در مقابل، اکثریت قضات دیوان عالی هشدار دادند که دخالت دولت در تصمیمگیریهای الگوریتمی میتواند به محدودیت آزادی بیان منجر شود.
این پرونده سیستمهای الگوریتمی را به بخشی جداییناپذیر از زیرساخت حقوقی جامعه مدرن تبدیل کرده که تنظیمگری آنها مستلزم توازن دقیق میان ارزشهای متعارض است. این موارد ازیکسو حفظ نوآوری و آزادی بیان و ازسویدیگر تضمین پاسخگویی و جلوگیری از سوءاستفاده از قدرت الگوریتمی است. درنهایت این پرونده[37] همچنان بهعنوان مرجعی کلیدی در شکلدهی به آینده حکمرانی الگوریتمی و چارچوبهای تنظیمگری فضای دیجیتال مورد استناد قرار میگیرد.
درنهایت شفافیت و پاسخگویی در سیستمهای خودکار و هوشمند در راستای اجرای قانون از چالشهای اساسی این حوزه است. سیستمهای الگوریتمی بهویژه آنهایی که بر یادگیری ماشینی مبتنی است، اغلب با مشکل «جعبه سیاه» مواجه است که توضیح دقیق فرایند تصمیمگیری آنها را دشوار میسازد. پرونده «لوومیس علیه ویسکانسین»[38] استفاده از نرمافزار ارزیابی خطر COMPAS در تعیین مجازات، بهدلیل عدم شفافیت الگوریتم و ناتوانی متهم در به چالش کشیدن منطق تصمیمگیری آن، مورد اعتراض قرار گرفت. این پرونده نشان میدهد که اجرای خودکار قوانین از طریق الگوریتمها، چالشهای جدی برای اصول دادرسی منصفانه و حق دفاع ایجاد میکند (Citron, 2022).
فراتر از این چالشهای عملیاتی، مسائل بنیادیتری مطرح میشود که به ماهیت رابطه میان الگوریتمها و چارچوبهای حقوقی مربوط میشود. این رابطه پرسشهای اساسی درباره حکمرانی در عصر هوش مصنوعی را برجسته میسازد. ازجمله اینکه آیا اصول استخراج شده از دادهها میتواند با ماشینها بهعنوان نوعی تنظیمگری محسوب شود (Nicholas., 2019). این پرسش بنیادین در حوزه سیستمهای یادگیری ماشینی اهمیت ویژهای مییابد، زیرا این سیستمها قادرند با تحلیل حجم عظیم دادهها؛ الگوها و قواعد پنهانی را استخراج کنند که بهصورت خودکار بر تصمیمگیریها اعمال میشود. این الگوها و قواعد استخراج شده، عملاً کارکردی مشابه هنجارهای تنظیمی پیدا میکند، زیرا رفتارها و تصمیمات را هدایت، محدود یا تشویق میکند، بدون آنکه لزوماً تحت نظارت یا فرایندهای رسمی قانونگذاری قرار گرفته باشد. در این زمینه هیلدبرانت با درک عمیق این چالش، مفهوم نوآورانه «یادگیری ماشینی تقابلی»[39] را مطرح میسازد. این رویکرد براساس نظریه دمکراسی تقابلی شانتال موفه[40] و ارنستو لاکلائو[41] بنا شده و به دنبال ایجاد فضایی برای مواجهه انتقادی با فرایندهای الگوریتمی است. در یادگیری ماشینی تقابلی، معماری محاسباتی بهگونهای طراحی میشود که امکان به چالش کشیدن مستمر مفروضات، روشها و نتایج الگوریتمها را فراهم میآورد. بهطور مشخص، این رویکرد شامل سازوکارهایی برای شفافیت الگوریتمی، امکان اعتراض به تصمیمات، بازبینی مستمر پارامترها و عوامل مؤثر الگوریتمی همچنین فراهم آوردن توضیحات قابلفهم برای تصمیمات اتخاذ شده است. هدف نهایی، قرار دادن تنظیمگری مبتنی بر داده تحت اصول حاکمیت قانون است، بهگونهای که تصمیمات الگوریتمی همانند تصمیمات انسانی، قابل بررسی، نقد و تجدیدنظر باشد. این رویکرد با باز معرفی عنصر پرسشگری تقابلی در سطح زیرساخت فنی، پلی میان دنیای الگوریتمها و اصول بنیادین حاکمیت قانون ایجاد میکند و راهی برای حفظ هنجارهای حقوقی در عصر حکمرانی الگوریتمی پیشنهاد میدهد (Hildebrandt, 2020).
همچنین یکی از مهمترین چالشهایی که چارچوبهای تنظیمی نوین باید به آن بپردازد، پدیده تبعیض الگوریتمی[42] است. این چالش بهویژه در زمینه اجرای رویکردهایی ازجمله «قانون بهمثابه کد» و «یادگیری ماشینی تقابلی» اهمیت محوری مییابد، زیرا خود این سازوکارها میتواند ناخواسته الگوهای تبعیضآمیز را بازتولید کند. تبعیض الگوریتمی در چندین شکل متمایز بروز میکند که هریک نیازمند راهکارهای تنظیمی خاصی است. این موارد ازجمله؛ سوگیری عاملان الگوریتمی[43] است. این مورد یعنی الگوریتمها میتواند در فرایندهای تصمیمگیری خود سوگیری نشان دهد که اغلب منعکسکننده و احتمالاً تقویتکننده تعصبات موجود اجتماعی نهفته در طراحی یا عملکرد آنهاست (Le Merrer et al., 2024). این مسئله بهویژه در «الگوریتمهای تنظیمگر» که در چارچوب رویکرد «قانون بهمثابه کد» عمل میکند، چالشبرانگیز است، زیرا این الگوریتمها خود به ابزارهای اجرای قانون تبدیل میشود. تبعیض براساس انتخاب ویژگی[44] و تبعیض نیابتی (غیرمستقیم)[45] است. این امر بهمعنای انتخاب ویژگیها در مدلهای الگوریتمی یا استفاده از متغیرهای جایگزین است که با خصوصیات حمایتشده همبستگی دارد و میتواند به نتایج تبعیضآمیز منجر شود. قوانینی مانند قانون هوش مصنوعی اروپا با تأکید بر شفافیت و پاسخگویی، گامهای مهمی برای شناسایی و کاهش این اشکال پیچیدهتر تبعیض برداشته است. نوع دیگر تأثیر نامتناسب[46] است. در این نوع الگوریتمها میتواند نتایجی تولید کند که بهطور نامتناسبی بر گروههای خاصی تأثیر میگذارد، این امر حتی میتواند بدون قصد صریح برای تبعیض صورت گیرد. این مسئله بهویژه در زمینه «یادگیری ماشینی تقابلی» اهمیت مییابد، زیرا این رویکرد به دنبال ایجاد فضایی برای به چالش کشیدن مستمر نتایج الگوریتمی است که شاید تأثیرات نامتناسبی بر گروههای مختلف داشته باشد. همچنین «تبلیغات هدفمند»[47] که در این قسم، سیستمهای الگوریتمی برای هدفگیری تبلیغاتی میتواند الگوهای تبعیضآمیز را با نمایش انتخابی فرصتهای متفاوت به گروههای جمعیتی مختلف ایجاد یا تقویت کنند(Ibid.) . قانون خدمات دیجیتالی اتحادیه اروپا با الزامات خود در زمینه شفافیت سیستمهای الگوریتمی و سازوکارهای انصراف از نمایهسازی و شخصیسازی، مستقیماً به این چالش میپردازد.
چارچوبهای تنظیمی نوین مانند قوانین یادشده، تلاش میکند تا با ترکیبی از الزامات شفافیت، ارزیابیهای تأثیر الگوریتمی[48]، حسابرسیها و سازوکارهای پاسخگویی، به این اَشکال متنوع تبعیض الگوریتمی بپردازد. بااینحال، همانطور که در بحث «قانون بهمثابه کد» و «یادگیری ماشینی تقابلی» مشاهده شد، چالشهای بنیادی در تبدیل مفاهیم حقوقی انتزاعی مانند «عدم تبعیض» و «انصاف» به کدهای الگوریتمی همچنان وجود دارد. البته رویکرد «یادگیری ماشینی تقابلی» هیلدبرانت با تأکید بر امکان به چالش کشیدن مستمر مفروضات، روشها و نتایج الگوریتمها، چارچوب امیدبخشی برای مقابله با تبعیض الگوریتمی ارائه میدهد. این رویکرد با فراهم آوردن سازوکارهایی برای شفافیت الگوریتمی، امکان اعتراض به تصمیمات، بازبینی مستمر پارامترها و عوامل مؤثر الگوریتمی، میتواند به شناسایی و اصلاح الگوهای تبعیضآمیز کمک کند. بهاینترتیب، «یادگیری ماشینی تقابلی» پلی میان چالش تبعیض الگوریتمی و چارچوبهای تنظیمی نوین ایجاد میکند و راهی برای حفظ اصل بنیادین عدم تبعیض در زمینه حکمرانی الگوریتمی پیشنهاد میدهد (Hildebrandt, 2020).
افزون بر آنچه بیان شد، چالش اساسی دیگری قابل اشاره است که از عدم شفافیت ذاتی[49] بسیاری از سیستمهای الگوریتمی ناشی میشود. برخلاف چارچوبهای حقوقی که برای شفافیت و دسترسپذیری طراحی شده، تنظیمگری الگوریتمی در بسیاری موارد برای حفظ ارزش ذاتی خود به عدم شفافیت متکی است، بهویژه اگر با منافع اقتصادی شرکتهای خصوصی مرتبط باشد. این تنش میان نیاز به شفافیت برای تضمین پاسخگویی عمومی و انگیزههای اقتصادی که عدم شفافیت الگوریتمی را ترویج میکنند، معضلی بنیادین در حوزه تنظیمگری ایجاد میکند. این دوگانگی، پیوندی مستقیم با چالشهای مشروعیت و حاکمیت قانون دارد. با گسترش نفوذ الگوریتمها در ساختارهای حکمرانی، پرسشهای اساسی درباره این اصول بنیادین بهطور فزایندهای اهمیت مییابد. به موازات افزایش نقش سیستمهای الگوریتمی در تصمیمگیریهایی که پیامدهای ملموس و عینی دارد، این سیستمها ماهیتی عمومی مییابد که در آن «مسائل مشروعیت» به میان میآید؛ نهاد تصمیمگیرنده موظف است به حقوق بشر و پایبندی به اصول حاکمیت قانون احترام گذارد. با این وجود، انتقال ساده اصول حقوقی موجود به قلمرو سیستمهای الگوریتمی، بهدلیل تفاوتهای ماهوی میان این سیستمها و چارچوبهای حقوقی متعارف، با موانع جدی روبهرو است. همچنین فراتر از مسائل شفافیت و مشروعیت، چالش قابلتوجه دیگر، واگرایی (ناهمخوانی) بین هنجارهای تعبیهشده در فناوری[50] و نظامهای حقوقی موجود است. همانطور که واگنر[51] (۲۰۱۹) خاطرنشان میکند، «هنجارهای اجتماعی تعبیهشده در فناوری، آشکارا تحت تأثیر نظامهای حقوقی است، اما آنها همان الزامات حقوقی مربوطه نیست و اغلب به روشهای متعددی از آنها منحرف میشود». این واگرایی پیچیدگیهایی را برای چارچوبهای تنظیمی ایجاد میکند که تلاش میکند سیستمهای الگوریتمی را با اصول حقوقی همسو کند، زیرا فناوریها به «کانونهای کلیدی کنترل تبدیل میشود که در آن قدرت توزیع و بازتوزیع میشود».
همچنین پیچیدگیهای تنظیمگری الگوریتمی در حوزههای حساس مانند عدالت کیفری بهطور خاص قابل توجه است. در این زمینه، نگرانیهای جدی درباره اثربخشی و انصاف ابزارهای الگوریتمی مطرح میشود. مطالعات مشکلاتی را شناسایی کردهاند که شامل «سوگیری نژادی و تبعیض جنسیتی»، «مفروضات مسئلهساز که این سیستمها بر آن استوارند» و «کمبود شواهد مربوط به اثربخشی آنها» است (Yeung, Howes and Pogrebna, 2019). این مسائل با «شکاف پاسخگویی» تشدید میشود که در آن سیستمهای الگوریتمی میتواند «توانایی نهادهای اجرای قانون در ارائه استدلالهای منطقی و شفاف برای تصمیمات اتخاذ شده را بهطور محسوسی تضعیف کند» (Devins et al., 2017).
6. تمسک به رویکردهای نوآورانه: مسیری برای رفع و تقلیل چالشهای حقوقی
تنظیمگری الگوریتمی با چالشهای پیچیده و چندبعدی مواجه است که راهحلهای سنتی حقوقی بهتنهایی پاسخگوی آنها نیست. در این مبحث، رویکردهای نوآورانهای بررسی میشود که با ترکیب دانش حقوقی و فناوری، مسیرهای جدیدی برای غلبه بر چالشهای تنظیمگری الگوریتمی ارائه میدهد. این رویکردها از زیرساختهای مبتنیبر داده، فناوریهای پردازش زبان طبیعی، حسابرسی الگوریتمی و تنظیمگری از طریق طراحی را شامل میشود. وجه مشترک این رویکردها، گذار از چارچوبهای سنتی تنظیمگری و بهرهگیری از خودفناوری بهعنوان ابزاری برای تنظیمگری مؤثرتر است. این رویکردها نهتنها به دنبال محدود کردن خطرات سیستمهای الگوریتمی است، بلکه میکوشد از ظرفیتهای این سیستمها برای ایجاد چارچوبهای تنظیمی کارآمدتر، منعطفتر و پاسخگوتر بهره گیرد.
۶-۱. استفاده از رویکردهای زیرساختی مبتنیبر داده
این رویکرد بر اهمیت اساسی زیرساختهای مبتنیبر داده مبتنیبر داده در شکلگیری نظام تنظیمگری الگوریتمی تأکید میکند. از دیدگاه حقوقی، زیرساختهای دادهای سفارشیسازی شده[52] تأثیرات بسیاری بر صلاحیت قضایی و حاکمیت داده دارد. این زیرساختها فراتر از نقش بستر اجرایی برای قوانین، خود بهعنوان عامل تنظیمی عمل میکند و میتواند ماهیت، گستره و کارآمدی تنظیمگری را در سطوح مختلف مرزهای ملی، سازمانی و حقوقی تعیین کند (Bellanova et al., 2021). البته زیرساختهای دادهای سفارشیسازی شده چالشهای پیچیدهای در حوزه حاکمیت دیجیتالی و تعارض قوانین ایجاد میکند که مستلزم راهکارهای حقوقی نوین برای حلوفصل آنهاست. برای مثال، «پرونده شرمس ۲ علیه کمیسر حفاظت از دادهها»[53] دیوان دادگستری اتحادیه اروپا با لغو توافقنامه حریم خصوصی بین اتحادیه اروپا و آمریکا، نشان داد که زیرساختهای دادهای فراملی میتواند موجب تعارض اصول حقوقی بنیادین شود. این حکم، الزامات جدیدی برای طراحی زیرساختهای دادهای ایجاد کرد که به پاسخگویی به الزامات حقوقی متعدد و گاه متناقض قادر باشد. به بیان دقیقتر، این زیرساختها باید از قابلیت «محلیسازی حقوقی» برخوردار باشد تا پاسخگوی الزامات حقوقی متفاوت در حوزههای قضایی مختلف باشد (Court of Justice of the European Union, 2020).
۶-۲. بهرهمندی از فناوریهای زبانی و یادگیری ماشینی
رویکردهای مبتنیبر فناوری، پاسخی به ناکارآمدی تنظیمگریهای سنتی است که اغلب در دستیابی به اهداف خود موفق نبوده. بهرهگیری از پردازش زبان طبیعی[54] و یادگیری ماشینی[55] میتواند به تدوین مقرراتی بینجامد که ضمن برخورداری از شفافیت متنی بیشتر، رفتارهای انطباقی مؤثرتری را در مخاطبان برانگیزد. البته جریان این فناوریها در حوزه تنظیمگری، بازنگری در اصول بنیادین حقوقی مانند «قطعیت قانونی» و «قابلیت پیشبینی» را ضروری میسازد (See. Buchholtz, 2019). همچنین این نگرش نوآورانه، هر دو جنبه «شکستهای متنی و رفتاری افشاگریها»[56] را در فرایند قانونگذاری و اجرا هدف قرار میدهد. اصطلاح «شکستهای متنی و رفتاری افشاگریها» به دو نوع اصلی ناکارآمدی در افشای اطلاعات اشاره دارد. شکست متنی هنگامی رخ میدهد که اطلاعات ارائه شده از نظر ساختاری و زبانی برای مخاطب قابل درک نباشد. این پدیده معمولاً در قالب استفاده از اصطلاحات تخصصی پیچیده، جملات طولانی و ارائه حجم زیادی از اطلاعات غیرضروری نمایان میشود. شکست رفتاری زمانی اتفاق میافتد که حتی با وجود قابلفهم بودن اطلاعات، مخاطبان تصمیمات خود را براساس آن اطلاعات تغییر نمیدهند. این پدیده میتواند ناشی از سوگیریهای شناختی، بیتوجهی به اطلاعات یا فقدان انگیزه کافی برای اقدام باشد. برای مثال، مطالعات نشان میدهد که مصرفکنندگان حتی با آگاهی از خطرات محصولات، لزوماً رفتار خرید خود را تغییر نمیدهند. نهادهای تنظیمگر برای غلبه بر این شکستها، به رویکردهای نوآورانهای روی آوردهاند. استفاده از فناوریهای پردازش زبان طبیعی و یادگیری ماشینی میتواند به بهبود کیفیت متنی اسناد برای شفافسازی کمک کند و با بهرهگیری از اصول علوم رفتاری، تأثیر عملی این اطلاعات را افزایش دهد (Drummond, Shephard and Trnka, 2021).
۶-۳. تمسک به حسابرسی الگوریتمی برای سازوکار تقویت نظارت
حسابرسی الگوریتمی[57] ابزاری نوآورانه برای تقویت اجرای قوانین و مقررات در عصر هوش مصنوعی است. این رویکرد امکان شناسایی الگوهای پنهانِ عدم انطباق را فراهم میآورد که با روشهای نظارتی سنتی قابل تشخیص نیست. اَشکال ظریف عدم انطباق مانند «خود-ترجیحی»[58] که پیش از این بدون تحلیلهای خودکار در مقیاس بزرگ تشخیص داده نمیشد، اکنون شناسایی میشود. اصطلاح «خود-ترجیحی» معمولاً در حقوق رقابت و تنظیمگری دیجیتالی به رفتاری اشاره دارد که در آن پلتفرم یا شرکتی با موقعیت مسلط، محصولات یا خدمات خود را نسبت به محصولات یا خدمات رقبا اولویت میدهد. در این بحث، خود-ترجیحی به الگوهای ظریف و پنهانی طلاق میشود که در آن سیستمهای الگوریتمی بهطور نظاممند به نفع گروه یا منافع خاص عمل میکند. حسابرسی الگوریتمی قادر است این تبعیضهای پنهان را که الگوریتمهای تصمیمگیر برای سوق دادن نتایج بهسمت منافعی خاص بهکار میگیرد، شناسایی کند. بدینجهت از منظر حقوقی، حسابرسی الگوریتمی تحولی اساسی در مفهوم نظارت ایجاد میکند که برخلاف روشهای سنتی که بر بازرسیهای دورهای و نمونهبرداری تصادفی متکی است، امکان نظارت مستمر و فراگیر را فراهم میآورد. این تغییر، نیازمند بازنگری در اصول و قواعد نظارتی سنتی است که دههها برمبنای محدودیتهای انسانی در پردازش اطلاعات شکل گرفته است (Kokina et al., 2025).
۴-۶. بهرهگیری از تنظیمگری با طراحی
تنظیمگری از طریق طراحی به ایجاد قواعد و الزاماتی اشاره دارد که بهطور خاص برای تسهیل حسابرسی الگوریتمی در مقیاس بزرگ تدوین شده است. این رویکرد با اصل «حریم خصوصی از طریق طراحی»[59] در قوانین حفاظت از داده قرابت مفهومی دارد و شامل مواردی چون اعطای حقوق دسترسی گستردهتر به دادهها برای تنظیمگران و پژوهشگران، پذیرش فرمتهای دادهای استاندارد و طراحی تعهدات تنظیمی قابل کدگذاری و نظارت الگوریتمی است (See. Kokina et al., 2025). از منظر فلسفه حقوق، این رویکرد تغییر اساسی از تنظیمگری پسینی به تنظیمگری پیشگیرانه ایجاد میکند. این تحول به دنبال تعبیه الزامات حقوقی در مرحله طراحی سیستمها - نه مجازات پس از وقوع تخلفات- است. چنین رویکردی طراحان سیستم را موظف میکند پیامدهای حقوقی طراحیهای خود را از ابتدا پیشبینی کنند برای نمونه پرونده «گوگل اسپین» (گوگل علیه آژانس حفاظت از دادههای اسپانیا و ماریو کوستخا گونزالز)[60] نشان میدهد که اگر موتورهای جستجو از ابتدا با رویکرد «حفاظت از داده از طریق طراحی» توسعه مییافتند، سازوکارهای فنی برای اجرای «حق فراموش شدن» پیشبینی و تعبیه میشد. این طراحی پیشگیرانه میتوانست امکان حذف خودکار یا منقضی شدن دادههای شخصی قدیمی و غیرمرتبط را فراهم کند و نیاز به دخالت قضایی و ایجاد فرایندهای پیچیده برای حذف محتوا پس از صدور رأی دادگاه را کاهش میداد (See. Court of Justice of the European Union, 2014).
شایان ذکر است که نظامهای حقوقی رویکردهای متفاوتی به تنظیمگری از طریق طراحی داشتهاند؛ «مقررات عمومی حفاظت از داده اتحادیه اروپا[61] مصوب 2016 با اصل «حفاظت از داده از طریق طراحی» پیشگام بوده است (European Parliament and Council, 2016). در ادامه «قانون خدمات دیجیتالی»[62] مصوب 2022 این رویکرد را به حوزههای دیگر گسترش داد و پلتفرمهای آنلاین را ملزم کرد تا سیستمهای مدیریت محتوا و الگوریتمهای توصیه را بهگونهای طراحی کنند که از انتشار محتوای غیرقانونی جلوگیری شود (Ibid., 2022a). همچنین «قانون بازارهای دیجیتالی»[63] مصوب 2022 این رویکرد را در حوزه رقابت اعمال کرد و شرکتهای فناوری بزرگ را موظف ساخت خدمات خود را بهنحوی طراحی کنند که امکان رقابت عادلانه و تعاملپذیری با سایر سرویسها فراهم باشد (Ibid., 2022b).
7. جمعبندی و نتیجهگیری
پژوهش حاضر در راستای شناخت ماهیت حقوقی تنظیمگری الگوریتمی و طراحی چارچوبی مناسب برای رویارویی با چالشهای این موضوع صورت پذیرفته است. نتایج حاصل از این بررسی نشان میدهد که الگوریتمها در دوران معاصر از مرز ابزارهای محاسباتی محض عبور کرده و به حیطه تنظیمگری و قانونگذاری راه یافته است. این تسلط موسع، آنها را بهمثابه «مقننهای نهانی» تبدیل کرده است که با نیروی هنجارآفرینی خود، میتواند نظام اجتماعی و حقوقی تازهای را بنیان نهد. بررسیها حاکی از آن است که تعامل میان نظامهای حقوقی و الگوریتمها پیچیدگیهای منحصربهفردی دارد که نمیتوان با رویکردهای سنتی به آن پرداخت. الگوریتمها با ویژگیهای خودتنظیمی و یادگیری، قابلیت تطبیق با شرایط متغیر را دارد که این امر مفهوم «قانون ثابت» را به چالش میکشد. این تحول بنیادین، ضرورت بازاندیشی در اصول بنیادین حقوق مانند قطعیت و پیشبینیپذیری را آشکار میسازد. در راستای درک عمیقتر تمایز مفهومی میان «تنظیمگری الگوریتمی» و «حکمرانی الگوریتمی» ضرورت رویکردی دقیق و تخصصی به این حوزه را نمایان میسازد. تنظیمگری الگوریتمی بهعنوان استفاده هدفمند از الگوریتمها برای تأثیرگذاری بر رفتار، نیازمند چارچوبهای حقوقی متفاوتی نسبت به حکمرانی الگوریتمی است که به تأثیرات گستردهتر الگوریتمها بر جامعه اشاره دارد. این تفکیک مفهومی، مبنای نظری مناسبی برای تدوین راهبردهای تنظیمی متمایز فراهم میآورد. علاوه بر چالشهای مفهومی فوقالذکر، مسئله اساسی دیگر (در حوزه تنظیمگری الگوریتمی)، تبدیل مفاهیم حقوقی انتزاعی به کدهای قابل اجرا در محیطهای رایانهای است. اصول حقوقی مانند «منصفانه بودن»، «متعارف بودن» و «مسئولیت» مفاهیمی است که ترجمه آنها به زبان الگوریتمی با دشواریهای فلسفی و فنی همراه است. به بیان دقیقتر، این چالش مستلزم توسعه روشهای نوآورانهای است که بتواند شکاف میان حوزههای حقوقی و فنی را پر کند. با توجه به این موارد، راهکارهای نوآورانه پیشنهادی در این پژوهش، مسیر جدیدی برای غلبه بر موانع تنظیمگری الگوریتمی ترسیم میکند. رویکرد «تنظیمگری از طریق طراحی» با تعبیه اصول حقوقی در مرحله طراحی الگوریتمها، امکان اجرای پیشگیرانه قوانین و مقررات را فراهم میآورد. به موازات این رویکرد، فناوریهای حسابرسی الگوریتمی و یادگیری ماشینی تقابلی، ابزارهای مؤثری برای شناسایی و اصلاح سوگیریها و تبعیضهای الگوریتمی محسوب میشود. علاوه بر این، «زیرساختهای مبتنیبر داده» با ایجاد پایگاههای داده حقوقی استاندارد و قابلپردازش ماشینی، امکان تطبیق خودکار الگوریتمها با تغییرات قانونی را میسر میسازد. درنهایت دستیابی به این هدف مستلزم تعاملات فرارشتهای است که میتواند به توسعه زبان مشترک و چارچوبهای مفهومی یکپارچهای منجر شود تا بتوان پیچیدگیهای فنی و الزامات حقوقی را بهطور همزمان پاسخ داد. درواقع از این طریق است که میتوان به حکمرانی مؤثر در عصر الگوریتمها دست یافت و تعادلی پایدار میان نوآوری فناورانه و صیانت از ارزشهای بنیادین حقوقی برقرار کرد.
[1]. این اثر تحت حمایت مادی بنیاد ملی علم ایران (INSF) برگرفته شده از طرح شماره «۴۰۳۱۴۶۲ » انجام شده است.
[2]. Algorithmic Regulation
[3]. Algorithmic Decision-Making
[4]. Algorithmic Governance
[5]. Hildebrandt
[6]. Yeung
[7]. Brownsword
[8]. Latzer et al.
[9]. Cobbe
[10]. Pasquale
[11]. https://rc.majlis.ir/fa/law/show/1797869
[12]. https://rc.majlis.ir/fa/law/show/1753599
[13]. https://www.ict.gov.ir/u/2oT
[14] .https://dotic.ir/news/10419
[15] .https://rc.majlis.ir/fa/legal_draft/show/1816729
[16].https://rc.majlis.ir/fa/legal_draft/show/1630853
[17]. https://rc.majlis.ir/fa/legal_draft/show/1630861
[18]. Lawrence Lessig
[19]. Code is Law
[20]. Regulation by Design
[21]. Legal Pluralism
[22]. Code-Driven Regulation
[23]. Algorithmic Censorship
[24]. Algorithmic Accountability
[25]. Digital Services Act
[26]. US Algorithmic Accountability Act
[27]. Artificial Intelligence Act
[28]. Law as Code
[29]. Effective Law
[30]. Binary Logic
[31]. این پرونده (Google Spain SL and Google Inc. v. Agencia Española de Protección de Datos (AEPD) and Mario Costeja González Case C-131/12, 2014) نقطه عطفی در حقوق حریم خصوصی دیجیتالی و حق فراموش شدن در اتحادیه اروپا محسوب میشود. این پرونده زمانی آغاز شد که ماریو کوستخا گونزالز، شهروند اسپانیایی، در سال 2010 شکایتی را نزد آژانس حفاظت از دادههای اسپانیا (AEPD) مطرح کرد. او خواستار حذف لینکهای مربوط به مقالهای در روزنامه La Vanguardia از سال 1998 بود که به مشکلات مالی و حراج املاک او اشاره داشت. گونزالز استدلال میکرد که این اطلاعات دیگر مرتبط نیستند زیرا مشکلات مالی او سالها پیش حل شده بود. آژانس حفاظت از دادههای اسپانیا (AEPD) شکایت علیه روزنامه را رد کرد، اما شکایت علیه گوگل را پذیرفت و از گوگل خواست لینکهای مربوطه را از نتایج جستجو حذف کند. گوگل اسپین (شعبه اسپانیایی) و گوگل اینک (شرکت مادر آمریکایی) با این تصمیم مخالفت کردند و درخواست تجدیدنظر دادند. پرونده به دادگاه ملی اسپانیا رفت و این دادگاه سؤالهایی را برای تفسیر قانونی به دیوان دادگستری اتحادیه اروپا ارجاع داد. دیوان دادگستری اتحادیه اروپا در 13 مه 2014 رأی مهمی صادر کرد که به موجب آن، موتورهای جستجو را مسئول پردازش دادههای شخصی شناخت و حق فراموش شدن را به رسمیت شناخت. دادگاه تصریح کرد که افراد حق دارند در شرایط خاص، از موتورهای جستجو درخواست کنند لینکهای حاوی اطلاعات شخصی آنها را حذف کند، بهویژه زمانی که این اطلاعات «نامناسب، نامربوط یا دیگر مرتبط نیستند». این تصمیم نهتنها بر حقوق حریم خصوصی در اتحادیه اروپا تأثیر عمیقی گذاشت، بلکه بهعنوان الگویی برای قانونگذاری در سایر حوزههای قضایی نیز عمل کرد. درنتیجه این حکم، گوگل مجبور شد سیستمی برای پردازش درخواستهای حذف ایجاد کند و تا سال 2022، بیش از 1.3 میلیون درخواست حذف را بررسی کرده است (Court of Justice of the European Union, 2014).
[32]. State Farm Mut. Auto. Ins. Co. v. Campbell, 538 U.S. 408, 2003
[33]. NetChoice, LLC v. Paxton, 142 S. Ct. 1715- 2
[34]. NetChoice
[35]. Computer & Communications Industry Association – CCIA
[36]. Stay Order
[37]. NetChoice, LLC v. Paxton, 2022.
[38]. این پرونده (State v. Loomis, 881 N.W.2d 749, Wis., 2016)، یکی از مهمترین پروندههای قضایی در زمینه استفاده از هوش مصنوعی در نظام عدالت کیفری است. در این پرونده، اریک لوومیس (فردی رنگینپوست) بهدلیل فرار از صحنه تعقیب پلیس و رانندگی با خودروی سرقتی؛ متهم شد. دادگاه بدوی در تعیین مجازات او، علاوه بر سایر عوامل، از نتایج ارزیابی نرمافزارCOMPAS (Correctional Offender Management Profiling for Alternative Sanctions) استفاده کرد که خطر تکرار جرم متهم را بالا نشان میداد. لوومیس با این استدال ب که استفاده از این نرمافزار حق او را برای دادرسی منصفانه نقض کرده است به این تصمیم اعتراض کرد؛ زیرا الگوریتم مورد استفاده محرمانه بود و امکان بررسی و به چالش کشیدن نحوه محاسبه خطر وجود نداشت. دیوان عالی در بررسی این پرونده، استفاده از COMPAS را مشروط به رعایت برخی محدودیتها مجاز دانست. دادگاه تأکید کرد که قضات نباید صرفاً براساس نتایج این نرمافزار تصمیمگیری کنند و باید آن را بهعنوان یکی از عوامل متعدد در نظر گیرند. همچنین، دادگاه الزام کرد که محدودیتهای این ابزار ازجمله احتمال سوگیری نژادی و جنسیتی، باید به متهمان اطلاع داده شود. این رأی بهعنوان یک نقطه عطف در بحث استفاده از الگوریتمها در تصمیمگیریهای قضایی شناخته میشود و نشان میدهد که چگونه استفاده از فناوریهای نوین در نظام عدالت کیفری باید با تضمینهای دادرسی منصفانه و حقوق متهم متوازن شود (State v. Loomis, 2016).
[39]. Agonistic Machine Learning
[40]. Chantal Mouffe
[41]. Ernesto Laclau
[42]. Algorithmic Discrimination
[43]. Bias by Algorithmic Agents
[44]. Discrimination Based on Feature Selection
[45]. Proxy Discrimination
[46]. Disparate Impact
[47]. Targeted Advertising
[48]. Algorithmic Impact Assessments
[49]. Inherent Opacity
[50]. Norms Embedded in Technology
[52]. Customized Data Infrastructures
[53]. پرونده شرمس ۲ علیه کمیسیونر حفاظت داده (Schrems II v. Data Protection Commissioner, C-311/18, 2020) یکی از مهمترین آرای دیوان دادگستری اتحادیه اروپا در زمینه حفاظت از دادههای شخصی و انتقال فرامرزی داده است. ماکسیمیلیان شرم، فعال حریم خصوصی اتریشی، علیه فیسبوک و کمیسیونر حفاظت داده ایرلند شکایتی مطرح کرد. شرم استدلال میکرد که انتقال دادههای شخصی کاربران اروپایی به سرورهای فیسبوک در ایالات متحده، حقوق بنیادین شهروندان اتحادیه اروپا را نقض میکند، زیرا قوانین آمریکا حفاظت کافی در برابر دسترسی نهادهای امنیتی و اطلاعاتی به این دادهها را تضمین نمیکند. در 16 ژوئیه 2020، دیوان دادگستری اتحادیه اروپا حکمی صادر کرد و توافقنامه «سپر حریم خصوصی» (Privacy Shield) بین اتحادیه اروپا و آمریکا را باطل اعلام کرد. این توافقنامه مبنای قانونی انتقال دادههای شخصی از اتحادیه اروپا به ایالات متحده را فراهم میکرد. دادگاه در این رأی تصریح کرد که قوانین نظارتی آمریکا، بهویژه بخش 702 قانون نظارت بر اطلاعات خارجی (FISA) و فرمان اجرایی 12333، محدودیتهای متناسبی بر اختیارات نهادهای امنیتی اعمال نمیکند و راهکارهای حقوقی مؤثری برای شهروندان اروپایی فراهم نمیآورد. دادگاه همچنین شرایط استفاده از «شروط قراردادی استاندارد»(Standard Contractual Clauses) را که روش دیگری برای انتقال قانونی دادهها بود، سختگیرانهتر کرد و مقرر داشت که شرکتها و مراجع نظارتی باید ارزیابی کنند که آیا قوانین کشور مقصد، حفاظت کافی از دادههای شخصی را تضمین میکنند یا خیر. این حکم تأثیر عمیقی بر تجارت دیجیتال بین اتحادیه اروپا و آمریکا گذاشت و شرکتهای فناوری را مجبور کرد زیرساختهای دادهای خود را بازطراحی کنند تا با الزامات جدید حفاظت از دادههای شخصی مطابقت داشته باشد (See. Court of Justice of the European Union, 2020).
[54]. Natural Language Processing (NLP)
[55]. Machine Learning (ML)
[56]. Textual and Behavioral Disclosure Failures
[57]. Algorithmic Auditing
[58]. Self-preferencing
[59]. Privacy by Design
[60]. Google Spain SL and Google Inc. v. Agencia Española de Protección de Datos (AEPD) and Mario Costeja González Case C-131/12, 2014
[61]. General Data Protection Regulation
[62]. Digital Services Act
[63]. Digital Markets Act
