الف) نقض حریم خصوصی

کاربرد فناوری هوش مصنوعی با خود مشکلاتی به همراه دارد که ازجمله مهم‌ترین‌آنها نقض حریم خصوصی افراد است که می‌تواند به تضعیف حق خودمختاری اطلاعاتی افراد منجر شود. یکی از راه‌های نقض حریم خصوصی با سیستم‌های هوش مصنوعی، جمع‌آوری داده‌های شخصی بدون رضایت و آگاهی افراد است. بسیاری از سیستم‌های مبتنی‌بر هوش مصنوعی به داده‌های شخصی افراد نیاز دارد تا عملکرد خود را بهبود بخشد. این داده‌ها ممکن است شامل اطلاعات حساس مانند رفتارهای آنلاین، موقعیت مکانی، جزئیات خرید و حتی اطلاعات پزشکی و سلامتی افراد باشد. در بسیاری از موارد، این اطلاعات به‌گونه‌ای جمع‌آوری می‌شود که حریم خصوصی و حق خودمختاری اطلاعاتی افراد به‌طور سیستماتیک نقض می‌شود (Alhitmi et al., 2024: 4-7).

امروزه، امکاناتی مانند تلفن‌های هوشمند، پلتفرم‌های رسانه‌ای اجتماعی، ایمیل، مرورگرها، کوکی‌ها و سایر ابزارهای ردیابی هوشمند، داده‌های خصوصی کاربران را در سطح بسیار وسیعی جمع‌آوری می‌کند و با تجزیه و تحلیل آنها جزئی‌ترین اطلاعات را به‌دست می‌آورد Risse, 2022: 102)). حتی در جایی‌که سیستم‌های هوش مصنوعی برای ارائه خدمات عمومی مورد استفاده قرار می‌گیرد، بیش از آنکه بر وظیفه خدمت‌رسانی به مردم تمرکز داشته باشد، اغلب ازطریق دوربین‌های نظارتی و نرم‌افزارهای تشخیص چهره، تشخیص صدا و ... بر انجام کارویژه نظارتی تمرکز دارد.

بسیاری از دستگاه‌ها و برنامه‌های هوشمندی که روزانه استفاده می‌شود، از ردیاب‌های هوش مصنوعی برای شناسایی مکان و نظارت بر فعالیت‌های ما برخوردارند. این ابزارها می‌تواند داده‌های مربوط به موقعیت مکانی، عادات خرید و حتی تعاملات اجتماعی ما را جمع‌آوری کند. به‌ویژه در دنیای مدرن که اینترنت اشیا [1]در حال گسترش است، دستگاه‌های مختلف نظیر ساعت‌های هوشمند، تلویزیون‌های هوشمند و حتی لوازم خانگی قادرند اطلاعات گسترده‌ای درباره زندگی روزمره کاربران جمع‌آوری کند. این اطلاعات ممکن است بدون آگاهی افراد به‌منظور بهبود عملکرد سیستم‌ها جمع‌آوری شود، در‌حالی‌که در بسیاری از موارد به‌طور عمدی یا غیرعمدی حریم خصوصی کاربران خود را نقض می‌کند .(Mestari, Lenzini and Demirci, 2024: 5) در این میان یکی از خطرات عمده، تحلیل داده‌ها برای استخراج الگوهای پنهان است. برای مثال، این الگوریتم‌ها می‌تواند رفتارهای آنلاین افراد را تحلیل کند و پیش‌بینی‌هایی در مورد علایق، وضعیت سلامتی یا حتی گرایش‌های سیاسی آنها ارائه دهد. در برخی موارد، این تحلیل‌ها به‌گونه‌ای انجام می‌شود که کاربران حتی از آن مطلع نیستند یا براساس داده‌هایی است که خود آنها هرگز به اشتراک نگذاشته‌اند. این امر می‌تواند به سوءاستفاده از این داده‌ها در تصمیمات تجاری یا حتی سیاسی منجر شود (King and Meinhardt, 2024: 7-16). بنابراین، هوش مصنوعی می‌تواند به ابزار جدیدی برای ورود به حریم خصوصی تبدیل شود که در چارچوب آن دیگر احساسات و انتخاب‌های انسانی منطقه ممنوعه نیست و همواره در معرض خطر هک شدن و دستکاری قرار دارد؛ وضعیتی که عده‌ای از دانش‌پژوهان آن را «تمامیت‌خواهی پست‌مدرن» نام نهاده‌اند (کوکلبرگ، 1403: 162).

درمجموع، هوش مصنوعی با ظرفیت‌های بی‌نظیر خود، تهدید‌های جدی برای حریم خصوصی افراد به همراه دارد. بنابراین، نیاز به تنظیم مقررات دقیق و شفاف برای محافظت از حریم خصوصی در برابر هوش مصنوعی بیش از پیش ضرورت دارد تا استفاده از این فناوری‌ها هم‌زمان با رعایت حقوق فردی و حفظ حریم خصوصی توسعه یابد.

ب) عدم شفافیت در عملکرد الگوریتم‌ها

عدم شفافیت در الگوریتم‌ها یکی از چالش‌های عمده‌ای است که در عصر هوش مصنوعی فراروی حق خودمختاری اطلاعاتی افراد قرار دارد. این مسئله زمانی که الگوریتم‌ها به‌طور خودکار در حال تحلیل و تصمیم‌گیری براساس داده‌های شخصی افراد هستند، اهمیت بیشتری پیدا می‌کند. در این چارچوب، عدم شفافیت به‌معنای ناتوانایی افراد در درک نحوه پردازش داده‌ها و تأثیراتی است که این پردازش‌ها می‌تواند روی زندگی آنها داشته باشد. در دنیای مدرن که هوش مصنوعی نقش پررنگی در تصمیمات شخصی و عمومی ایفا می‌کند، این مسئله به‌طور جدی می‌تواند حق خودمختاری اطلاعاتی افراد را نقض کند.

مهم‌ترین تأثیری که عدم شفافیت الگوریتم‌ها بر خودمختاری اطلاعاتی دارد، از رهگذر محدود شدن توانایی افراد در کنترل اطلاعات شخصی است. به‌طور معمول، لازم است افراد بدانند اطلاعاتشان چگونه جمع‌آوری، پردازش و مورد استفاده قرار می‌گیرد. هنگامی که الگوریتم‌ها غیرشفاف عمل می‌کند، افراد نمی‌توانند از فرایندها آگاهی یابند که روی داده‌های شخصی آنها انجام می‌شود. الگوریتم‌های هوش مصنوعی که تصمیمات خود را بر‌اساس داده‌های شخصی اتخاذ می‌کند، اغلب به‌عنوان «جعبه سیاه» شناخته می‌شود. به این معنا که نحوه تصمیم‌گیری این الگوریتم‌ها برای کاربران یا حتی توسعه‌دهندگان آنها نامشخص است. این فقدان شفافیت باعث می‌شود افراد نتوانند به‌طور کامل از فرایند تصمیم‌گیری آگاهی یابند و در‌صورتی‌که تصمیمات غیرعادلانه یا نادرستی علیه آنها اتخاذ شود از حقوق خود دفاع کنند. برای مثال، زمانی که یک سیستم هوش مصنوعی برای تصمیم‌گیری در مورد پذیرش شغلی یا اعطای اعتبار مالی به یک فرد مورد استفاده قرار می‌گیرد، آن فرد باید درک روشنی از نحوه پردازش داده‌های شخصی خود داشته باشد. اما در بسیاری از موارد، افراد نمی‌دانند که چه داده‌هایی جمع‌آوری شده، چگونه تجزیه و تحلیل شده و برپایه چه الگوریتم‌هایی تصمیم‌گیری می‌شود. بنابراین آنها نمی‌توانند به‌طور مؤثر اعتراضی مطرح کنند یا در صورت بروز اشتباه‌ها، اصلاحات لازم را درخواست کنند (Pasquale, 2015: 83). روشن است که این مسئله به‌طور مستقیم بر حق خودمختاری اطلاعاتی افراد تأثیر منفی می‌گذارد.

یکی دیگر از آثار منفی عدم شفافیت الگوریتم‌ها برای خودمختاری اطلاعاتی، توانایی افراد در کنترل چگونگی استفاده از داده‌هایشان برای اهداف مختلف است. در بسیاری از سیستم‌های هوش مصنوعی، به‌علت غیرشفاف بودن الگوریتم‌ها، افراد از جزئیات آن درباره اینکه داده‌هایشان چگونه و برای چه اهدافی مورد استفاده قرار می‌گیرد، بی‌اطلاع هستند. این ناآگاهی نه‌تنها باعث می‌شود افراد نتوانند در مورد نحوه استفاده از اطلاعاتشان تصمیم‌گیری کنند، بلکه حتی ممکن است این استفاده‌ها در‌نهایت به ضرر منافع و خواسته‌های آنها تمام شود(Rodgers et al., 2023:16). برای مثال، اطلاعات یک فرد ممکن است برای تبلیغات هدفمند مورد استفاده قرار گیرد، بدون آنکه او بداند داده‌هایش در کجا و چگونه به فروش می‌رسد یا برای کدام کمپین‌ تجاری استفاده می‌شود.

بنابراین، می‌توان نتیجه گرفت عدم شفافیت در الگوریتم‌ها حق خودمختاری اطلاعاتی افراد را نقض می‌کند. برای مقابله با این چالش‌، ضروری است سیستم‌های هوش مصنوعی به‌گونه‌ای طراحی شود که شفافیت بیشتری در فرایندهای خود داشته باشد تا افراد بتوانند به‌طور مؤثر بر نحوه استفاده از داده‌های خود اعمال نظارت و کنترل داشته باشند.

ج) سوگیری الگوریتم‌ها

اساساً داده‌های هوش مصنوعی سوگیری‌های ساختاری و پنهان دارد. این سوگیری‌ها ممکن است در داده‌های آموزشی، الگوریتم، داده‌هایی که الگوریتم روی آنها اعمال می‌شود و در تیم‌هایی وجود داشته باشد که فناوری را برنامه‌ریزی می‌کند (Muller, 2020: 10). به‌طورکلی، عملکرد سیستم‌های مبتنی‌بر هوش مصنوعی به‌گونه‌ای است که صرفاً به دنبال پیدا کردن رابطه همبستگی یا ویژگی‌های مشترک بین متغیرها است و به همین دلیل از درک معنا و دلایل آن عاجز است. در چنین رویکردی، انواع سوگیری‌ها به‌راحتی می‌تواند منشأ عمل قرار گیرد. سوگیری‌هایی که به تعبیر نوبل به «سرکوب الگوریتمی» منتهی می‌شود (Nobel, 2018: 9).

زمانی که الگوریتم‌ها برای پردازش داده‌های شخصی و تصمیم‌گیری‌های مهم در حوزه‌هایی همچون استخدام، اعطای وام، ارزیابی عملکرد یا حتی تصمیم‌گیری‌های مرتبط با سلامت به‌کار می‌رود، ممکن است براساس داده‌ها و الگوریتم‌های طراحی شده، تصمیمات ناعادلانه و تبعیض‌آمیز اتخاذ کند. سوگیری‌های الگوریتمی معمولاً ناشی از داده‌های نادرست یا پیش‌فرض‌های اشتباهی است که در فرایند یادگیری الگوریتم‌ها ایجاد می‌شود. این سوگیری‌ها شاید به نتایج ناعادلانه در تصمیم‌گیری‌هایی منجر شود که براساس ویژگی‌هایی نظیر جنسیت، نژاد، سن یا حتی ویژگی‌های اقتصادی‌ـ‌اجتماعی افراد صورت می‌گیرد. در بسیاری از مواقع، الگوریتم‌ها براساس داده‌های تاریخی و رفتاری آموزش می‌بیند که دربرگیرنده تبعیض‌های اجتماعی و فرهنگی است. این تبعیض‌ها به‌طور خودکار در الگوریتم‌ها وارد می‌شود و شاید به تصمیمات تبعیض‌آمیز و ناعادلانه منجر شود. به‌عنوان مثال، اگر بررسی پرونده‌های درخواست شغل یا وام و دیگر خدمات درخواستی افراد به الگوریتم هوش مصنوعی واگذار شود، ممکن است براساس داده‌های پیشین به‌طور غیرمنصفانه اعضای گروه‌های قومی، جنسیتی یا سنی خاصی را از کسب این امتیازات محروم کند، بدون آنکه فرصت درک یا اعتراض به نحوه پردازش داده‌هایشان را داشته باشد (کوکلبرگ، 1403: 83-82).

 بنابراین، سوگیری‌های الگوریتمی می‌تواند به یک حلقه معیوب از نابرابری‌های اجتماعی و اقتصادی منجر شود. زمانی که الگوریتم‌ها از داده‌های تاریخی برای پیش‌بینی یا تصمیم‌گیری استفاده می‌کند، این پیش‌بینی‌ها می‌تواند الگوهای تبعیض‌آمیز گذشته را تکرار کند و این خود باعث بازتولید نابرابری‌ها ‌شود. این روند نه‌تنها موجب بی‌عدالتی خواهد شد، بلکه حق خودمختاری اطلاعاتی افراد را نیز به‌طور جدی نقض می‌کند؛ زیرا افراد نمی‌توانند این تصمیم‌گیری‌های تبعیض‌آمیز الگوریتم‌های هوش مصنوعی را به چالش کشند یا از آنها جلوگیری کنند (رشیدی، 1403: 377-371). برای مقابله با این چالش، ضروری است الگوریتم‌ها به‌طور مداوم مورد ارزیابی قرار گیرد تا از سوگیری‌های ناعادلانه جلوگیری شود.

د) نظارت‌ناپذیری تصمیم‌گیری‌های خودکار

تصمیم‌گیری‌های خودکار هوش مصنوعی می‌تواند به‌طور زیادی حق خودمختاری اطلاعاتی افراد را نقض کند. نقض حق خودمختاری اطلاعاتی در تصمیم‌گیری‌های خودکار، عمدتاً از فقدان هرگونه دخالت و نظارت انسانی بر فرایند تصمیم‌گیری ناشی می‌شود. اغلب سیستم‌های هوش مصنوعی در تصمیم‌گیری‌های خودکار بسیار پیچیده عمل می‌کند. این پیچیدگی می‌تواند به این معنا باشد که بسیاری از افراد به درک چگونگی یا دلایل تصمیمات اتخاذ شده از این سیستم‌ها قادر نیستند. برای مثال، در مواقعی که یک سیستم هوش مصنوعی به‌طور خودکار تصمیم می‌گیرد که فردی واجد شرایط برای دریافت خدمات خاص نیست، آن فرد ممکن است نتواند علت این تصمیم را بفهمد یا راهی برای اصلاح یا اعتراض به آن بیابد (عامری، مقدسی و حبیب‌نژاد، 140۴)؛ زیرا سیستم‌های خودکار جزئیات دقیق فرایندهای تصمیم‌گیری خود را ارائه نمی‌دهد.(O’Neil, 2016: 38)  

همچنین، سیستم‌های تصمیم‌گیری خودکار می‌تواند به کاهش آزادی انتخاب افراد منجر شود. زمانی که یک سیستم هوش مصنوعی به‌طور خودکار تصمیمات را اتخاذ می‌کند، افراد از داشتن گزینه‌های مختلف و توانایی انتخاب از میان آنها محروم می‌شود. درنتیجه، تصمیم‌گیری به‌دست سیستم‌هایی می‌افتد که افراد در آن هیچ نقشی ندارند و این امر به‌طور مستقیم بر عاملیت افراد و توانایی آنها در انتخاب یا تعیین مسیر زندگی‌شان تأثیر منفی می‌گذارد (Prunkl, 2024).

به‌طور خلاصه، فقدان دخالت انسانی، پیچیدگی‌های غیرقابل درک، بی‌اطلاعی از فرایندها و عدم کنترل بر داده‌ها در تصمیم‌گیری‌های خودکار، ازجمله عواملی است که موجب می‌شود افراد نتوانند به‌طور مؤثر بر نحوه استفاده از اطلاعات شخصی خود نظارت داشته باشند. این مسئله تهدیدی جدی بر حق خودمحتاری اطلاعاتی افراد به‌شمار می‌آید و مقابله با آن نیازمند انجام اصلاحات اساسی در زمینه طراحی و اجرای سیستم‌های تصمیم‌گیری خودکار است.

هـ) نقض امنیت داده‌ها

هوش مصنوعی می‌تواند تهدیدهای جدی برای امنیت داده‌ها ایجاد کند و از این رهگذر حق خودمختاری اطلاعاتی افراد را نقض کند. امنیت داده‌ها به‌معنای حفاظت از داده‌های شخصی در برابر دسترسی‌های غیرمجاز، تغییرات غیرمجاز یا از بین رفتن اطلاعات است. استفاده نادرست یا ناکافی از تکنولوژی‌های هوش مصنوعی می‌تواند به نقض امنیت داده‌ها منجر شود. این نقض‌ها می‌تواند از روش‌های مختلفی شامل دسترسی غیرمجاز به داده‌های شخصی، ذخیره‌سازی نامطمئن داده‌ها یا سوءاستفاده از داده‌های شخصی برای اهداف غیرمجاز ناشی شود.

یکی از اصلی‌ترین زمینه‌های نقض امنیت داده‌ها از طریق هوش مصنوعی، استفاده از الگوریتم‌های یادگیری ماشین است که به‌طور پیوسته داده‌های شخصی را برای آموزش و بهبود عملکرد خود به‌کار می‌گیرد. زمانی که داده‌های جمع‌آوری‌شده به‌طور غیرمجاز یا نادرست پردازش شود، ممکن است اطلاعات حساس افراد به خطر افتد. به‌عنوان مثال، در سیستم‌های مبتنی‌بر هوش مصنوعی که برای تحلیل داده‌ها یا پیش‌بینی نتایج استفاده می‌شود، ممکن است اطلاعات افراد خارج از کنترل آنها قرار گیرد. زمانی که این داده‌ها بدون نظارت مناسب ذخیره و پردازش شود، خطراتی از قبیل افشای اطلاعات شخصی و سوءاستفاده از آنها افزایش می‌یابد (Ye et al., 2024) این شرایط تهدیدی جدی برای حق خودمختاری اطلاعاتی افراد ایجاد می‌کند، زیرا آنها دیگر به کنترل اطلاعات شخصی خود قادر نخواهند بود و نمی‌توانند بر نحوه استفاده از این داده‌ها نظارت کنند.

همچنین، ممکن است داده‌های شخصی جمع‌آوری‌ شده از طریق سیستم‌های هوش مصنوعی در سرورهای غیرمطمئن و با استانداردهای امنیتی پایین ذخیره شود که در صورت نفوذ هکرها یا حملات سایبری در معرض خطر جدی قرار می‌گیرد. این تهدیدهای سایبری به‌ویژه زمانی شدیدتر می‌شود که سیستم‌های هوش مصنوعی در سازمان‌ها یا کسب‌وکارهای بزرگ به‌کار گرفته شود. در چنین شرایطی، امکان افشای گسترده اطلاعات شخصی وجود دارد که می‌تواند تبعات جبران‌ناپذیری برای افراد داشته باشد (Cremer et al., 2022: 716-718). برای مثال، درصورتی‌که اطلاعات مربوط به سلامت، وضعیت مالی یا موقعیت مکانی افراد در معرض سرقت یا افشا قرار گیرد، این افراد ممکن است از نظر اجتماعی، اقتصادی و حتی روانی آسیب جدی ببینند. زمانی که داده‌های شخصی افراد به‌طور ناخواسته به‌‌دست اشخاص ثالث می‌افتد، آنها درخصوص استفاده از اطلاعات خود در زمینه‌های مختلف بی‌خبر خواهند بود. ممکن است این اطلاعات به‌طور غیرمجاز در مقاصد تجاری یا تبلیغاتی به‌کار گرفته شود. برای مثال، سیستم‌های هوش مصنوعی بدون اجازه صریح فرد از اطلاعات شخصی او پیشنهادهای تجاری یا خدمات خاصی را برای او ایجاد کند (Pasquale, 2015: 110)؛ این فرایند می‌تواند به نقض حق خودمختاری اطلاعاتی افراد منجر شود.

مسئله دیگری که درخصوص نقض امنیت داده‌ها و به‌تبع در نقض حق خودمختاری اطلاعاتی افراد گفتنی است، خطرات مربوط به اشتراک‌گذاری و انتقال داده‌ها است. در دنیای امروز، سیستم‌های هوش مصنوعی به‌طور گسترده‌ در فرایندهای کسب‌وکارهای مختلف به‌کار می‌رود و این داده‌ها ممکن است از یک سازمان به سازمان دیگر منتقل شود. این انتقال داده‌ها که ممکن است فراتر از مرزهای ملی انجام شود، می‌تواند امنیت اطلاعات شخصی را تهدید کند. بسیاری از کشورها قوانین مختلفی برای حفاظت از داده‌های شخصی دارند، اما وقتی داده‌ها به کشورهایی منتقل می‌شود که استانداردهای امنیتی پایین‌تر دارند، این خطر به‌وجود می‌آید که اطلاعات شخصی افراد در معرض سوءاستفاده قرار گیرد؛ به‌ویژه در شرایطی که این اطلاعات به‌طور گسترده در فضای آنلاین یا سرورهای عمومی ذخیره می‌شود، خطر هک شدن یا سوءاستفاده از آنها بیشتر است. این تهدیدها به‌طور مستقیم بر توانایی فرد در کنترل و مدیریت داده‌های شخصی تأثیر می‌گذارد و موجب تضعیف حق خودمختاری اطلاعاتی افراد می‌شود  .(O’Neil, 2016: 71)

۴. زمینه‌ها و خلأ‌های قانونی در نظام حقوقی ایران

با توسعه سیستم‌های هوش مصنوعی، چالش‌های متعددی در زمینه حقوق اطلاعات و حفاظت از حریم خصوصی افراد به‌وجود آمده است که در بالا به آنها اشاره شد. این چالش‌ها به‌طور خاص در کشورهای در حال توسعه مانند ایران بیشتر نمایان می‌شود که هنوز ساختارهای حقوقی و نظارتی لازم برای مواجهه با تهدیدهای مربوط به داده‌ها و اطلاعات خصوصی را به‌طور کامل توسعه نداده‌اند. ازاین‌رو بی‌تردید، کاربرد هوش مصنوعی مبتنی‌بر منطق فازی در نظام حقوقی ایران می‌تواند در این مسیر راهگشا باشد (ابوذری، 1396). لذا در اینجا زمینه‌های قانونی حمایت از حق خودمختاری اطلاعاتی و خلأ‌های قانونی آن در ایران به تفکیک و مختصر بررسی خواهد شد.

الف) زمینه‌های قانونی

در نظام حقوقی ایران، حق بر خودمختاری اطلاعاتی به‌طور پراکنده در قوانین و مقررات مختلف مورد توجه قرار گرفته است. در قانون اساسی جمهوری اسلامی ایران، هرچند مستقیم اشاره‌ای به حق بر خودمختاری اطلاعاتی افراد نشده است، اما برخی اصول می‌تواند مبنای حمایت از این حق تلقی شود؛ ازجمله، اصل بیست‌و‌دوم که به حفاظت از حیثیت، زندگی و حقوق افراد اشاره می‌کند و اصل بیست‌و‌پنجم که بر عدم تجسس در زندگی افراد تأکید دارد. همچنین، قانون حمایت از حقوق مصرف‌کنندگان (مصوب 1392) نیز به‌ویژه در زمینه‌ قراردادهای خرید و فروش و جمع‌آوری اطلاعات در بازارهای آنلاین بر حقوق افراد در برابر سوءاستفاده‌های احتمالی از داده‌ها و اطلاعات شخصی آنها تأکید دارد. اما قانون جرائم رایانه‌ای (مصوب 1388) مهم‌ترین قانون حاکم در حال حاضر است که در ایران به‌طور خاص به حفاظت از داده‌های شخصی و اطلاعات افراد پرداخته است. بر‌اساس این قانون، استفاده نادرست از داده‌های شخصی، نظیر هک کردن، سرقت اطلاعات یا استفاده از اطلاعات بدون رضایت صاحب داده، جرم تلقی می‌شود. با‌این‌حال، این قانون بیشتر به مقابله با جرائم سایبری و تهدیدهای مرتبط با فضای مجازی پرداخته و از حقوق حریم خصوصی و خودمختاری اطلاعاتی افراد به‌طور کافی حمایت نمی‌کند. در این شرایط، به‌منظور کاهش بخشی از مخاطرات مرتبط با نقض حریم خصوصی کاربران و الزام اشخاص حقوقی غیردولتی و دستگاه‌های اجرایی کشور به رعایت شرایط مرتبط با شیوه‌های جمع‌آوری، پردازش و نگهداری داده‌های کاربران در سامانه‌ها و سکوهای فضای مجازی، کمیسیون عالی تنظیم مقررات فضای مجازی کشور (1402) به صدور دستورالعمل اجرایی صرفاً برای ارائه‌دهندگان خدمات اقدام کرده که سازوکارهای اجرایی و ضمانت‌های قانونی آن به‌شدت ناکافی است.

ب) خلأهای قانونی و چالش‌های حقوقی

با عنایت به‌مراتب فوق می‌توان ادعا کرد در حال حاضر ایران هیچ قانون جامع و مستقلی ندارد که به‌طور اختصاصی به موضوع حفاظت از داده‌های شخصی و حق بر خودمختاری اطلاعاتی در عصر دیجیتال پرداخته باشد. چنانکه گفته شد، قوانین موجود پراکنده و به‌طور جزئی به این موضوع پرداخته‌ است. در شرایط وجود خلأ‌های قانونی و فقدان سازوکارهای تنظیم‌گری کارآمد، نظارت بر نحوه جمع‌آوری، استفاده و پردازش داده‌ها در ایران بسیار ناکافی است. به‌علاوه، اجرایی شدن قوانین موجود در مورد حفاظت از داده‌های شخصی و جلوگیری از سوءاستفاده از آنها، ممکن است به‌شدت ضعیف و تبعیض‌آمیز باشد. در بسیاری از موارد، شرکت‌ها و سازمان‌های دولتی و خصوصی در ایران ممکن است بدون اطلاع‌رسانی شفاف به کاربران، داده‌های شخصی آنها را جمع‌آوری و پردازش کنند. این امر می‌تواند موجب نقض حق بر خودمختاری اطلاعاتی افراد شود. این مسئله به‌وضوح نیاز به تنظیم قوانین روشن و شفاف برای مدیریت داده‌ها و نظارت دقیق‌تر بر آنها را ایجاب می‌کند. برای نیل به این مقصود باید با استانداردهای بین‌المللی عمل شود. عدم رعایت این استانداردها ممکن است به سوءاستفاده از اطلاعات شخصی منجر شود و افراد نتوانند از حقوق خود در این زمینه به‌درستی دفاع کنند.

همچنین گفتنی است برای ضرورت تقنینی در ایران، لایحه قانونی با عنوان «لایحه‌ حفاظت از داده‌های شخصی» در حال تهیه و تدوین است که انتظار می‌رود تا حدودی زمینه‌های حقوقی لازم برای حفاظت از حق بر خودمختاری اطلاعاتی را فراهم کند (کمیسیون حقوقی و قضایی هیئت دولت، 1403). با‌این‌حال، این لایحه هنوز نهایی نشده و نمی‌توان آن را به‌عنوان ابزار حقوقی کامل برای حمایت از حق بر خودمختاری اطلاعاتی شهروندان تلقی کرد. درنهایت ممکن است در فرایند تبدیل این لایحه به قانون، بیشتر بر موضوع‌های امنیتی و مقابله با جرائم سایبری تمرکز شود تا بر حقوق حریم خصوصی و خودمختاری اطلاعاتی افراد.

۵. جمع‌بندی و نتیجه‌گیری

حق بر خودمختاری اطلاعاتی به‌معنای حق هر فرد برای تصمیم‌گیری درباره این است که کدام‌یک از داده‌های شخصی او می‌تواند افشا یا مورد استفاده دیگران قرار گیرد. این حق، مفهوم نسبتاً جدیدی است که در سال ۱۹۸۳ طی رأی معروف به «حکم سرشماری» دادگاه قانون اساسی فدرال آلمان به منصه ظهور رسید. از آن زمان، با افزایش جمع‌آوری و پردازش دیجیتالی داده‌ها، حفاظت از داده‌های شخصی اهمیت بیشتری یافته و فراتر از قانون اساسی آلمان، در قالب «مقررات عمومی حفاظت از داده‌ها» در اتحادیه اروپا جایگاه ویژه‌ای پیدا کرده است. این قانون چارچوب حقوقی جامعی را برای حفاظت از داده‌های شخصی فراهم می‌کند و حق خودمختاری اطلاعاتی افراد را تقویت می‌کند.

در این مقاله، چالش‌های مختلفی مورد بررسی قرار گرفته که هوش مصنوعی می‌تواند بر حق خودمختاری اطلاعاتی افراد ایجاد کند، ازجمله نقض حریم خصوصی، نظارت‌ناپذیری تصمیم‌گیری‌های خودکار، عدم شفافیت الگوریتم‌ها، سوگیری در پردازش داده‌ها و نقض امنیت داده‌ها است. این مشکلات به‌ویژه زمانی شدت می‌گیرد که افراد به کنترل و نظارت بر استفاده از داده‌های شخصی خود قادر نیستند، یا در بسیاری از مواقع از نحوه جمع‌آوری، پردازش و استفاده از داده‌های خود بی‌اطلاع هستند. به‌طورکلی، این چالش‌ها به تهدیدهایی برای استقلال اطلاعاتی افراد منتهی می‌شود و نظارت افراد بر داده‌های شخصی را کاهش می‌دهد.

برای مقابله با چالش‌های فوق، برخی راهکارهای مهم وجود دارد که می‌تواند تأثیرات منفی هوش مصنوعی بر حق خودمختاری اطلاعاتی را کاهش دهد. یکی از مهم‌ترین آنها، ارتقای شفافیت در سیستم‌های هوش مصنوعی است. توسعه و پیاده‌سازی الگوریتم‌هایی که قابلیت توضیح‌پذیری داشته باشد، به‌ویژه در زمینه‌هایی مانند تصمیم‌گیری‌های خودکار، می‌تواند از اهمیت بالایی برخوردار باشد. علاوه بر این، می‌توان با ایجاد مدل‌های قانونی و حقوقی ویژه، نظارت بر جمع‌آوری و استفاده از داده‌ها را تقویت کرد. سازوکار این نظارت باید به‌گونه‌ای باشد که افراد بتوانند دسترسی و کنترل بیشتری بر داده‌های خود داشته باشند و از این رهگذر از سوءاستفاده‌های احتمالی جلوگیری شود. راهکار دیگر، تضمین امنیت داده‌ها در سیستم‌های هوش مصنوعی است. شرکت‌ها و نهادهای توسعه‌دهنده این فناوری‌ها لازم است اقدام‌های قوی‌تری برای حفاظت از داده‌های حساس افراد انجام دهند و از ایجاد شکاف‌های امنیتی جلوگیری کنند که می‌تواند به نقض حریم خصوصی منجر شود. همچنین استفاده از تکنولوژی‌های رمزنگاری و افزایش تدابیر امنیتی در حین پردازش داده‌های شخصی، می‌تواند به کاهش آسیب‌های احتمالی کمک کند.

بنابراین، به‌منظور تنظیم و نظارت بر سیستم‌های هوش مصنوعی، توسعه قوانین دقیق و شفاف ضروری است. این قوانین باید به‌گونه‌ای طراحی شود که تمام جنبه‌های حقوقی مرتبط با جمع‌آوری، پردازش و استفاده از داده‌های شخصی را پوشش دهد. همچنین، نظارت مستمر بر سیستم‌های هوش مصنوعی باید ازسوی نهادهای مستقل و تخصصی انجام پذیرد تا اطمینان حاصل شود که این سیستم‌ها به‌طور منصفانه و بدون سوگیری عمل می‌کنند. در این راستا باید مسئولیت‌های هرکدام از نهادها و سازمان‌های استفاده‌کننده از این فناوری‌ها به‌طور شفاف مشخص شود. به‌علاوه، قوانین و مقررات به‌گونه‌ای تنظیم شود که از حقوق افراد پشتیبانی کند تا آنها بتوانند در صورت نقض حقوق‌شان، از مسیرهای قانونی نسبت به تأمین آن اقدام کنند. به‌طورکلی، با توجه به پیشرفت‌های سریع در زمینه هوش مصنوعی و کاربردهای گسترده آن در زندگی روزمره، همگام‌سازی این فناوری با اصول حقوق بشری از اهمیت ویژه‌ای برخوردار است. توسعه هوش مصنوعی باید به‌گونه‌ای صورت گیرد که حقوق افراد، شامل حق خودمختاری اطلاعاتی آنها محترم شمرده شود. در این راستا، توجه به حریم خصوصی و امنیت داده‌ها، تضمین شفافیت و پاسخگویی سیستم‌های هوش مصنوعی، و مقابله با سوگیری‌های احتمالی در پردازش داده‌ها، ازجمله مهم‌ترین اقدام‌های ضروری است.

در ایران، با توجه به پیشرفت روزافزون فناوری هوش مصنوعی و تهدیدهایی که این فناوری‌ها برای حریم خصوصی و حق بر خودمختاری اطلاعاتی افراد ایجاد می‌کند، پیشنهاد می‌شود: اولاً حق خودمختاری اطلاعاتی افراد به‌عنوان یک حق اساسی به رسمیت شناخته شود؛ ثانیاً در راستای توسعه حکمرانی هوش مصنوعی یک چارچوب قانونی جامع و منسجم برای حفاظت از داده‌های شخصی ایجاد شود، به‌نحوی‌که خلأهای قانونی موجود به‌ویژه در زمینه تضمین شفافیت را پوشش دهد و ثالثاً از طریق کاربست سازوکارهای مختلف کوشش شود دانش و مهارت عمومی شهروندان در زمینه حفاظت از داده‌های شخصی در کاربرد ابزارهای مبتنی‌بر هوش مصنوعی افزایش یابد.

درنهایت، پژوهش‌های بیشتر در این حوزه لازم است تا چالش‌ها و تهدیدهای بالقوه فناوری‌های نوین درخصوص حقوق بشر شناسایی و راهکارهای عملی‌تری برای حفاظت از حقوق فردی توسعه یابد. نتایج این تحقیقات می‌تواند در توسعه چارچوب‌های قانونی و اخلاقی برای هوش مصنوعی و ایجاد سیستم‌های نظارتی مؤثر، نقشی حیاتی ایفا کند.