الوقت- هوش مصنوعی روزبهروز ابعاد گستردهتری از زندگی بشر را در مینوردد و همزمان با گسترش کاربردهای آن، بحث و جدل درباره نحوه استفاده، قوانین و مقررات حاکم بر این فناوری نیز شدت گرفته است. یکی از حساسترین حوزههای این بحث، استفاده نظامی از هوش مصنوعی است؛ حوزهای که مستقیماً با جان انسانها، تصمیمگیری درباره مرگ و زندگی و آینده امنیت جهانی ارتباط دارد.
در همین راستا، کنگره آمریکا اخیراً نشستی را با محوریت پیامدهای حقوق بشری و انسانی استفاده از هوش مصنوعی در حوزه نظامی برگزار کرد؛ نشستی که در آن قانونگذاران و کارشناسان درباره نقش فزاینده این فناوری در شناسایی اهداف، انتخاب سلاح و تصمیمگیریهای نظامی هشدار دادند. نکته مهم در این بحث آن است که هوش مصنوعی دیگر یک فناوری فرضی یا متعلق به آینده نیست، بلکه همین حالا در میدانهای جنگ مورد استفاده قرار میگیرد.
پرسش اصلی این نشست نیز دقیقاً همین بود: آیا ورود هوش مصنوعی به عرصه نظامی واقعاً میتواند به کاهش تلفات غیرنظامیان منجر شود یا اینکه برعکس، سرعت و گستره عملیات نظامی را افزایش داده و در نهایت شمار قربانیان را بیشتر خواهد کرد؟
وعده کاهش تلفات غیرنظامیان
مدافعان استفاده نظامی از هوش مصنوعی سالهاست استدلال میکنند که فناوریهای جدید میتوانند جنگ را دقیقتر کنند. بر اساس این دیدگاه، سامانههای هوش مصنوعی با پردازش حجم عظیمی از دادهها و شناسایی سریعتر اهداف، میتوانند به ارتشها کمک کنند تا اهداف نظامی را با دقت بیشتری شناسایی کرده و از وارد شدن آسیب به غیرنظامیان جلوگیری کنند.
الکس کارپ، مدیرعامل شرکت آمریکایی «پالانتیر»، در سال ۲۰۲۴ نیز با طرح همین استدلال گفته بود فناوری باید بتواند میزان «خسارات جانبی و تلفات غیرنظامیان» را به شکل چشمگیری کاهش دهد. اریک اشمیت، مدیرعامل سابق گوگل، و دیوید کوهن، معاون سابق سازمان اطلاعات مرکزی آمریکا نیز از این دیدگاه حمایت کرده بودند.
جیم مکگاورن، نماینده دموکرات ایالت ماساچوست، در نشست اخیر کنگره همین استدلال را به زبان دیگری مطرح کرد و گفت دولت آمریکا مدعی است هوش مصنوعی میتواند ارزیابی پیامدهای احتمالی عملیات نظامی را بهبود دهد و خطر تلفات غیرنظامیان را کاهش دهد.
اما آنچه این بحث را از یک مناقشه نظری خارج کرده، استفاده عملی ارتش آمریکا از این فناوری است. بر اساس گزارش منتشرشده، پنتاگون در ۳۸ روز نخست جنگ علیه ایران، ۱۳ هزار هدف را مورد حمله قرار داده و در شناسایی اهداف و انتخاب سلاحهای مورد استفاده از سامانه «Maven Smart System» شرکت پالانتیر بهره گرفته است.
وقتی سرعت فناوری از کنترل انسانی جلو میزند
با وجود ادعای حامیان هوش مصنوعی، کارشناسان حاضر در نشست کنگره معتقدند شواهد موجود لزوماً کاهش آسیب به غیرنظامیان را تأیید نمیکند. آنها برای توضیح این نگرانی به تجربه جنگهای ایران، اوکراین، یمن و غزه اشاره کردند.
استیون فلدستاین، عضو ارشد برنامه دموکراسی، منازعات و حکومت در بنیاد کارنگی برای صلح بینالمللی، گفت: «من با این نظر مخالفم.» در حالی که برخی حامیان هوش مصنوعی میزان دقت سامانههای هدفگیری را تا ۹۰ درصد عنوان میکنند، اما برآورد واقعی ممکن است به حدود ۵۰ درصد نزدیکتر باشد.
فلدشتاین توضیح داد که «حتی اگر دقت بیشتری وجود داشته باشد، به دلیل اینکه تعداد اهداف بسیار بیشتر است، تعداد نهایی غیرنظامیان آسیب دیده نیز احتمالاً بسیار بیشتر است».
دبورا براون، معاون بخش فناوری و حقوق بشر سازمان دیدهبان حقوق بشر، نیز معتقد است تجربه میدانی با ادعای کاهش تلفات همخوانی ندارد. او با اشاره به جنگ غزه و ایران تأکید کرد که شواهد موجود نشان نمیدهد استفاده از این فناوری توانسته است میزان آسیب به غیرنظامیان را محدود کند.
در این رابطه قانونگذاران کنگره در مورد اینکه آیا هوش مصنوعی در حمله ۲۸ فوریه (11 اسفند) به مدرسه ابتدایی دخترانه شجره طیبه در میناب ایران که منجر به کشته شدن بیش از ۱۷۰ کودک دانشآموز و کادر آموزش شد، نقشی داشته است یا خیر، سوالاتی را مطرح کردهاند.
شیام سانکار، مدیرعامل پالانتیر، در پاسخ به سوالی در مورد نقش شرکتش در این حمله، از عملکرد ارتش آمریکا در استفاده از هوش مصنوعی دفاع کرد و گفت: «مطمئناً این یک تراژدی برای آن دختران است. چیزی که میتوانم بگویم این است که در تاریخ جنگ، فناوری همیشه خسارات جانبی را کاهش داده است».
تجربه غزه؛ آزمونی برای ادعای دقت هوش مصنوعی
یکی از نمونههای مورد استناد منتقدان، سامانه «Lavender» است که ارتش اسرائیل از آن برای شناسایی اهداف در غزه استفاده کرده است.
ارتش صهیونیستی مدعی شده این سامانه از دقتی حدود ۹۰ درصد برخوردار است، اما آماندا کلسینگ، مدیر روابط دولتی و حمایتگری سازمان عفو بینالملل آمریکا، در نشست کنگره تأکید کرد که صرف افزایش دقت الگوریتم، به معنای کاهش تلفات غیرنظامیان نیست.
برای مثال، اگر یک سامانه با دقت بالا هدفی را شناسایی کند، اما برای نابودی آن هدف بمبی ۲ هزار پوندی بر سر یک ساختمان مسکونی فرود آید، مسئله اصلی دیگر فقط «دقت شناسایی» نیست؛ بلکه تناسب میان هدف نظامی و میزان خسارتی است که برای رسیدن به آن هدف پذیرفته میشود.
بر اساس گزارشهایی که درباره عملکرد Lavender منتشر شده، این سامانه در مقطعی برای شناسایی ۳۷ هزار مرد فلسطینی بهعنوان اهداف احتمالی مورد استفاده قرار گرفت. یک منبع اطلاعاتی نیز به گاردین گفته بود که نیروهای اطلاعاتی دائماً برای معرفی اهداف بیشتر تحت فشار قرار داشتند و تعداد اهداف بسته به اینکه چه کسی «عامل حماس» تلقی شود، تغییر میکرد.
همچنین گزارش شده است که ارتش اسرائیل حملات علیه اهدافی با سطح اهمیت پایینتر را نیز تأیید میکرد؛ حتی در مواردی که احتمال کشته شدن ۱۵ تا ۲۰ غیرنظامی بهعنوان خسارت جانبی وجود داشت.
آیا افزایش تعداد اهداف، تلفات را هم بیشتر میکند؟
یکی از مهمترین استدلالهای مطرحشده در نشست کنگره این بود که حتی افزایش دقت هوش مصنوعی نیز لزوماً به معنای کاهش تعداد قربانیان نیست.
منطق این استدلال ساده است: اگر فناوری بتواند اهداف بیشتری را در مدت زمان کوتاهتری شناسایی کند، ممکن است تعداد عملیات نظامی نیز به شکل چشمگیری افزایش یابد. بنابراین حتی اگر درصد خطای هر حمله کاهش پیدا کند، افزایش تعداد حملات میتواند در نهایت به افزایش شمار غیرنظامیان آسیبدیده یا کشتهشده منجر شود.
فلدستاین در همین زمینه تأکید کرد که حتی اگر دقت سامانهها بیشتر شده باشد، وقتی تعداد اهداف به شکل چشمگیری افزایش پیدا میکند، تعداد نهایی غیرنظامیانی که آسیب میبینند نیز میتواند افزایش یابد.
این نگرانی اکنون با سرعت گرفتن استفاده از هوش مصنوعی در میدان نبرد اهمیت بیشتری پیدا کرده است. منتقدان میگویند هوش مصنوعی میتواند فاصله زمانی میان شناسایی هدف، تصمیمگیری و اجرای حمله را کاهش دهد و در نتیجه فرصت مداخله انسانی برای بررسی مجدد یک تصمیم را محدود کند.
تناقض میان «جنگ انسانیتر» و کاهش نظارت
نکته قابل توجه دیگر این است که همزمان با وعده استفاده از هوش مصنوعی برای انسانیتر کردن جنگ، ظرفیتهای نظارتی و آموزشی مرتبط با حفاظت از غیرنظامیان در ساختار نظامی آمریکا نیز در حال کاهش است.
مرکز عالی حفاظت از غیرنظامیان پنتاگون که در سال ۲۰۲۳ برای آموزش فرماندهیهای رزمی در زمینه کاهش آسیب به غیرنظامیان ایجاد شد، قرار است تعداد کارکنان خود را از ۴۰ نفر در ژانویه ۲۰۲۵ به تنها ۹ نفر تا پایان سال جاری کاهش دهد.
از نگاه منتقدان، این مسئله یک تناقض اساسی ایجاد میکند: از یک سو، فناوریهای هوش مصنوعی با سرعت بیشتری وارد فرآیندهای نظامی و هدفگیری میشوند و از سوی دیگر، سازوکارهای انسانی برای نظارت بر پیامدهای این عملیات تضعیف میشوند.
دبورا براون در نشست کنگره از پنتاگون خواست شواهد خود درباره نقش هوش مصنوعی در کاهش تلفات غیرنظامیان را ارائه کند. او گفت اگر واقعاً این فناوری باعث کاهش آسیب به غیرنظامیان و افزایش دقت و اثربخشی عملیات میشود، باید شواهد آن ارائه شود.
در نهایت، مسئله هوش مصنوعی در میدان جنگ دیگر صرفاً بحثی درباره آینده فناوری نیست. این فناوری اکنون در فرآیندهای شناسایی اهداف و پشتیبانی از تصمیمهای نظامی حضور دارد و همین واقعیت، پرسشهای جدیتری را درباره مسئولیتپذیری، نظارت انسانی و حدود استفاده از فناوری در تصمیمهای مرگ و زندگی ایجاد کرده است. کنگره آمریکا نیز در نشست اخیر خود دقیقاً بر همین شکاف متمرکز شد: اگر قرار است هوش مصنوعی جنگ را دقیقتر و تلفات غیرنظامیان را کمتر کند، شواهد این ادعا کجاست؟
