وقتی هوش مصنوعی متهم می‌شود، قاتل کجاست؟
اختصاصی جهان‌بانویادداشت تحلیلی

وقتی هوش مصنوعی متهم می‌شود؛ قاتل کجا ایستاده است؟

هوش مصنوعی حالا به یکی از متهمان جنگ تبدیل شده است؛ متهمی که می‌تواند اهداف را شناسایی کند، داده‌ها را کنار هم بگذارد، پیشنهاد حمله بدهد و حتی سرعت تصمیم‌گیری نظامی را به شکل چشمگیری افزایش دهد.

۵ دقیقه مطالعه ۱۷ بازدید
۰

اما وقتی موشکی به یک مدرسه اصابت می‌کند و کودکان جان خود را از دست می‌دهند، آیا باید تمام توجه‌مان را به الگوریتم‌هایی معطوف کنیم که شاید در زنجیره تصمیم‌گیری حضور داشته‌اند؟ یا پیش از آن، باید از کسانی پرسید که جنگ را آغاز کرده‌اند، سلاح را به کار گرفته‌اند و مسئولیت تصمیم حمله را بر عهده داشته‌اند؟

این پرسش در همایش بین‌المللی «زندگی‌های ناتمام»، به یاد کودکان جان‌باخته مدرسه شجره طیبه میناب، که توسط انجمن ایرانی مطالعات زنان به دبیری دکتر اصلی عباسی در قالب بحثی درباره دیپلماسی علمی، اخلاق علمی و نقش فناوری‌های هوشمند در جنگ مطرح شد. 

در بخش بین‌المللی این همایش، پژوهشگران به بررسی تأثیر هوش مصنوعی بر فرایند شناسایی اهداف نظامی، کاهش نظارت انسانی و آسیب‌پذیری غیرنظامیان، به‌ویژه کودکان، در درگیری‌های مسلحانه پرداختند.

بحثی که از یک نگرانی جدی در جهان امروز آغاز می‌شود: فناوری چگونه در جنگ دخالت می‌کند و وقتی تصمیم‌های مرگ و زندگی به سامانه‌های هوشمند گره می‌خورند، مسئولیت انسانی چه سرنوشتی پیدا می‌کند؟ 

در این نشست، آلانا تراورز، پژوهشگر حقوقی و دانشجوی دکتری حقوق در دانشگاه کوئینز بلفاست، به مفهوم «زنجیره کشتار الگوریتمی» یا AI Kill Chain پرداخت؛ زنجیره‌ای که از جمع‌آوری اطلاعات و تحلیل داده‌ها آغاز می‌شود و به شناسایی اهداف و اجرای عملیات نظامی می‌رسد.

استفاده از هوش مصنوعی در این فرایند، امکان پردازش حجم گسترده‌ای از اطلاعات و افزایش سرعت عملیات را فراهم می‌کند، اما همین سرعت می‌تواند در صورت وجود داده‌های نادرست، خطاهای سامانه یا نظارت ناکافی انسانی، خطر تصمیم‌گیری مرگبار را افزایش دهد. 

تراورز در بخشی از بحث، به این نکته اشاره کرد که حتی اگر تصمیم نهایی را یک انسان بگیرد، چارچوب ادراکی او ممکن است پیش‌تر تحت تأثیر ماشین شکل گرفته باشد. به این معنا که سامانه هوشمند، اطلاعات را انتخاب، دسته‌بندی و در قالب پیشنهادهایی در اختیار تصمیم‌گیرنده قرار می‌دهد و انسان ممکن است به‌جای بررسی مستقل تمام جوانب، به خروجی فناوری تکیه کند.

این نگرانی، در کنار بحث مسئولیت شرکت‌های سازنده فناوری، پژوهشگران، فرماندهان نظامی و تصمیم‌گیرندگان، از محورهای اصلی نشست بود. اما در میان تمام این بحث‌های فنی و حقوقی، یک مسئله نباید گم شود: هوش مصنوعی جنگ را آغاز نمی‌کند، اهداف سیاسی جنگ را تعیین نمی‌کند و به‌تنهایی موشکی را به سوی یک مدرسه شلیک نمی‌کند. 

حتی اگر فناوری در بخشی از فرایند شناسایی یا تصمیم‌گیری نظامی نقش داشته باشد، نمی‌توان مسئولیت کسانی را که جنگ را طراحی و اجرا می‌کنند، به ماشین منتقل کرد.
بر این باوریم اگر بخواهیم فاجعه میناب را به هوش مصنوعی نسبت دهیم و آن را به خطای الگوریتمی، نقص داده‌ها یا کاهش نظارت انسانی تقلیل دهیم، در معرض سفیدشویی جنایتی قرار می‌گیریم که آمریکا و اسرائیل مرتکب شده‌اند. 

فناوری می‌تواند به ابزار جنگ تبدیل شود، می‌تواند قدرت تخریب را افزایش دهد و می‌تواند فرایند کشتار را سریع‌تر و پیچیده‌تر کند؛ اما هیچ‌کدام از این توضیحات نباید جای نام و مسئولیت عاملان حمله را بگیرد. 

وقتی یک مدرسه هدف حمله نظامی قرار می‌گیرد، نخستین مسئله نه پیچیدگی سامانه‌های شناسایی، بلکه ماهیت حمله، تصمیم به استفاده از سلاح و مسئولیت کسانی است که آن عملیات را طراحی و اجرا کرده‌اند. خطر آنجاست که در مواجهه با جنگ‌های فناورانه، زبان ما نیز به زبان ماشین نزدیک شود. 

درباره داده‌ها حرف بزنیم، درباره الگوریتم‌ها، خطای پردازش، دقت شناسایی و میزان دخالت انسان؛ اما از تصمیم سیاسی برای حمله، از قدرت نظامی مهاجم و از مسئولیت دولت‌هایی که جنگ را به راه انداخته‌اند، کمتر بگوییم.

در این صورت، فناوری به روایتی تبدیل می‌شود که ناخواسته می‌تواند نقش عاملان انسانی را کم‌رنگ کند. گویی جنایت، محصول یک سیستم پیچیده بوده و دیگر نمی‌توان آن را به تصمیم و اراده کسانی نسبت داد که پشت این سیستم ایستاده‌اند. 

این دقیقاً همان نقطه‌ای است که باید در مواجهه با حملات آمریکا و اسرائیل به ایران مراقب آن باشیم. پیچیده‌شدن ابزارهای جنگی نباید به پیچیده‌شدن مسئولیت حقوقی و اخلاقی مهاجمان منجر شود. 

اگر هوش مصنوعی در عملیات نظامی به کار گرفته شده، باید درباره نحوه استفاده از آن، میزان نظارت انسانی، اعتبار اطلاعات و مسئولیت شرکت‌های فناوری تحقیق کرد؛ اما این بررسی نباید به مسیری برای فرار از مسئولیت دولت‌ها و فرماندهان نظامی تبدیل شود. فناوری، هر اندازه پیشرفته باشد، نمی‌تواند به پوششی برای تصمیم‌های انسانی بدل شود.

مدرسه شجره طیبه میناب، پیش از آنکه موضوع یک بحث درباره الگوریتم‌ها باشد، محل تحصیل کودکانی بود که حق داشتند در امنیت درس بخوانند، بازی کنند و آینده‌ای برای خود بسازند. 

حمله به چنین مکانی، مسئله‌ای نیست که بتوان آن را صرفاً در چارچوب خطاهای احتمالی فناوری تحلیل کرد. حقوق بین‌الملل بشردوستانه، حمایت از غیرنظامیان و مراکز آموزشی را به رسمیت شناخته و طرف‌های درگیر را به رعایت اصول تفکیک، تناسب و احتیاط در حملات ملزم کرده است.

بنابراین، بررسی نقش هوش مصنوعی در جنگ باید در کنار پرسش از رعایت این قواعد و مسئولیت عاملان نقض آن‌ها قرار گیرد، نه جایگزین این پرسش‌ها شود. در این میان، نقد فناوری و نقد جنگ نباید در برابر یکدیگر قرار بگیرند. اتفاقاً باید هر دو را با جدیت دنبال کرد. 

باید پرسید شرکت‌های فناوری چگونه در توسعه ابزارهای نظامی مشارکت می‌کنند، پژوهشگران تا چه اندازه نسبت به کاربردهای نظامی دستاوردهای خود مسئول‌اند، و دولت‌ها چگونه از فناوری برای افزایش قدرت تخریب استفاده می‌کنند. 

اما هم‌زمان باید اجازه نداد که تمرکز بر فناوری، اصل ماجرا را به حاشیه ببرد: جنگ تصمیم انسان‌هاست و مسئولیت آن نیز نمی‌تواند در میان کدها، داده‌ها و الگوریتم‌ها گم شود. کودکان میناب دیگر به کلاس درس بازنمی‌گردند. هیچ الگوریتمی نمی‌تواند زندگی ازدست‌رفته آن‌ها را بازسازی کند و هیچ توضیح فناورانه‌ای نمی‌تواند جای پاسخ‌گویی در برابر خانواده‌هایشان را بگیرد.

بحث درباره هوش مصنوعی در جنگ ضروری است، اما پیش از آنکه ماشین را به جای انسان متهم کنیم، باید انسان‌هایی را به یاد بیاوریم که جنگ را به راه انداختند، فرمان حمله دادند و سلاح‌هایی را به کار گرفتند که جان کودکان را گرفت. 

اگر قرار است میناب به نقطه‌ای برای تأمل درباره آینده جنگ تبدیل شود، این تأمل نباید از مسئولیت آمریکا و اسرائیل که سابقه تاریکی در خصوص کشتن زنان و کودکان بی‌گناه دارند آغاز شود و در نهایت به فناوری ختم شود؛ نباید اجازه دهیم ابزارهای جنگ، جای عاملان جنگ را در روایت ما بگیرند.

گزارش: فائزه آقامحمدی


این مطلب برایت مفید بود؟

دیدگاه‌های شما

۰ دیدگاه

هنوز دیدگاهی منتشر نشده است. شما آغازگر گفت‌وگو باشید.

مطالب مرتبط

همهٔ مطالب این دسته