ترجمه اختصاصی؛

مربی خودکشی؛ آمریکایی‌ها ChatGPT را به مرگ پسرشان متهم کردند

برای اولین‌بار، شرکت OpenAIتوسعه‌دهنده‌ی برنامه «ChatGPT»، با یک شکایت قضایی به اتهام قتل غیرعمد مواجه شده است. والدین یک نوجوان آمریکایی، این برنامه را به علت مرگ فرزندشان که در شانزده سالگی دست به خودکشی زد، مسئول می‌دانند. این زوج ادعا می‌کنند که ChatGPT به فرزندشان «به‌طور فعال در جستجوی روش‌های خودکشی» کمک کرده است. این پرونده توجه‌ها را به توانایی این برنامه‌ها در تأثیرگذاری بر نوجوانان و انتخاب‌های سرنوشت‌ساز آن‌ها جلب می‌کند.

به گزارش خبرگزاری مونت کارلو مات و ماریا راین شکایتی علیه شرکت «OpenAI»، توسعه‌دهنده ربات گفتگو «ChatGPT»، و مدیر عامل آن، سم آلتمان، به عنوان مدعی علیه ارائه کردند. در شکایت قضایی خود، این خانواده شرکت را به «قتل غیرعمد، نقص در طراحی و عدم هشدار درباره خطرات مرتبط با ChatGPT» متهم می‌کنند. این زوج درخواست «پرداخت غرامت بابت مرگ پسرشان و صدور حکم قضایی برای جلوگیری از تکرار چنین اتفاقی» را دارند.

والدین ربات گفتگو را متهم کردند که پسرشان را به خودکشی سوق داده و آن را «مربی خودکشی» توصیف کردند. پس از خودکشی آدم، والدینش تلاش کردند دلیل اقدام او را بفهمند و به بررسی مکالمات او با «ChatGPT» پرداختند. آن‌ها می‌گویند پسرشان در هفته‌های آخر زندگی‌اش، به جای دوست انسانی، ربات گفتگو را جایگزین کرده و با آن از اضطراب خود و دشواری صحبت با خانواده‌اش سخن گفته است.

در دادخواستی که در دادگاه عالی کالیفرنیا در سانفرانسیسکو ثبت شده است، والدین اظهار داشتند که ChatGPT وقتی نوجوان در مورد اقدام به خودکشی خود به آن گفت و قصد خود را برای تلاش مجدد ابراز کرد، جلسه را خاتمه نداد و هیچ پروتکل اضطراری را فعال نکرد. آنها گفتند که این ربات به پسرشان در مورد نحوه ادامه برنامه‌اش مشاوره فنی ارائه داد.

مات و ماریا اظهار کردند که پسرشان در آخرین مکالمه خود با ChatGPT»  »نوشته است که نمی‌خواهد والدینش فکر کنند آن‌ها اشتباه کرده‌اند. ربات گفتگو به او پاسخ داده است که «این به معنای بدهکار بودن شما نسبت به آن‌ها برای ماندن نیست. شما به کسی بدهکار نیستید.» همچنین، طبق سوابق مکالمه‌ای که در شکایت ذکر شده و توسط NBC» News» منتشر شد، ربات حتی پیشنهاد کمک برای نوشتن نامه خودکشی را به او ارائه کرده است.

«OpenAI» :هنوز کارهای بیشتری پیش رو داریم

از سوی دیگر، سخنگوی رسمی « OpenAI » صحت سوابق مکالمه ارائه‌شده توسط این رسانه آمریکایی را تأیید کرده اما گفته است که این سوابق شامل کل زمینه پاسخ‌های  ChatGPT»  » نمی‌شوند.

او در بیانیه‌ای ابراز «تأسف عمیق بابت مرگ رایان» کرده و گفته است که ChatGPT شامل تدابیر حفاظتی مانند هدایت افراد به خطوط کمک در بحران‌ها و تشویق آن‌ها به درخواست کمک از متخصصان است، اما «ما می‌دانیم که هنوز کارهای بیشتری برای سازگار کردن رفتار ChatGPT با هر مکالمه باقی مانده است».