آیا چت‌بات‌های هوش مصنوعی باید تهدیدهای خشونت‌آمیز را به پلیس گزارش دهند؟ یک پرونده آزمایشی در کانادا

این گزارش که الجزیره در ۱۷ اکتبر ۲۰۲۶ منتشر کرد، تیراندازی تامبلر ریج را که اوایل همین سال رخ داد، به‌عنوان نمونه‌ای برای یکی از دشوارترین پرسش‌های باز درباره هوش مصنوعی به کار می‌برد: اینکه یک شرکت چت‌بات چه زمانی، اگر اصلاً چنین زمانی وجود داشته باشد، باید حریم خصوصی کاربر را نقض کند تا مقامات را از یک طرح خشونت‌آمیز که مشاهده کرده، آگاه سازد.

ضارب ۱۸ ساله پیش از ارتکاب مرگبارترین تیراندازی مدرسه‌ای کانادا در نزدیک به چهار دهه اخیر، از ChatGPT راهنمایی خواسته بود؛ در این حمله نه نفر کشته شدند و او پس از آن خودکشی کرد.

در سپتامبر ۲۰۲۶ ایالت بریتیش کلمبیا شکایتی مدنی علیه اوپن‌ای‌آی و مدیرعامل آن سم آلتمن ثبت کرد؛ خانواده‌های قربانیان نیز شکایت‌های جداگانه‌ای مطرح کرده‌اند، و مردی از ایالت واشنگتن به توطئه متهم شده است.

این مقاله خواسته‌های گزارش‌دهی اجباری تهدیدها را در برابر خطرات نظارت گسترده، گزارش‌دهی بیش‌از‌حد و اثر بازدارنده بر گفت‌وگوهای مشروع درباره سلامت روان می‌سنجد. حقوق‌دانانی که در این گزارش از آن‌ها نقل‌قول شده، اشاره می‌کنند که هیچ وظیفه قانونی روشنی برای تماس شرکت‌های هوش مصنوعی با پلیس وجود ندارد، برخلاف قواعد محدود «وظیفه هشدار» که در برخی حوزه‌های قضایی برای درمانگران اعمال می‌شود.

این گزارش اکنون یکی از پرخواننده‌ترین مطالب هفته در حوزه اخلاق فناوری است و چارچوب بحث سیاستی را پیش از نشست‌های پاییزی نهادهای ناظر در آمریکا، کانادا و اتحادیه اروپا ترسیم می‌کند.