نیویورک نخستین برنامه ایالتی برای آزمایش مستقل مدل‌های هوش مصنوعی را راه‌اندازی کرد

روز سه‌شنبه، فرماندار ایالت نیویورک، کتی هوکول، برنامه‌ای را راه‌اندازی کرد که منبع آن را نخستین برنامه ایالتی آزمایش هوش مصنوعی در کشور توصیف می‌کند. به‌جای اعتماد به اینکه شرکت‌های هوش مصنوعی خودشان را نظارت کنند، این ایالت کار آن‌ها را به پژوهشگران مستقل می‌سپارد تا بررسی شود. هوکول در بیانیه‌ای مطبوعاتی گفت که خطرات بسیار زیاد هستند تا بتوان صرفاً به گفته شرکت‌های هوش مصنوعی اعتماد کرد.

این کار را «مرکز نیویورک برای مسئولیت و پژوهش هوش مصنوعی» در دانشگاه بینگهمتون انجام خواهد داد. بیش از ۸۰ دانشمند از نیویورک در این پروژه مشارکت خواهند کرد و از توان محاسباتی Empire AI، مشارکت عمومی-خصوصی ۵۰۰ میلیون دلاری ایالت در زمینه هوش مصنوعی، استفاده خواهند کرد.

دفتر هوکول اعلام کرد که این مرکز سیستم‌های پیشرفته هوش مصنوعی را آزمایش می‌کند، ریسک‌های آن‌ها را بررسی می‌کند و شواهدی برای تصمیم‌گیری مقامات دولتی فراهم می‌آورد. همچنین بررسی خواهد کرد که چگونه می‌توان از هوش مصنوعی به‌صورت مسئولانه در زمینه‌هایی مانند پزشکی و پژوهش‌های علمی استفاده کرد.

این مقاله به یک شکاف احتمالی اشاره می‌کند: این برنامه فقط می‌تواند چیزی را بررسی کند که شرکت‌های هوش مصنوعی به‌طور علنی افشا می‌کنند. قانون RAISE در نیویورک که هوکول سال گذشته آن را امضا کرد، توسعه‌دهندگان بزرگ هوش مصنوعی را ملزم می‌کند تا پیش از ۱ ژانویه ۲۰۲۷ در ایالت ثبت‌نام کنند. از آن تاریخ، شرکت‌ها باید چارچوب‌های ایمنی و گزارش‌های شفافیت منتشر کنند و حوادث ایمنی حساس را ظرف ۷۲ ساعت گزارش دهند. به گفته مقاله، این قانون شکاف مربوط به مدل‌های منتشرنشده را برطرف نخواهد کرد، اما حداقل شرکت‌ها را به افشای بیشتر وادار خواهد کرد.