محدودیت‌های ابزارهای هوش مصنوعی در مدارس نیویورک با واکنش شرکت‌های آموزشی مواجه شد

چند روز پیش از آغاز سال تحصیلی، شهردار زهران ممدانی اعلام کرد که بخش‌های هوش مصنوعی بیش از ۳۸ محصول که پیش‌تر تأیید شده و در مدارس دولتی شهر نیویورک استفاده می‌شدند، متوقف یا غیرفعال خواهند شد. پس از بیش از یک ماه درخواست، چالک‌بیت این فهرست را از اداره آموزش (Education Department) دریافت کرد. این فهرست شامل برنامه‌های درسی پرکاربرد خواندن و ریاضی، ابزارهای ارزیابی دانش‌آموزان، و حتی یک چت‌بات است که خودِ اداره آموزش با همکاری مایکروسافت ساخته و در شش مدرسه به کار گرفته بود.

این محدودیت‌ها متوجه ویژگی‌های هوش مصنوعی مولد است که مستقیماً با دانش‌آموزان تعامل دارند، نه لزوماً کل محصولات، و چند شرکت پیش‌تر این ویژگی‌ها را غیرفعال کرده و اجازه یافته‌اند به فعالیت در مدارس شهر ادامه دهند. اما برخی دیگر منکر این هستند که ابزارهایشان از نوع هوش مصنوعی‌ای استفاده می‌کند که این سیاست آن را پوشش می‌دهد. شرکت Wordly، یک ابزار ترجمه برای زبان‌آموزان انگلیسی، می‌گوید از هوش مصنوعی مولد استفاده نمی‌کند، با اینکه سیاست شهر استثنایی برای چنین ابزارهایی در نظر گرفته است. شرکت HMH، که ملیسا اویلس-راموس، رئیس پیشین مدارس نیویورک، در آن مشغول به کار است، می‌گوید هیچ‌یک از محصولات مشخص‌شده‌اش از هوش مصنوعی‌ای که مستقیماً با دانش‌آموزان در تعامل باشد استفاده نمی‌کند.

برخی شرکت‌ها بی‌درنگ پس از این اعلامیه واکنش نشان دادند. شرکت All In Learning ویژگی نمره‌دهی مبتنی بر هوش مصنوعی خود را در عرض چند روز غیرفعال کرد، و شرکت Magma Math راهنمایی‌های تولیدشده توسط هوش مصنوعی خود را در ۴ سپتامبر خاموش کرد و در ۵ اکتبر از اداره آموزش مجوز گرفت. لیونی هایمسون، منتقد حوزه فناوری آموزشی، هشدار داد و گفت نه شرکت‌ها و نه اداره آموزش (DOE) نباید بدون یک فرایند دقیق‌تر و شفاف‌تر برای ارزیابی این محصولات مورد اعتماد قرار گیرند.