آنتروپیک در گزارش عرضه اولیه سهام هشدار داد: هوش مصنوعی ممکن است به‌زودی بتواند خودش را بسازد

آنتروپیک در نسخه اصلاح‌شده فرم S-1/A که روز دوشنبه منتشر شد، به سرمایه‌گذاران هشدار داد که این شرکت ممکن است به نقطه عطفی نزدیک شود که آن را «آستانه بهبود خودکار بازگشتی» (recursive self-improvement یا RSI) می‌نامد. منظور از RSI لحظه‌ای است که هوش مصنوعی آن‌قدر در آموزش دادن به خودش توانمند می‌شود که شتابی چشمگیر و سریع در قابلیت‌های هوش مصنوعی ایجاد می‌کند؛ روندی که پژوهشگران ایمنی هوش مصنوعی آن را یک نقطه عطف حساس و به‌طور بالقوه غیرقابل‌کنترل می‌دانند. آنتروپیک بر اساس سیاست مقیاس‌بندی مسئولانه (Responsible Scaling Policy) خود، این آستانه را «پیشرفت به‌شدت شتاب‌گرفته‌ای که به هوش مصنوعی نسبت داده می‌شود» تعریف می‌کند.

این شرکت اعلام کرد که هیچ‌یک از مدل‌های کنونی‌اش هنوز از این خط عبور نکرده‌اند، اما افزود که پیش‌بینی‌های داخلی درباره مدل‌های آینده نزدیک نشان می‌دهد که این آستانه ممکن است «به‌زودی» محقق شود. آنتروپیک در اعترافی قابل‌توجه پذیرفت که در گذشته نتوانسته جهش‌های مهم در قابلیت‌های مدل‌های خودش را پیش از وقوع تشخیص دهد و گفت که این موضوع می‌تواند دوباره تکرار شود.

در کنار افشای مربوط به RSI، در این گزارش آمده است که هرچند درآمدها به‌سرعت افزایش می‌یابد، هزینه‌ها نیز در حال افزایش هستند. آنتروپیک همچنین متعهد شد که در آینده قابل‌پیش‌بینی، انسان‌ها را به‌طور معنادار در توسعه مدل‌های پیشرفته درگیر نگه دارد و گفت در حال بررسی به‌روزرسانی سیاست مقیاس‌بندی مسئولانه خود برای حفظ نظارت انسانی است.

منتقدان ممکن است اشاره کنند که فرم S-1 هم هدف افشاگری دارد و هم هدف بازاریابی، و ادعای نزدیک شدن به چنین نقطه عطف قدرتمندی می‌تواند هم به‌عنوان هشدار و هم به‌عنوان یک برگ برنده فروش تلقی شود. با این حال، پیشرفت‌های سریع این شرکت در یک سال گذشته در زمینه‌های برنامه‌نویسی، ریاضیات و امنیت سایبری به این هشدار وزن واقعی می‌دهد.