آنتروپیک به سرمایه‌گذاران عرضه اولیه هشدار داد: هوش مصنوعی آن ممکن است به‌زودی به آستانه خودبهبودی برسد

آنتروپیک روز دوشنبه هشداری قابل‌توجه را در نسخه اصلاح‌شده فرم S-1/A خود که به کمیسیون بورس و اوراق بهادار آمریکا (SEC) ارائه کرده بود، گنجاند. بر اساس پیش‌بینی‌های داخلی خود، این شرکت معتقد است مدل‌های آینده‌اش ممکن است به‌زودی با تعریف خودِ شرکت در «سیاست مقیاس‌بندی مسئولانه» (Responsible Scaling Policy) از «پیشرفت به‌شدت تسریع‌شده قابل‌انتساب به هوش مصنوعی» مطابقت پیدا کنند - آستانه‌ای که پس از آن یک مدل هوش مصنوعی توسعه کلی هوش مصنوعی را به‌طور قابل‌توجهی سریع‌تر می‌کند، پدیده‌ای که معمولاً خودبهبودی بازگشتی یا RSI نامیده می‌شود.

آنتروپیک تأکید می‌کند که هیچ مدل فعلی هنوز از این مرز عبور نکرده است. با این حال، در این گزارش اعتراف شده که شرکت از هم‌اکنون از هوش مصنوعی در کارهای تحقیق و توسعه خود استفاده می‌کند و این وابستگی رو به افزایش به سیستم‌های هوش مصنوعی ممکن است باعث شود قابلیت‌های مدل‌ها سریع‌تر از توانایی شرکت در توسعه تدابیر ایمنی متناسب پیش روند. همچنین پذیرفته می‌شود که ممکن است این شرکت تا پس از وقوعِ یک تسریع قابل‌توجه، متوجه آن نشود.

در زمینه ایمنی، آنتروپیک متعهد می‌شود که مشارکت معنادار انسانی را حفظ کند و می‌گوید انتظار ندارد بتواند به‌طور ایمن به کلود (Claude) اجازه دهد به‌طور کاملاً خودمختار نسل‌های بعدی مدل‌های پیشرفته را طراحی و بسازد. این شرکت می‌گوید در حال بررسی به‌روزرسانی‌هایی در «سیاست مقیاس‌بندی مسئولانه» خود برای تضمین این تعهد است.

منتقدان ممکن است اشاره کنند که یک گزارش S-1 هم کارکرد افشاگری و هم کارکرد بازاریابی دارد، و اینکه اعلام نزدیکی به چنین نقطه عطف قدرتمندی می‌تواند به همان اندازه که سرمایه‌گذاران را هشدار می‌دهد، آن‌ها را جذب هم بکند. با این همه، اعتراف صریح آنتروپیک به این‌که RSI ممکن است قریب‌الوقوع باشد - و این‌که جهش‌های قابلیتی گذشته در زمان واقعی شناسایی نشده بودند - این افشاگری را دشوار می‌کند که نادیده گرفته شود. این خبر ابتدا توسط TechCrunch گزارش شد.