New York, yapay zekâ modellerini bağımsız olarak test eden ilk eyalet programını başlattı

Vali Kathy Hochul, kaynağın ülkenin eyalet tarafından yürütülen ilk yapay zekâ test programı olarak tanımladığı girişimi Salı günü başlattı. Eyalet, yapay zekâ şirketlerinin kendi kendini denetlemesine güvenmek yerine, çalışmalarını bağımsız araştırmacılara denetletecek. Hochul, yaptığı basın açıklamasında yapay zekâ şirketlerinin sözüne güvenmenin riskinin çok yüksek olduğunu söyledi.

Çalışmayı, Binghamton Üniversitesi'nde bulunan New York Center for AI Responsibility and Research yürütecek. New York'tan 80'den fazla bilim insanı, eyaletin 500 milyon dolarlık kamu-özel sektör yapay zekâ ortaklığı olan Empire AI'nin hesaplama gücünü kullanarak bu çalışmaya katkıda bulunacak.

Hochul'un ofisi, merkezin gelişmiş yapay zekâ sistemlerini test edeceğini, risklerini inceleyeceğini ve kamu görevlilerinin kararlarına ışık tutacak kanıtlar sunacağını belirtti. Merkez ayrıca yapay zekânın tıp ve bilimsel araştırma gibi alanlarda sorumlu bir şekilde nasıl kullanılabileceğini de inceleyecek.

Haber, olası bir boşluğa işaret ediyor: Program, yalnızca yapay zekâ şirketlerinin kamuoyuna açıkladığı bilgileri inceleyebiliyor. Hochul'un geçen yıl imzaladığı New York'un RAISE Yasası, büyük yapay zekâ geliştiricilerinin 1 Ocak 2027'ye kadar eyalete kayıt olmasını zorunlu kılıyor. O tarihten itibaren şirketler güvenlik çerçeveleri ve şeffaflık raporları yayınlamak ve kritik güvenlik olaylarını 72 saat içinde bildirmek zorunda olacak. Habere göre yasa, yayınlanmamış modellerdeki boşluğu kapatmayacak ama şirketleri daha fazla bilgi açıklamaya en azından zorlayacak.