Nueva York lanza el primer programa estatal para probar de forma independiente modelos de IA

El martes, la gobernadora de Nueva York, Kathy Hochul, lanzó lo que la fuente describe como el primer programa estatal de pruebas de IA del país. En lugar de confiar en que las empresas de IA se autorregulen, el estado hará que investigadores independientes revisen su trabajo. En un comunicado de prensa, Hochul dijo que lo que está en juego es demasiado importante como para simplemente tomar la palabra de las empresas de IA.

El trabajo lo realizará el New York Center for AI Responsibility and Research, de la Universidad de Binghamton. Más de 80 científicos de Nueva York participarán, utilizando la capacidad de cómputo de Empire AI, la asociación público-privada de IA del estado, valorada en 500 millones de dólares.

La oficina de Hochul indicó que el centro pondrá a prueba sistemas avanzados de IA, estudiará sus riesgos y aportará pruebas que informen las decisiones de los funcionarios públicos. También analizará cómo se puede usar la IA de forma responsable en ámbitos como la medicina y la investigación científica.

El artículo señala un posible vacío: el programa solo puede estudiar lo que las empresas de IA divulgan públicamente. La RAISE Act de Nueva York, que Hochul firmó el año pasado, exige que los grandes desarrolladores de IA se registren ante el estado antes del 1 de enero de 2027. A partir de entonces, las empresas tendrán que publicar marcos de seguridad e informes de transparencia, y reportar incidentes de seguridad críticos dentro de las 72 horas. Según el artículo, la ley no cerrará el vacío respecto a los modelos no publicados, pero al menos empujará a las empresas a divulgar más información.