OpenAI y Anthropic ponen en marcha salas de crisis electorales mientras comienzan las elecciones de medio término en EE. UU.

Con los estadounidenses votando el martes en las elecciones de medio término, las grandes empresas de IA están tomando medidas para proteger la integridad electoral. Según informaron Politico y Semafor, tanto OpenAI como Anthropic han establecido salas de crisis dedicadas a vigilar sus plataformas en busca de usos indebidos, con especial atención a evitar la difusión de imágenes engañosas generadas por IA. Ninguna de las dos empresas respondió a las solicitudes de comentarios.

Meta también tomó medidas al respecto y activó su Centro de Operaciones Electorales en la semana previa al día de las elecciones. «Nuestro Centro de Operaciones Electorales es un centro de mando que hemos utilizado en decenas de elecciones en todo el mundo en los últimos años», escribió la empresa, describiéndolo como un equipo multifuncional que permite una supervisión en tiempo real para abordar posibles abusos en sus plataformas.

Un informe del Brennan Center del 22 de octubre evaluó seis generadores de imágenes con IA: ChatGPT, de OpenAI; Gemini, de Google; Meta AI; Flux, de Black Forest Labs; Runway, y Grok, de SpaceXSI. El análisis encontró que ChatGPT había mejorado significativamente sus salvaguardas desde mayo, y ahora, ante indicaciones dañinas relacionadas con las elecciones, devuelve una imagen claramente caricaturesca en lugar de una falsificación realista. En cambio, Gemini y Meta AI se mostraron más dispuestos a generar imágenes electorales falsas y convincentes, mientras que las demás herramientas apenas mostraron cambios.

Microsoft indicó que sigue perfeccionando la forma en que su herramienta Copilot responde a preguntas relacionadas con las elecciones y confirmó que los deepfakes malintencionados de candidatos y funcionarios electorales están prohibidos en sus plataformas.

El senador Mark Warner (demócrata de Virginia) celebró los esfuerzos de la industria y afirmó que las empresas tecnológicas tienen la responsabilidad de «proteger la integridad de nuestras elecciones y respaldar unas elecciones de medio término libres, justas y seguras». Warner y sus colegas demócratas habían escrito el mes pasado a las principales empresas tecnológicas instándolas a garantizar que sus herramientas de IA obtengan información electoral únicamente de fuentes altamente fiables.