OpenAI et Anthropic mettent en place des cellules de crise électorale au lancement des élections de mi-mandat aux États-Unis

Alors que les Américains votent ce mardi lors des élections de mi-mandat, les grandes entreprises d'IA prennent des mesures pour protéger l'intégrité du scrutin. Selon des informations de Politico et Semafor, OpenAI et Anthropic ont toutes deux mis en place des cellules de crise dédiées à la surveillance de leurs plateformes contre les usages abusifs, en se concentrant particulièrement sur la prévention de la diffusion d'images trompeuses générées par IA. Ni l'une ni l'autre entreprise n'a répondu aux demandes de commentaires.

Meta a également pris des mesures en activant son centre des opérations électorales dans la semaine précédant le jour du scrutin. « Notre centre des opérations électorales est un centre de commandement que nous avons utilisé pour des dizaines d'élections à travers le monde ces dernières années », a écrit l'entreprise, le décrivant comme une équipe transversale permettant une surveillance en temps réel afin de traiter d'éventuels abus sur ses plateformes.

Un rapport du Brennan Center publié le 22 octobre a évalué six générateurs d'images par IA : ChatGPT d'OpenAI, Gemini de Google, Meta AI, Flux de Black Forest Labs, Runway et Grok de SpaceXSI. L'analyse a révélé que ChatGPT avait considérablement amélioré ses garde-fous depuis le mois de mai, produisant désormais une image clairement caricaturale plutôt qu'un faux réaliste lorsqu'on lui soumet des requêtes nuisibles liées aux élections. En revanche, Gemini et Meta AI se sont montrés plus disposés à générer de fausses images électorales convaincantes, tandis que les autres outils n'ont guère changé.

Microsoft a indiqué qu'il continuait d'affiner la façon dont son outil Copilot répond aux questions liées aux élections et a confirmé que les deepfakes malveillants de candidats et de responsables électoraux sont interdits sur ses plateformes.

Le sénateur Mark Warner (démocrate de Virginie) a salué ces efforts de l'industrie, estimant que les entreprises technologiques ont la responsabilité « de protéger l'intégrité de nos élections et de soutenir des élections de mi-mandat libres, justes et sûres ». Warner et ses collègues démocrates avaient écrit le mois dernier aux grandes entreprises technologiques pour les exhorter à garantir que leurs outils d'IA ne puisent les informations électorales qu'auprès de sources hautement fiables.