OpenAI и Anthropic открыли «штабы» по мониторингу выборов в начале промежуточных выборов в США

В то время как американцы голосуют во вторник на промежуточных выборах, крупные компании, работающие в сфере искусственного интеллекта, принимают меры для защиты целостности выборов. По данным Politico и Semafor, OpenAI и Anthropic создали специальные оперативные штабы для мониторинга своих платформ на предмет злоупотреблений, уделяя особое внимание предотвращению распространения вводящих в заблуждение изображений, созданных с помощью ИИ. Ни одна из компаний не ответила на запросы о комментарии.

Meta также занялась этим вопросом, активировав свой Центр по работе с выборами (Election Operations Center) в течение недели перед днём выборов. «Наш Центр по работе с выборами — это командный центр, который мы использовали на десятках выборов по всему миру в последние годы», — написала компания, назвав его межфункциональной командой, обеспечивающей мониторинг в режиме реального времени для борьбы с возможными злоупотреблениями на её платформах.

В отчёте Brennan Center от 22 октября были оценены шесть генераторов изображений на основе ИИ: ChatGPT от OpenAI, Gemini от Google, Meta AI, Flux от Black Forest Labs, Runway и Grok от SpaceXSI. Анализ показал, что ChatGPT с мая значительно усовершенствовал свои меры защиты и теперь в ответ на вредоносные запросы, связанные с выборами, выдаёт явно карикатурное изображение, а не реалистичную подделку. В то же время Gemini и Meta AI стали более охотно создавать убедительные фальшивые изображения, связанные с выборами, тогда как другие инструменты продемонстрировали незначительные изменения.

В Microsoft заявили, что продолжают совершенствовать работу своего инструмента Copilot в ответ на вопросы, связанные с выборами, и подтвердили, что злонамеренные дипфейки кандидатов и сотрудников избирательных комиссий запрещены на их платформах.

Сенатор Марк Уорнер (демократ от штата Вирджиния) приветствовал усилия отрасли, заявив, что технологические компании несут ответственность за то, чтобы «защищать целостность наших выборов и поддерживать свободные, честные и безопасные промежуточные выборы». В прошлом месяце Уорнер и его коллеги-демократы направили письмо ведущим технологическим компаниям, призвав их обеспечить, чтобы их инструменты ИИ получали информацию о выборах исключительно из высокодостоверных источников.