OpenAI та Anthropic створили «штаби» з моніторингу виборів напередодні проміжних виборів у США

Оскільки у вівторок американці голосують на проміжних виборах, великі компанії зі сфери штучного інтелекту вживають заходів для захисту цілісності виборчого процесу. За даними Politico та Semafor, і OpenAI, і Anthropic створили окремі оперативні штаби для моніторингу своїх платформ на предмет зловживань, зосередившись насамперед на запобіганні поширенню оманливих зображень, створених за допомогою штучного інтелекту. Жодна з компаній не відповіла на запити щодо коментарів.

Meta також звернула увагу на цю проблему, активувавши свій Election Operations Center (Центр з питань виборів) у тиждень перед днем виборів. «Наш Election Operations Center — це командний центр, який ми використовували під час десятків виборів у всьому світі за останні роки», — написала компанія, описавши його як міжфункціональну команду, що забезпечує моніторинг у режимі реального часу для боротьби з можливими зловживаннями на її платформах.

У звіті Brennan Center від 22 жовтня оцінили шість генераторів зображень на основі штучного інтелекту: ChatGPT від OpenAI, Gemini від Google, Meta AI, Flux від Black Forest Labs, Runway та Grok від SpaceXSI. Аналіз показав, що ChatGPT з травня значно вдосконалив свої механізми захисту і тепер у відповідь на шкідливі запити, пов'язані з виборами, видає чітко карикатурне зображення замість реалістичної фальшивки. Натомість Gemini та Meta AI стали охочіше створювати переконливі фейкові зображення, пов'язані з виборами, тоді як інші інструменти показали незначні зміни.

У Microsoft заявили, що продовжують вдосконалювати роботу свого інструменту Copilot у відповідь на запитання, пов'язані з виборами, і підтвердили, що зловмисні дипфейки кандидатів та членів виборчих комісій заборонені на їхніх платформах.

Сенатор Марк Уорнер (демократ від штату Вірджинія) схвально відгукнувся про зусилля галузі, заявивши, що технологічні компанії несуть відповідальність за те, щоб «захищати цілісність наших виборів і підтримувати вільні, справедливі та безпечні проміжні вибори». Минулого місяця Уорнер та його колеги-демократи написали листа провідним технологічним компаніям, закликавши їх забезпечити, щоб їхні інструменти штучного інтелекту отримували інформацію про вибори виключно з надійних джерел.