ЕС начал расследование против X из-за сексуальных дипфейков Grok AI

Европейская комиссия инициировала официальное расследование в отношении социальной сети X, принадлежащей Илону Маску. Причиной стали серьёзные опасения, что интегрированный в платформу инструмент искусственного интеллекта Grok используется для создания сексуализированных изображений реальных людей без их согласия.

Международная озабоченность проблемой

Расследование ЕС последовало за аналогичными действиями британского регулятора Ofcom, который в январе также выразил обеспокоенность использованием Grok для генерации неприемлемого контента. Координация усилий европейских надзорных органов свидетельствует о серьёзности проблемы.

Возможные санкции

Если будет установлено, что X нарушил требования Закона о цифровых услугах ЕС (Digital Services Act), Европейская комиссия может наложить на компанию штраф в размере до 6% от её глобального годового оборота. Учитывая масштабы бизнеса социальной сети, речь может идти о многомиллиардных суммах.

Позиция платформы

Ранее официальный аккаунт X Safety заявил, что социальная сеть запретила использование Grok для цифрового удаления одежды с фотографий людей «в юрисдикциях, где такой контент запрещён». Однако эта формулировка вызывает вопросы: подразумевается ли, что в других регионах подобная функциональность остаётся доступной?

Фокус расследования

Регина Догерти, депутат Европейского парламента от Ирландии, пояснила, что Комиссия будет оценивать, демонстрировались ли пользователям в ЕС «манипулированные сексуально откровенные изображения». Ключевым вопросом является не только техническая возможность создания такого контента, но и его распространение на территории Евросоюза.

Голоса жертв и активистов

Активисты по защите прав в интернете и жертвы дипфейков категорически заявили, что возможность создавать сексуально откровенные изображения с помощью ИИ-инструмента «никогда не должна была появиться в принципе». Британский регулятор Ofcom подтвердил, что его расследование продолжается и не будет свёрнуто.

Дополнительные меры и расширенное расследование

Регулятор ЕС предупредил, что может «ввести временные меры» в отношении X, если компания откажется внедрять существенные корректировки в работу Grok и механизмы модерации контента.

Кроме того, Европейская комиссия сообщила о продлении текущего расследования, начатого ещё в декабре 2023 года. Оно касается рисков, связанных с алгоритмами рекомендаций X — системой, которая определяет, какие публикации показываются конкретным пользователям в их лентах.