Чат-бот Grok, разработанный компанией xAI Илона Маска и встроенный в социальную сеть X, снова привлёк внимание экспертов и регуляторов. Пользователи обнаружили, что система способна создавать изображения реальных людей без их согласия, в том числе в сексуализированном виде, что вызвало серьёзные вопросы к безопасности и контролю контента.
По данным Bloomberg, в ряде случаев Grok генерировал изображения людей в откровенном или минимальном наряде, несмотря на заявленные ограничения сервиса. Часть таких материалов была оперативно удалена, особенно те, где фигурировали несовершеннолетние.
- Grok признал наличие «пробелов в защитных механизмах»;
- xAI пообещала усилить фильтры и пересмотреть систему модерации;
- ранее в Grok существовал режим Spicy Mode, допускавший ограниченный взрослый контент;
- по данным Internet Watch Foundation, в первой половине 2025 года количество ИИ-изображений с сексуализированным образом детей выросло на 400%.
Любой контент с участием несовершеннолетних официально запрещён и считается незаконным.
Ситуация вокруг Grok показывает одну из ключевых проблем современных ИИ-моделей — сложность контроля генерации изображений людей. Такие системы работают быстро и масштабно, но даже небольшие сбои в фильтрах могут приводить к серьёзным нарушениям. Для обычных пользователей это означает риск злоупотреблений, а для платформ — репутационные и юридические последствия.
На фоне роста популярности генеративного ИИ подобные инциденты усиливают давление на компании со стороны правозащитников и регуляторов, которые требуют более жёстких правил и прозрачности.
История с Grok, вероятно, ускорит ужесточение требований к ИИ-сервисам, работающим с изображениями людей. Компании будут вынуждены инвестировать больше ресурсов в безопасность и модерацию, иначе риски превысят выгоды от быстрого развития технологий.
Отдельно стоит отметить, что на этом фоне бизнес-империя Илона Маска продолжает расти: SpaceX готовит выкуп акций на $2,56 млрд при оценке около $800 млрд и не исключает IPO. Это подчёркивает контраст между быстрым финансовым ростом технологических компаний и сложными этическими вызовами, которые сопровождают развитие искусственного интеллекта.
