Женщина публично заявила, что её отчим использовал чат-бот Grok от xAI, чтобы превратить её детскую фотографию в откровенное изображение — об этом сообщает TechCrunch. Обвинение, которое на момент публикации не было независимо подтверждено ни судебными документами, ни заявлениями правоохранительных органов, касается функции генерации изображений Grok — она интегрирована непосредственно в платформу X (бывший Twitter) и доступна любому подписчику с активным аккаунтом.
Детали того, как именно произошла предполагаемая манипуляция — были ли обойдены встроенные фильтры контента Grok, пометил ли инструмент запрос как подозрительный, отреагировала ли xAI на заявление — из имеющихся публикаций неясны. Материал TechCrunch основан на публичных заявлениях самой женщины; развёрнутого публичного ответа от xAI на момент выхода материала не поступало.
Это не первый случай, когда генеративные инструменты для работы с изображениями оказываются в центре обвинений в создании откровенного контента без согласия. Deepfake-приложения и сервисы для «раздевания» фотографий существуют уже годы, но встраивание мощной генерации изображений прямо в массовую социальную платформу с сотнями миллионов пользователей меняет масштаб потенциального риска. В отличие от отдельного deepfake-приложения, которое пользователю нужно целенаправленно искать, Grok находится в одном касании для любого, кто уже пользуется X, что снижает порог для злоупотребления независимо от намерений.
Для компаний, строящих продукты на инструментах xAI или подписывающихся на них — будь то через потребительский тариф X Premium или через формирующийся корпоративный доступ к API — этот инцидент служит напоминанием: возможности генерации изображений несут репутационные и юридические риски, которые не остаются в границах потребительского использования. Поставщики обычно быстро публикуют заявления о безопасности после негативных информационных волн, и не удивительно, если в ближайшие недели xAI ужесточит политики модерации контента Grok или добавит дополнительные категории отказа для запросов на трансформацию фотографий. Станет ли этот ответ содержательным или косметическим, скорее всего прояснится по мере появления новых публикаций.
Более широкая тенденция, за которой стоит следить, — регуляторная. Несколько юрисдикций, включая ряд штатов США и стран-членов ЕС, уже приняли меры по криминализации созданных ИИ интимных изображений без согласия отдельно от общего законодательства о deepfake. Если подобный инцидент дойдёт до каких-либо юридических действий, он может стать прецедентным примером того, как эти нормы применяются к массовым AI-чат-ботам, а не к нишевым приложениям. Любая B2B-компания, оценивающая поставщиков ИИ для функций работы с изображениями или видео, должна рассматривать это как актуальную зону юридического риска, а не устоявшуюся практику — правила ещё пишутся, случай за случаем, зачастую именно в ответ на подобные инциденты.
На данный момент никаких изменений политики со стороны xAI не подтверждено. Материал будет обновлён, если компания сделает заявление или появятся новые детали обвинения.