Admin
Администратор
Сервис Grok Imagine продолжает использоваться для создания и распространения дипфейков без согласия людей.
Несмотря на обещания компании xAI усилить защиту, лазейки для создания вредоносного контента остаются.
Проверка публичных ссылок на Grok.com показала, что сервис по-прежнему используется для создания откровенных изображений и видео с известными людьми без их согласия. Среди найденных материалов были дипфейки с политическими фигурами и знаменитостями. После январского скандала компания xAI пообещала усилить защиту, но новые находки показывают, что ограничения стали жестче, но не устранили проблему полностью. Журналисты обнаружили десятки страниц с откровенным контентом, часть из которых затем публиковалась в X. После обращения к xAI часть страниц перестала открываться, а публикации удалили. Однако проблема заключается в том, что сервис не запрещает сексуальный контент полностью, что требует точных фильтров для разделения допустимого контента от изображений реальных людей без их согласия. Проверка показала, что некоторые запросы, которые проходили в Grok Imagine, другие сервисы отклоняли как неприемлемые. Юристы и специалисты по цифровому насилию считают особенно опасным сочетание генератора и соцсети, так как это упрощает процесс создания и распространения вредоносного контента. Для SpaceX и xAI эта история уже стала финансовым и юридическим риском.
