Grok генерує тисячі діпфейків щогодини — дослідження

Соціальна мережа X стала світовим лідером із поширення порнографічних зображень, згенерованих штучним інтелектом без згоди людей на фото.

Як повідомляє Bloomberg, дослідниця соцмереж Женев’єва О проаналізувала активність платформи протягом доби (5–6 січня) і виявила, що чат-бот Grok генерував близько 6700 зображень сексуального характеру щогодини.

Для порівняння, на п’яти інших найпопулярніших сайтах із подібним функціоналом цей показник становить у середньому лише 79 зображень на годину. Загалом згідно з дослідженням 85% усього візуального контенту, який створює Grok, є сексуалізованим.

Юристка Керрі Ґолдберг наголошує, що світ ще не стикався з технологією, яка б так спрощувала створення порнографії оскільки інструмент безплатний, не має жорстких фільтрів і миттєво поширює контент у соцмережі.

На відміну від конкурентів (OpenAI, Google чи Anthropic), які блокують створення подібного контенту на рівні коду, Grok від xAI працює майже без обмежень. 

Позиція Ілона Маска залишається незмінною, він пропонує карати користувачів, які порушують закон, а не обмежувати можливості бота. Проте, як зазначають експерти, на практиці механізми захисту не працюють.

Журналісти наводять приклад 23-річної студентки Медді. Невідомі використали Grok, щоб переробити її звичайне фото з бару. Спершу її «одягли» в бікіні, а потім — у ще відвертішу білизну. Коли дівчина поскаржилася в підтримку X, їй відповіли, що «порушень правил не виявлено», і фото залишилися на сайті.

Іноді сам бот Grok у коментарях «вибачається» перед жертвами та обіцяє видалити фейки, але зображення все одно залишаються доступними, а генерація нових триває.

Нагадаємо, на початку року вибухнув скандал навколо ШІ-асистента після того, як користувачі почали масово ділитися скриншотами, де Grok виконував запити на редагування завантажених фотографій, фактично оголюючи людей на знімках або домальовуючи їм відвертий одяг.