Grok захопив контент для дорослих: чим це загрожує xAI

Чат-бот Grok від компанії xAI здобув популярність завдяки відсутності жорстких обмежень. Нове розслідування показує, що понад половину всього трафіку системи генерують контент для дорослих та еротичні рольові ігри.

Про це повідомляє РБК-Україна з посиланням на The Information.

Попри те, що роль контенту для дорослих у формуванні прибутків була повністю вилучена з офіційних документів для підготовки компанії до виходу на біржу (IPO), медійники стверджують, що xAI заклала чималий бюджет для покриття можливих юридичних наслідків такої стратегії.

Популярність еротичних функцій призвела до неочікуваних аномалій у споживанні обчислювальних потужностей.

Користувачі з'ясували, що генерувати текстову еротику та оголені зображення значно дешевше через спеціалізовані підмоделі Grok, які розроблялися для написання програмного коду.

Внутрішній технічний аналіз xAI підтвердив, що чимала частина запитів до кодинг-моделі насправді стосувалася створення порнографічних матеріалів через їхню нижчу комерційну вартість.

Така специфіка платформи спровокувала серйозні внутрішні розбіжності серед інженерів:

Частина персоналу була незадоволена призначенням на проєкт Ani - розробку інтерактивного NSFW-аватара в аніме-стилі.

Багато розробників заявили, що почувалися збентеженими та обуреними після серії публічних скандалів, коли користувачі використовували Grok для створення сексуалізованих діпфейків реальних людей, включно з неповнолітніми.

Для розв'язання цієї проблеми інженерам довелося в екстреному режимі розробляти алгоритми, які б дозволяли боту підтримувати романтичні та еротичні розмови, але залізно блокували будь-які спроби генерації заборонених чи протиправних матеріалів.

Наразі генерування відвертих світлин реальних людей безпосередньо у соцмережі X обмежене, проте платні підписники інструментів xAI все ще мають технічний доступ до такого функціоналу.

Усвідомлюючи небезпеку судових позовів через неконсенсуальні діпфейки та порнографію, керівництво компанії офіційно попередило потенційних інвесторів, що "зухвалі" функції бота є серйозним фактором ризику.

Для врегулювання майбутніх судових спорів та компенсацій xAI виділила окремий резервний фонд у розмірі 530 мільйонів доларів.

Окремим викликом для бізнес-моделі Ілона Маска є сумісність такого іміджу з державними замовленнями. xAI веде агресивну політику на ринку держзакупівель і вже підписала низку великих контрактів із різними федеральними відомствами та військовими структурами США.

Зазвичай держоргани мають нульову толерантність до будь-яких проявів NSFW-індустрії. Проте на сьогодні немає підтверджень, що численні скандали з діпфейками чи поточні розслідування якось негативно вплинули на співпрацю компанії одіозного мільярдера з американським урядом.

Ще більше цікавого:

• Жорсткі ліміти в X: Маск обмежив безкоштовні акаунти
• Ілон Маск планує увірватися на ринок мобільного зв'язку