Подростки подали в суд на xAI Илона Маска из-за создания порнографии с их участием

• Три истца обвинили xAI в создании откровенных изображений несовершеннолетних с помощью Grok.
• Иск подан в федеральный суд Калифорнии с требованием коллективного разбирательства.
• Заявители утверждают, что компания не внедрила базовые меры защиты от злоупотреблений.

Основанная миллиардером Илоном Маском компания xAI стала ответчиком по иску об использовании ее ИИ-моделей для создания сексуализированных изображений несовершеннолетних. Заявление подано в федеральный суд Северного округа Калифорнии от имени трех анонимных несовершеннолетних истцов.

Истцы, обозначенные как Джейн Доу 1, Джейн Доу 2 и Джейн Доу 3, намерены добиться признания дела коллективным. Они утверждают, что технология Grok использовалась для обработки их фотографий, в результате чего создавались откровенные изображения.

В документах говорится, что xAI не приняла базовые меры предосторожности, которые применяются другими разработчиками ИИ для предотвращения генерации подобного контента. Речь идет о механизмах, ограничивающих создание порнографических изображений на основе реальных фотографий.

Это не первое обвинение в адрес компании. Ранее в отношении xAI, в связи с этой темой, начали расследование регуляторы нескольких стран. Кроме того, против нее уже подали иски отдельные пользователи и их родители. 

По утверждению заявителей, если модель способна создавать эротический контент с реальных изображений, то предотвратить генерацию материалов с участием детей практически невозможно. В иске также упоминается публичная демонстрация возможностей Grok по созданию откровенного контента.

Одна из пострадавших заявила, что ее фотографии с выпускного и школьного альбома были изменены, после чего в сети появились обнаженные изображения. Девушке сообщили об этом через социальные сети и предоставили ссылку на сервер, где распространялись подобные материалы.

Еще две жертвы узнали о существовании таких изображений от правоохранительных органов. В одном случае контент был создан через стороннее приложение, использующее модели Grok, в другом — обнаружен на устройстве задержанного лица.

Заявители утверждают, что даже при использовании сторонних сервисов ответственность лежит на xAI. Они связывают это с тем, что генерация изображений требует доступа к ее инфраструктуре. 

Сторона обвинения также сообщила о психологическом ущербе и требует применения гражданских санкций за нарушение законов о защите несовершеннолетних.

Напомним, мы писали, что OpenAI одержала в суде победу над xAI.

Сообщение Подростки подали в суд на xAI Илона Маска из-за создания порнографии с их участием появились сначала на INCRYPTED.