За кулисами: завышенная статистика Tesla и демонстрация компетентности ИИ

Вторая из двух частей
Часть первая

Пока сотрудники Tesla просматривали видеозаписи ошибок FSD, совет директоров и генеральный директор компании усиливали заявления о безопасности технологии и её готовности к полной автономии. На протяжении большей части прошлого года руководство Tesla продвигало тезис о десятикратном превосходстве в безопасности.

«Автомобиль с FSD, который в 10 раз безопаснее», будет стимулировать продажи, заявил финансовый директор Tesla Таненджа на июльском звонке с инвесторами. «Даже за 99 $ в месяц — это как личный шофёр примерно за 3,33 $ в день.»

Ключевая проблема методологии Tesla заключается в одной ошибке сравнения, которая завысила заявленный уровень безопасности в три раза. Производитель учитывал аварии Tesla с раскрытием подушек безопасности и сравнивал их с федеральными данными по всем авариям, при которых транспортное средство эвакуировалось эвакуатором, — что является значительно менее строгим критерием. Аварии, требующие эвакуатора, зачастую недостаточно серьёзны, чтобы активировать подушки безопасности.

Tesla применила этот несопоставимый подход, несмотря на то что корректные данные для сравнения были доступны: федеральные данные, которые она использовала, включали аварии с раскрытием подушек безопасности. Эта ошибочная методология привела к выводу, что автомобили Tesla с FSD или Autopilot проезжают в 10 раз большее расстояние между авариями, чем среднестатистический водитель-человек.

Более корректное сравнение — с использованием аварий с раскрытием подушек безопасности для Tesla и всех остальных автомобилей — показывает, что автомобили Tesla с системами помощи водителю проезжают примерно в три раза большее расстояние между авариями с раскрытием подушек безопасности, согласно анализу, проведённому для Reuters Марко Бенедетти, младшим научным сотрудником Транспортного исследовательского института Мичиганского университета и бывшим статистиком NHTSA. Двое других исследователей в области безопасности дорожного движения проверили расчёты Бенедетти и согласились с выводами.

Однако это не означает, что FSD действительно в три раза безопаснее среднестатистического водителя, отметил Бенедетти, поскольку в методологии Tesla есть ряд других недостатков.

В ноябре Tesla скорректировала свой подход, включив только данные для автомобилей с FSD и исключив те, что оснащены Autopilot. Включение Autopilot увеличивало заявленный Tesla пробег между авариями, поскольку это менее сложная система, предназначенная только для шоссе, — где автомобили накапливают больше километров и попадают в аварии значительно реже, чем на городских улицах. Тем не менее компания по-прежнему использует некорректное сравнение аварий с подушками безопасности на своём сайте, утверждая, что FSD в семь раз безопаснее среднестатистического водителя-человека, или примерно на 85% безопаснее в процентном выражении.

Агентство Reuters обнаружило, что ещё ряд ошибочных показателей, применяемых Tesla, ставит под сомнение, является ли FSD вообще более безопасной.

Например, производитель не учитывает возраст автомобиля при сравнении показателя аварийности своих машин с национальным показателем. Tesla сравнивает свои автомобили — средний возраст которых составляет всего 4,1 года по данным S&P Global Mobility — со всеми автомобилями в США, средний возраст которых составляет 12,8 года. По словам 10 исследователей в области безопасности, это искажает результаты, поскольку практически все автопроизводители в последнее время начали предлагать революционные функции безопасности, включая мониторинг слепых зон и автоматическое экстренное торможение, во всём своём модельном ряду.

Tesla также занижает число аварий, учитывая только те происшествия, которые произошли либо при включённой FSD, либо в течение пяти секунд после отключения функции. Правительство США, напротив, обязывает автопроизводителей сообщать об авариях, произошедших в течение 30 секунд после деактивации системы расширенной помощи водителю.

Tesla утверждает, что FSD может ежегодно спасать более 32 000 жизней и предотвращать более 1,9 миллиона травм. Некоторые исследователи в области безопасности дорожного движения назвали эти цифры бессмысленными, поскольку они основаны на нереалистичном предположении о том, что каждое американское транспортное средство, включая грузовики и склонные к авариям мотоциклы, будет заменено автомобилем Tesla с FSD, — и что каждый такой автомобиль действительно как минимум в семь раз безопаснее того, который он заменяет.

Более строгий подход Waymo

Исходная посылка статистики безопасности Tesla также ошибочна, поскольку FSD не является по-настоящему автономной системой, считают 10 исследователей в области безопасности дорожного движения. Tesla сравнивает свои технологии не с водителями-людьми, как утверждают руководители. Вместо этого производитель сравнивает среднестатистического водителя-человека с другим среднестатистическим человеком — тем, кто управляет Tesla с включённой FSD. Tesla также не принимает во внимание, что эти водители могут включать и выключать FSD, — а исследования показывают, что водители нередко избегают использования систем расширенной помощи водителю в сложных дорожных ситуациях, когда технология кажется им небезопасной. Собственные данные Tesla показывают, что FSD используется преимущественно на шоссе.

Waymo компании Alphabet, напротив, сравнивает свои полностью беспилотные роботакси, уже развёрнутые в 11 городских агломерациях США, с автомобилями под управлением человека в аналогичных условиях.

Waymo применяет более строгий подход, чем Tesla: анализирует данные об авариях на рынках, где работает компания, и делает поправку на типы дорог и районов, по которым курсируют её роботакси. Waymo сосредоточена на конкретных показателях аварийности — например, авариях с раскрытием подушек безопасности или серьёзными травмами — как для своих автомобилей, так и для автомобилей под управлением человека на тех же рынках.

«Нам нужно быть очень осторожными в формулировках», — сказал Джон Сканлон, исследователь в области безопасности Waymo. «Необходимы очень конкретные исследовательские вопросы и очень конкретные выводы.»

Waymo также указывает на недостатки в своих данных и сотрудничает со сторонними исследователями для публикации статистики безопасности в рецензируемых журналах. Tesla, напротив, не прибегает к рецензированию и публикует лишь общие статистические заявления о безопасности, сохраняя в тайне базовые данные об авариях автомобилей Tesla.

Видеозаписи наездов Tesla на собак, кошек и оленей

Внутри Tesla разметчики данных получают непредвзятое представление о безопасности FSD. Трое бывших сотрудников описали несколько видеозаписей, на которых автомобили Tesla не распознают животных и сбивают их на скорости — без торможения.

Пятеро бывших сотрудников сообщили, что отдельные команды были сосредоточены на проблемах FSD с распознаванием школьных автобусов. Эту проблему поднимала группа по технологической безопасности под названием Dawn Project, которая транслировала рекламные ролики во время Супербоулов 2023 и 2024 годов с видеозаписями того, как автомобили Tesla с FSD не останавливаются перед автобусами с сигналами «стоп» и мигающими огнями.

Двое бывших сотрудников сообщили, что видели аналогичные видеоклипы внутри Tesla.

Пятеро бывших разметчиков данных описали напряжённую, хаотичную рабочую обстановку, в которой приоритеты менялись в зависимости от указаний Маска и инженеров FSD. По их словам, подразделение по разметке данных страдало от хронической текучки кадров из-за монотонной работы и в целом низкой оплаты труда.

По словам четырёх бывших сотрудников, руководство Tesla нередко запускало новые проекты в ответ на публикации в СМИ или в социальных сетях, демонстрировавшие ошибки FSD. Один из них описал попытку решить проблему засветки внешних камер автомобиля солнечным светом. Поводом послужило видео в социальных сетях, на котором свет, отражавшийся от часов пассажира, ослепил одну из камер и отключил FSD. Ещё одна работа по железнодорожным переездам последовала за сообщениями в СМИ о том, что автомобили Tesla под управлением FSD не останавливались перед ними.

По словам пятерых сотрудников, в клипах FSD также регулярно фиксировалось превышение скорости, которое инженеры и другие сотрудники по цепочке считали малоприоритетной проблемой.

Один сотрудник рассказал, что разметчики регулярно фиксировали, как Tesla превышает ограничения скорости на 32–48 км/ч после того, как производитель ввёл режим FSD «Безумный Макс», позволяющий более агрессивный стиль вождения. Другой разметчик сообщил, что видел автомобиль под управлением FSD, который ехал со скоростью около 97 км/ч в зоне с ограничением 40 км/ч.

Публичные демонстрации роботакси

Пока сотрудники Tesla с трудом обучали FSD, Маск в октябре 2024 года рекламировал возможности Tesla в области автономного вождения на помпезной презентации роботакси на студии Warner Bros. близ Лос-Анджелеса. Аудитория, попавшая на мероприятие только по приглашениям, аплодировала, пока Маск указывал на около 20 прототипов двухдверного «Cybercab» без руля и педалей, медленно ездивших по территории студии.

«Машины просто едут сами по себе, без людей», — сказал он.

Маск заявлял, что программное обеспечение Tesla разработано для работы в любых условиях, ориентируясь в незнакомых ландшафтах в режиме реального времени. Однако за несколько недель до мероприятия с Cybercab сотрудники каждую ночь с 18:00 до рассвета тестировали прототипы, собирая видеозаписи маршрута, по которому автомобили должны были следовать на презентации, — рассказали двое бывших сотрудников по разметке данных. По их словам, разметчики потратили сотни часов на аннотирование бордюров и дорожной разметки на видео, чтобы предотвратить неловкие инциденты.

Waymo проводит подобное картографирование в больших масштабах перед запуском в конкретных городах — подход, который Маск неоднократно отвергал как слишком дорогостоящий и медленный. В 2024 году Маск высмеял «очень локализованные решения» Waymo как «весьма хрупкие».

После мероприятия на Warner Bros. Маск на январском 2025 года звонке с инвесторами объявил, что Tesla запустит роботакси в Остине в июне 2025 года. Он представил технологию как «обобщённое решение на базе ИИ», которое не требует «высокоточных карт местности».

Однако за несколько месяцев до запуска в Остине Tesla провела масштабную видеосъёмку объектов в ограниченной зоне роботакси для картографирования района, фиксируя светофоры, дорожные знаки и другие элементы. Разметчики данных аннотировали эти видеозаписи, чтобы программное обеспечение могло справляться со сложными сценариями, включая посадку пассажиров и реагирование на машины экстренных служб, — рассказали двое сотрудников, непосредственно осведомлённых об этом.

По словам троих сотрудников, за полгода до запуска в Остине штат разметчиков данных в Юте удвоился и составил около 300 человек. По их словам, отдел работал главным образом над проектами, призванными обеспечить бесперебойное проведение тщательно контролируемого теста в Остине.

Пока разметчики данных Tesla готовились к запуску, программное обеспечение по-прежнему работало нестабильно, рассказали двое сотрудников. С каждым обновлением FSD одни аспекты вождения улучшались, другие ухудшались. В офисе в Юте на двух больших экранах отображалась статистика пробега между вмешательствами водителя в работу FSD — ключевой показатель безопасности автономного вождения.

«Он то рос, то падал, как фондовый рынок», без какого-либо устойчивого улучшения, рассказал один из бывших сотрудников.

Автомобили выехали на улицы с двумя группами операторов безопасности-людей, готовых взять управление: один сидел на переднем пассажирском сиденье, другие наблюдали дистанционно. В Юте разметчики могли видеть на видеозаписях, когда дистанционные операторы перехватывали управление автомобилями. Один бывший сотрудник рассказал, что маршруты в Остине были спроектированы для ограниченной зоны, чтобы программное обеспечение автомобилей можно было тщательно обучить конкретным манёврам на определённых улицах.

«Это было как: "Окей, мы обучили автомобиль"» работать в ограниченной зоне, сказал этот человек. «За её пределами проявить гибкость не получится.»

Четверо источников заявили, что безопасное масштабирование может занять годы. В июле, через месяц после запуска роботакси в Остине, Маск предсказал, что к концу 2025 года сервис расширится и охватит половину населения США.

В январе Маск ложно заявил, что Tesla эксплуатирует 500 «автомобилей-роботакси» в Остине и районе залива Сан-Франциско, добавив, что ожидает их удвоения «каждый месяц» по «экспоненциальной кривой». Маск утверждал, что Tesla управляет «сервисом роботакси» в районе залива, тогда как в действительности компания лишь работает в рамках сервиса по вызову транспорта по государственному разрешению, обычно используемому шофёрами, которое требует наличия водителя-человека.

В действительности, почти через год после запуска в Остине, Tesla по-прежнему эксплуатирует там лишь около 50 роботакси, согласно недавней презентации городских чиновников. По словам троих источников, автомобили курсируют в ограниченной и тщательно нанесённой на карту зоне. По последним наблюдениям корреспондента Reuters, в некоторых из них по-прежнему находятся операторы безопасности-люди на переднем пассажирском сиденье.

В апреле Tesla заявила о запуске роботакси в Далласе и Хьюстоне с публикацией карт зон обслуживания.

Корреспонденты Reuters, недавно протестировавшие сервис в обоих городах, столкнулись с длительным ожиданием и нестабильной доступностью. В трёх случаях, когда корреспонденту удавалось вызвать машину в Далласе, роботакси не довозило его до пункта назначения в центре города в пределах заявленной Tesla зоны обслуживания.

Каждый раз оно оставляло его примерно в 15 минутах ходьбы. – Rappler.com