Волна судебных исков утверждает, что программное обеспечение Tesla для самостоятельного вождения опасно раздуто. Чему могут научить нас его слепые пятна в отношении неустойчивого генерального директора компании?
В начале программное обеспечение имело прискорбную привычку поражать полицейские патрули. Никто не знал почему, хотя у инженеров Теслы были некоторые хорошие догадки: неподвижные объекты и мигающие огни, казалось, обманывали ИИ. Автомобиль ехал нормально, компьютер хорошо контролировал, и внезапно он отклонялся вправо или влево и — разбивался — по крайней мере, 10 раз за чуть болеетри года.
Для компании, которая зависела от безграничного чувства оптимизма среди инвесторов, чтобы поддерживать свою высокую цену акций — Tesla в какой—то момент стоила больше, чем Toyota, Honda, Volkswagen, Mercedes, BMW, Ford и General Motors вместе взятые - эти аварии могут показаться проблемой. Но для Илона Маска, исполнительного директора Tesla, они предоставили возможность. Каждое столкновение генерировало данные, и с достаточным количеством данных компания могла ускорить разработку первого в мире действительно самоуправляемого автомобиля. Он так сильно верил в это видение, что это заставило его делать дикие прогнозы: “Я предполагаю, когда мы будем считать, что кто-то может безопасно заснуть и проснуться в пункте назначения: вероятно, ближе к концу следующего года”, - сказал Маск в 2019 году.“Я бы сказал, что уверен в этом. Это не вопросительный знак ”.
Будущее Tesla может зависеть от того, знали ли водители, что они участвуют в этом эксперименте по сбору данных, и если да, то соответствовала ли их склонность к риску Маску. Я хотел услышать от жертв некоторых более мелких аварий, но они, как правило, делились на две категории, ни одна из которых не располагала их к разговорам: они либо любили Теслу и Маск и не хотели говорить ничего негативного прессе, либо они подавали в суд на компанию и хранили молчание по поводусовет адвоката. (У Умайра Али, чья Tesla врезалась в дорожный барьер в 2017 году, было другое оправдание: “Запишите меня как отказавшегося от интервью, потому что я не хочу злить самого богатого человека в мире”.)
Затем я нашел Дэйва Кея. 29 мая 2018 года Tesla Model S Кея 2015 года везла его домой от дантиста в режиме автопилота. Это был маршрут, по которому Ки ездил бесчисленное количество раз: двухполосное шоссе, ведущее в холмы над Лагуна-Бич, штат Калифорния. Но в этой поездке, когда Ки отвлекся, машина вылетела со своей полосы и врезалась в заднюю часть припаркованного полицейского внедорожника, развернув машину и вытолкнув внедорожник на тротуар. Никто не пострадал.
Кей, 69-летний бывший предприниматель, занимающийся разработкой программного обеспечения, беспристрастно, инженерным взглядом на собственную аварию. “Проблема со стационарными объектами — извините, это звучит глупо — в том, что они не двигаются”, - сказал он. В течение многих лет искусственный интеллект Tesla испытывал трудности с отделением неподвижных объектов от фона. Вместо того чтобы расстраиваться из-за того, что компьютер не разобрался с такой, казалось бы, элементарной проблемой, Ки утешился, узнав, что за сбоем стояла причина: известное ограничение программного обеспечения, а не какое-то событие черного лебедя.
Прошлой осенью я попросил Ки посетить со мной место аварии. Он сказал, что сделает для меня лучше; он отвезет меня туда, используя новый полностью автономный режим Tesla, который все еще был в бета-версии. Я сказал Кею, что удивлен, что он все еще ездит на Tesla, не говоря уже о том, чтобы доплачивать — F.S.D. теперь стоит 15 000 долларов — за новые автономные функции. Если бы моя машина пыталась меня убить, я бы сменил марку. Но через месяцы и годы после того, как его модель S была распродана, он купил еще три.
Мы встретились за завтраком в кафе в Лагуна-Бич, примерно в трех милях от места катастрофы. Ки был одет в черную футболку с V-образным вырезом, шорты цвета хаки и сандалии: полурастительный шик Южной Калифорнии. Когда мы шли к нашему столику, он запер дверцы своей красной модели S 2022 года выпуска, а боковые зеркала сложились, как уши собаки, когда ее гладят.
Ки принес с собой четырехстраничную записку, которую он составил для нашего интервью, в которой перечислялись факты об аварии, организованные подзаголовками вроде “Технология полного автономного вождения Tesla (обсуждение)”. Он из тех людей, которые ходят с батареей полностью сформированных мнений по самым важным вопросам жизни — компьютеры, программное обеспечение, физические упражнения, деньги — и готовы ими делиться. Он был особенно обеспокоен тем, что, как я понимаю, автопилот и F.S.D. спасали жизни: “Данные показывают, что их аварийность во время бета-тестирования намного ниже, чем у других автомобилей”, - гласил один пункт в 11-точечном Calibri. “Замедление бета-тестирования F.S.D. приведет к большему количеству несчастных случаев и человеческих жертв, основанных на точных статистических данных”.
Мы вновь обратились к людям, которые уволились с работы в прошлом году. Они (все еще) счастливы?
Плохо ли пить кофе натощак?
Он утверждал, что несчастные случаи, подобные его, и даже смертельные, прискорбны, но они не могут отвлечь общество от более масштабной цели широкого внедрения автономных транспортных средств. Ки провел аналогию с вакцинами против коронавируса, которые предотвратили сотни тысяч смертей, но также вызвали редкие случаи смерти и травмы в результате побочных реакций. “Как общество, - заключил он, - мы выбираем путь, позволяющий спасти как можно больше жизней”.
Мы закончили завтрак и пошли к машине. Ки надеялся продемонстрировать новейшую версию F.S.D., но его система еще не обновилась. “Илон сказал, что это будет выпущено в конце недели”, - сказал он. “Что ж, сегодня воскресенье”. Маск неделями намекал, что обновление станет радикальным улучшением по сравнению с F.S.D. 10.13, который был выпущен летом. Поскольку Маск любил немного пошутить над именами и цифрами в своей жизни, номер версии подскочил до 10,69 с этим выпуском. (Четыре доступные модели Tesla - это S, 3, X и Y, предположительно потому, что это означает слово “сексуальный".”)
Ки не хотел говорить о Маске, но репутационный крах руководителя стало невозможно игнорировать. Он был в разгаре своей причудливой кампании по захвату Twitter, к ужасу сторонников Tesla. И хотя он еще не атаковал Энтони Фаучи, не распространял теории заговора о муже Нэнси Пелоси и не устраивал шумиху на платформе, запрещающую журналистам, вопрос уже напрашивался сам собой: как вы объясните Илона Маска?
“Люди несовершенны”, - осторожно сказал Ки, прежде чем повторить мнение, которое Маск часто говорил о себе: если сторонники с обеих сторон ненавидят его, он, должно быть, делает что-то правильно. По словам Ки, в какие бы неприятности ни попал Маск, он был честен — “правдив в ущерб себе”.
Пока мы ехали, Ки сравнил F.S.D. и версию Autopilot на своей Tesla 2015 года. Автопилот, по его словам, был похож на модный круиз-контроль: скорость, рулевое управление, предотвращение столкновений. Хотя в его случае он сказал: “Я думаю, это не помогло избежать аварии”. Он был гораздо более впечатлен F.S.D. Он был способен справиться практически с любой ситуацией, которую он бросил на него. “Моя единственная настоящая жалоба заключается в том, что он не всегда выбирает ту полосу, которую я бы выбрал”.
Через минуту машина предупредила Ки, чтобы он держал руки на руле и смотрел на дорогу. “Тесла сейчас в некотором роде нянька в этом”, - пожаловался он. Если когда—то Автопилот был опасно снисходителен к невнимательным водителям — даже позволяя им клевать носом за рулем, - этот недостаток, такой как ошибка с неподвижным объектом, был исправлен. “Между рулем и отслеживанием глаз это просто решаемая проблема”, - сказал Ки.
Вскоре мы были недалеко от места крушения. По обе стороны от нас возвышались покрытые кустарником холмы с проложенными через них трассами для катания на горных велосипедах. Именно это привело к неприятностям Ки в день аварии. Он смотрел на любимую тропу и игнорировал дорогу. “Я посмотрел налево, и машина уехала вправо”, - сказал он. “Я был в этом ложном чувстве безопасности”.
Многие претензии в отношении ожидающих рассмотрения судебных процессов сводятся к одной теме: Tesla постоянно завышала ожидания потребителей и преуменьшала связанные с этим опасности.
