Данные о ДТП беспилотников: почему компании их скрывают и как это изменить

Беспилотные автомобили (AV) десятилетиями тестировались в качестве такси в Сан-Франциско, Питтсбурге и по всему миру, а транспортные компании имеют огромные стимулы для их внедрения.

Однако компании, занимающиеся разработкой AV, редко делятся данными о столкновениях и безопасности, которые критически важны для повышения надежности их транспортных средств. Основная причина – отсутствие достаточных стимулов для этого.

Являются ли данные о безопасности AV интеллектуальной собственностью автомобильной компании или общественным благом? По мнению исследователей Корнеллского университета, они могут быть и тем, и другим – при небольших корректировках.

Новая дорожная карта обмена данными

Команда разработала дорожную карту, описывающую барьеры и возможности для стимулирования компаний AV к обмену данными с целью повышения безопасности беспилотников. Она охватывает вопросы разграничения общедоступных и частных данных, нормативно-правовое регулирование и создание программ стимулирования.

«Основная часть конкуренции на рынке AV заключается в том, кто владеет данными о столкновениях, потому что, имея эти данные, гораздо проще обучить ваш искусственный интеллект не допускать таких ошибок. Надежда заключается в том, чтобы сначала сделать эти данные прозрачными, а затем использовать их на благо общества, а не только для получения прибыли», — сказал Хауке Зандхаус, магистр 2024 года, докторант Корнеллского технологического института и соавтор статьи «Мои драгоценные данные о столкновениях», представленной 16 октября на конференции ACM по человеко-машинному взаимодействию.

В число его соавторов входят Цянь Ян, доцент Корнеллского колледжа информатики и информационных технологий Энн С. Бауэрс; Венди Джу, доцент информационных наук и дизайна в Корнеллском технологическом институте, Корнеллском колледже информатики и информационных технологий Энн С. Бауэрс и Техно-Корнеллском институте Джейкобса; и Ангел Хисинг-Чи Хванг, бывший постдокторальный сотрудник Корнелла, а ныне доцент кафедры коммуникаций Университета Южной Калифорнии, Анненберг.

Барьеры для обмена данными о безопасности AV

Команда опросила 12 сотрудников компаний AV, занимающихся безопасностью в разработке и эксплуатации беспилотных автомобилей, чтобы понять, как они в настоящее время управляют данными о безопасности и обмениваются ими, с какими проблемами и опасениями сталкиваются при обмене данными, и каковы их идеальные практики обмена данными.

Интервью показали, что компании AV имеют удивительно разнообразные подходы, отметил Зандхаус. «У каждого есть какая-то своя, разработанная внутри компании ниша, и между этими компаниями мало общего опыта», — сказал он. «Я ожидал, что будет гораздо больше общих черт».

Исследовательская группа обнаружила два ключевых барьера для обмена данными — оба подчеркивают недостаток стимулов. Во-первых, данные о столкновениях и безопасности содержат информацию о моделях машинного обучения и инфраструктуре, которые компания использует для повышения безопасности.

«Обмен данными, даже внутри компании, является политически сложным и сопряженным с трудностями», — написала команда в статье. Во-вторых, респонденты считали, что знания о безопасности AV являются частными и дают их компании конкурентное преимущество.

«Эта точка зрения заставляет их рассматривать знания о безопасности, заложенные в данные, как спорную территорию, а не как общественное достояние на благо общества», — написала команда.

А нормативные акты США и Европы не помогают. Они требуют только информацию, такую как месяц, в который произошло столкновение, производитель и наличие травм. Это не отражает глубинные неожиданные факторы, которые часто приводят к авариям, такие как внезапное появление пешехода на дороге, нарушение водителями правил дорожного движения, экстремальные погодные условия или блокировка дороги потерянным грузом.

Потенциальные решения для более безопасных беспилотных автомобилей

Чтобы стимулировать более широкий обмен данными, крайне важно отделить знания о безопасности от проприетарных данных, считают исследователи. Например, компании AV могли бы делиться информацией об аварии, но не сырыми видеозаписями, которые раскрывают техническую инфраструктуру компании.

Компании также могли бы разработать «экзаменационные вопросы», на которые AV должны будут ответить, прежде чем выйти на дорогу. «Если есть пешеходы, идущие с одной стороны, и транспортные средства с другой, это можно использовать как тестовый сценарий, который должны пройти и другие AV», — сказал Зандхаус.

Академические учреждения могли бы выступать в качестве посредников данных, с которыми компании AV могли бы налаживать стратегическое сотрудничество. Независимые исследовательские институты и другие общественные организации уже имеют прецеденты сотрудничества с отраслевыми партнерами в области общедоступных знаний. «Существуют договоренности, формы сотрудничества, модели, позволяющие высшему образованию внести свой вклад в это, не обязательно делая весь набор данных общедоступным», — сказала Цянь.

Команда также предлагает стандартизировать оценку безопасности AV посредством более эффективного государственного регулирования. Например, федеральное агентство по разработке политики могло бы создать виртуальный город в качестве испытательного полигона, с оживленными перекрестками и дорогами с интенсивным движением пешеходов, которые должен уметь навигировать каждый алгоритм AV, сказала она.

Федеральные регуляторы могли бы поощрять автомобильные компании к предоставлению сценариев для тестовой среды. «Компании AV могли бы сказать: «Я хочу поместить туда свои тестовые сценарии, потому что моя машина, вероятно, прошла эти тесты». Это может стать механизмом, стимулирующим разработку более безопасных транспортных средств», — сказал Ян. «Предложение изменений в политике всегда кажется немного далеким, но я думаю, что в этой области существуют решения, которые могут быть реализованы в ближайшем будущем».