Аудит стратегії моніторингу в реальному часі
Дослідники провели комплексний аудит двох ключових завдань у сфері автономного керування: генерації векторної карти онлайн за допомогою моделі LaneSegNet і планування руху end-to-end з використанням VAD. Основною метою було перевірити, чи доступ до внутрішнього стану (латентного простору) моделі впливає на ефективність моніторингу збоїв у реальному часі. Дослідження включало аналіз помилок типу high Chamfer для LaneSegNet і помилки mean-ADE для VAD, що дозволило оцінити точність прогнозів в умовах реального світу.
Результати показали, що навіть без доступу до латентних ознак моніторинг збоїв може бути дуже ефективним. У випадку LaneSegNet модель, яка базується лише на вихідних даних, прогнозованих мережею, досягла значення AUROC 0,825 - що вказує на високу здатність до розпізнавання помилок типу high Chamfer. Для VAD система моніторингу, заснована на даних egos, командах керування та прогнозованих траєкторіях руху, досягла AUROC 0,924 - що є дуже високим результатом у контексті оцінки помилок планування. Ці результати підтверджують, що вхідні та вихідні дані містять достатньо інформації для оцінки правильності роботи системи.
Дослідження не показали суттєвої різниці в ефективності між системами моніторингу з доступом і без доступу до латентного простору. У випадку LaneSegNet система моніторингу, яка базується лише на вихідних даних, досягла AUROC 0,825, тоді як модель із латентними ознаками досягла 0,780 - що свідчить про те, що додавання внутрішнього стану не приносить користі. Для VAD система моніторингу, заснована на даних egos, командах керування та прогнозованих траєкторіях руху, досягла AUROC 0,924, тоді як модель із латентними ознаками досягла 0,868.
Доступ до латентного простору не гарантує кращих результатів
Найважливішим висновком дослідження є те, що додавання латентних ознак до базової моделі, заснованої на вихідних даних, не принесло статистично значущого покращення в ефективності моніторингу. Дослідники зазначили, що «додавання латентних ознак до будь-якої з базових моделей не призводить до вирішального покращення». Це означає, що навіть якщо модель має багате внутрішнє представлення, його використання не є необхідним для ефективного виявлення збоїв.
Також важливо, що цей ефект було підтверджено для різних типів помилок планування, навіть тих, чиї мітки залежать від геометрії, до якої немає доступу в моделі без доступу до латентного простору. Це свідчить про те, що вхідні та вихідні дані містять достатньо інформації для оцінки правильності роботи системи.
Дослідження підтверджують, що прогнозування збоїв на основі внутрішнього представлення моделі не доводить, що це представлення містить корисну інформацію, окрім вхідних і вихідних даних, які можна спостерігати. Ці висновки важливі для проектування систем безпеки, оскільки показують, що моніторинг збоїв може бути ефективним без необхідності доступу до внутрішніх станів моделі.
Збільшене зображенняЗакрити збільшенняПопереднє зображенняЗначення для безпеки та тестування автономних систем.
Результати дослідження мають важливі наслідки для проектування систем безпеки в автономних транспортних засобах. Якщо моніторинг збоїв може ефективно працювати без доступу до внутрішнього стану моделі, це означає, що можна створювати більш прозорі та легкі для аудиту системи. Доступ до латентного простору часто пов’язаний із труднощами в інтерпретації та перевірці роботи моделі - його усунення може спростити процес тестування та валідації.
Дослідники пропонують новий протокол оцінки доданої вартості доступу до латентного простору, який можна використовувати для систематичного порівняння різних підходів. Згаданий протокол дозволяє окремо оцінити, чи внутрішнє представлення приносить реальну користь, окрім даних, які можна спостерігати. Цей підхід може бути ключовим для розробки більш ефективних, прозорих і безпечних автономних систем.
У контексті тестування результати показують, що не обов’язково отримувати доступ до внутрішніх станів моделі, щоб оцінити її продуктивність. Це може призвести до простіших і масштабованіших методів валідації, які не потребують спеціалізованих інструментів для аналізу латентного простору.
Обмеження та перспективи.
Дослідження стосувалося лише двох конкретних завдань: генерації векторної карти та планування руху. Не можна однозначно стверджувати, чи ці результати повторюватимуться в інших сценаріях, наприклад, у ситуаціях із високим ступенем невизначеності або при використанні інших архітектур моделей. Крім того, дослідження не включало тестування в реальних умовах на дорозі - усі результати отримано з симуляцій і навчальних даних.
Незважаючи на обмеження, дослідження є важливим кроком до кращого розуміння того, як і коли варто використовувати внутрішні представлення моделей. Воно може сприяти створенню більш ефективних, прозорих і безпечних автономних систем.
Дослідники підкреслюють, що їхній протокол оцінки доданої вартості доступу до латентного простору можна використовувати в майбутньому для систематичного тестування різних підходів. Це відкриває нові можливості для дослідників та інженерів, які працюють над безпекою автономних транспортних засобів.