Samochody z epilepsją? Jak światła awaryjne dezorientują systemy automatycznej jazdy

Światła awaryjne mogą zakłócać systemy jazdy autonomicznej, powodując błędy detekcji. Naukowcy opracowali „Caracetamol” w celu rozwiązania tego problemu, co rzuca światło na szersze obawy dotyczące bezpieczeństwa AI.

Nowe badania sugerują, że systemy automatycznego prowadzenia pojazdów oparte na kamerach, zaprojektowane w celu zwiększenia bezpieczeństwa jazdy, mogą nie rozpoznać obiektów na drodze, gdy są narażone na migające światła awaryjne. Stwarza to znaczne ryzyko, jak po raz pierwszy zgłosił WIRED.

Badacze z Uniwersytetu Ben-Guriona w Negev oraz z Fujitsu Limited odkryli zjawisko nazywane „cyfrowym napadem padaczkowym” lub „epilepticar”.

Jak informuje WIRED, ten problem powoduje, że systemy mają trudności z identyfikacją obiektów w synchronizacji z migającymi światłami pojazdów uprzywilejowanych, szczególnie w ciemnościach. Ta wada mogłaby sprawić, że pojazdy korzystające z takich systemów błędnie zidentyfikują lub nie wykryją samochodów lub innych przeszkód, co zwiększa prawdopodobieństwo wypadków w pobliżu miejsc zdarzeń awaryjnych.

Studium zostało zainspirowane doniesieniami o pojazdach Tesla z funkcją Autopilot, które zderzały się ze stacjonarnymi pojazdami awaryjnymi w latach 2018-2021.

Chociaż badania nie łączą bezpośrednio tego problemu z systemem Tesli, wyniki podkreślają potencjalne słabe punkty w technologii wykrywania obiektów opartej na kamerach, co stanowi kluczowy element wielu systemów jazdy autonomicznej – zauważa WIRED.

Eksperymenty korzystały z pięciu komercyjnych kamer samochodowych z funkcjami autonomicznej jazdy i przeprowadzały ich obrazy przez otwarte detektory obiektów.

Badacze zauważają, że te systemy mogą nie odzwierciedlać tych używanych przez producentów samochodów i przyznają, że wiele pojazdów wykorzystuje dodatkowe sensory, takie jak radar i lidar, aby zwiększyć wykrywanie przeszkód, jak donosi WIRED.

Amerykańska Narodowa Administracja Bezpieczeństwa Ruchu Drogowego (NHTSA) również przyznała, że istnieją wyzwania związane z zaawansowanymi systemami wspomagania kierowcy (ADAS) reagującymi na sygnały awaryjne, informuje WIRED.

Jednakże, jak donosi WIRED, badacze zaznaczają, że nie twierdzą o bezpośrednim związku między ich odkryciami a wcześniejszymi wypadkami Tesla. Aby rozwiązać problem, zespół opracował rozwiązanie oprogramowania o nazwie „Caracetamol”, które poprawia zdolność detektorów obiektów do identyfikacji pojazdów z migającymi światłami.

Eksperci tacy jak Earlence Fernandes z UC San Diego postrzegają takie rozwiązanie jako obiecujące, jednak Bryan Reimer z MIT’s AgeLab ostrzega przed szerszymi obawami.

Podkreśla konieczność solidnego testowania, aby wyeliminować niewidoczne obszary w systemach jazdy opartych na sztucznej inteligencji (AI), ostrzegając, że niektórzy producenci samochodów mogą rozwijać technologię szybciej, niż są w stanie ją zweryfikować, jak donosi WIRED.

Studium podkreśla złożoność zapewnienia bezpieczeństwa w zautomatyzowanej jeździe i apeluje o dalsze badania w celu złagodzenia takich ryzyk.