Zdá sa, že takzvané „samoriadiace“ funkcie vozidiel Tesla majú vážne problémy s vlakovými traťami. Najnovší incident z Pensylvánie v USA viedol ku kolízii s pohybujúcim sa nákladným vlakom po tom, ako sa vozidlo v režime asistovanej jazdy rozhodlo odbočiť priamo na koľajnice. Téme sa venuje Futurism.
Tesla si to namierila rovno na koľajnice
Podľa informácií miestnej televízie WFMZ bola trojčlenná rodina nútená v skorých ranných hodinách opustiť svoju Teslu po tom, ako vozidlo s aktívnym asistenčným systémom samo odbočilo doľava na vlakovú trať. Hasičský komisár Jared Renshaw pre televíziu uviedol, že auto bolo v „samoriadiacom“ režime. Hoci to nebolo potvrdené, s najväčšou pravdepodobnosťou išlo o kontroverzný softvér „Full Self-Driving“ (FSD), ktorý je spájaný s vysokou nehodovosťou vozidiel Tesla v USA.
Pár minút po tom, ako rodina z auta bezpečne vystúpila, sa po susednej koľaji prirútil vlak. Ten bol od zle zaparkovanej Tesly vzdialený len pár centimetrov a zľahka ju zasiahol, pričom poškodil najmä spätné zrkadlo. Vďaka tomu, že posádka už bola mimo vozidla, nikto sa nezranil.
Komplikované vyslobodzovanie
Hoci škody na karosérii boli minimálne, odstránenie vozidla z koľajníc bol podľa WFMZ komplikovaný proces. Teslu museli zdvihnúť pomocou žeriavu. Dôvodom boli obavy, že pri pokuse o jej naloženie na odťahovú plošinu by mohlo dôjsť k poškodeniu vysoko horľavej lítium-iónovej batérie. Takéto poškodenie môže viesť k masívnemu a extrémne horúcemu požiaru, ktorého uhasenie si vyžaduje desiatky tisíc litrov vody.
Hasičský komisár Renshaw vysvetlil, že hoci už v minulosti zasahovali pri nehodách vozidiel Tesla, toto bol prvý prípad v jeho praxi, kedy vodič uviedol, že v čase nehody bolo vozidlo v režime autonómnej jazdy.
Problémový softvér aj v Robotaxi
Tento incident opäť otvára otázky o bezpečnosti softvéru FSD, ktorý je základom aj pre nedávno spustenú službu Robotaxi v texaskom Austine. Práve nedokonalosti tohto systému sú podľa kritikov dôvodom, prečo je spustenie tejto služby sprevádzané mnohými problémami a nebezpečnými situáciami.
Technológia pokročila, no nie je dokonalá
Hoci sú tieto systémy fascinujúcim kusom technológie, v súčasnosti nejde o plne autonómne riadenie, ale len o veľmi pokročilé asistenčné systémy (tzv. Level 2 autonómie). To znamená, že stále vyžadujú neustálu a plnú pozornosť vodiča, ktorý musí byť pripravený kedykoľvek okamžite prevziať riadenie.
Umelá inteligencia je trénovaná na obrovskom množstve dát z bežnej premávky a dokáže skvele zvládať 99 % štandardných situácií, ako je jazda po diaľnici alebo v kolóne. Zlyháva však práve v tom jednom percente prípadov, ktoré sú neobvyklé, chaotické alebo jednoducho nie sú v jej tréningových dátach.
Môže ísť o dočasné semafory na stavbe, zložité gestá policajta riadiaceho križovatku, zvláštne odrazy svetla alebo, ako vo vyššie opísanom prípade, o bizarné rozhodnutie odbočiť na vlakové koľajnice. Človek dokáže v takejto situácii improvizovať, no systém založený na algoritmoch môže urobiť fatálnu chybu.
S tým úzko súvisí fakt, že týmto systémom chýba ľudská intuícia a schopnosť chápať kontext. Riadenie auta nie je len o sledovaní čiar a prekážok, je to aj sociálna interakcia. Skúsený vodič dokáže nadviazať očný kontakt s chodcom a predvídať, že sa chystá vstúpiť na prechod, aj keď ešte stojí na chodníku. Vie, že plastové vrece letiace cez cestu je neškodné, ale rovnako veľká krabica môže spôsobiť nehodu. Súčasná umelá inteligencia tento „zdravý rozum“ a schopnosť čítať jemné sociálne signály nemá.
Obrovským rizikom je aj zavádzajúci marketing a samotný názov „Full Self-Driving“. Tento názov v používateľoch evokuje falošný pocit bezpečia a mylne ich utvrdzuje v tom, že auto sa dokáže riadiť úplne samo. To vedie k nebezpečnej strate pozornosti a k tomu, že vodiči sa prestanú venovať riadeniu, hrajú sa s telefónom alebo dokonca spia. Práve vtedy, keď vodič prestane systém kontrolovať, dochádza k najväčšiemu počtu nehôd, pretože systém zlyhá v nečakanej situácii a človek už nestihne zareagovať.
