Sjedite za volanom svog novog, tehnološki naprednog ljubimca. Osjećate se sigurno, okruženi desecima senzora, kamera i radara koji bdiju nad svakim vašim pokretom. No, jeste li ikada osjetili onaj blagi, gotovo nevidljivi otpor u upravljaču kada sustav misli da ste preblizu liniji? Ili onaj nagli, neugodni trzaj kočnica jer je senzor krivo protumačio sjenu na cesti kao prepreku? U tom trenutku, maska pada. Vi više niste jedini zapovjednik svog broda. Vi ste u partnerstvu s nevidljivim entitetom koji ima moć da vas nadglasa, korigira i, u ekstremnim slučajevima, potpuno preuzme kontrolu. Pitanje koje si moramo postaviti je: jesmo li te sustave dobili kao pomoćnike ili smo ih prihvatili kao tihe diktatore?
Prodaja sigurnosti uz cijenu slobode
Sustavi asistencije (ADAS) prodaju se pod parolom apsolutne sigurnosti. “Nula poginulih u prometu” je plemenit cilj kojem teže svi proizvođači. No, put do tog cilja popločan je oduzimanjem ljudske agencije. Svaki put kad dopustimo automobilu da samostalno donosi odluke o putanji ili brzini, mi slabimo vlastitu sposobnost procjene.
U modernoj vožnji, mi smo postali “nadzornici sustava” umjesto aktivnih sudionika. Problem s nadzorom je taj što ljudski mozak nije dizajniran za pasivno promatranje procesa koji zahtijeva brzu reakciju. Kada automobil radi 99% posla, naša pažnja neizbježno opada. Kada se dogodi onaj kritični 1% situacije u kojoj softver ne zna što učiniti, mi smo zatečeni, nepripremljeni i emocionalno isključeni iz procesa vožnje. To nije sigurnost; to je opasna ovisnost o kodu koji ne poznaje etiku, intuiciju niti kontekst.
Algoritam protiv intuicije: Stroj ne razumije cestu
Softver vidi svijet u binarnom kodu. Za njega je pješak skup piksela određene visine, a rupa na cesti je anomalija u dubini. Čovjek, s druge strane, vidi namjeru. Iskusni vozač vidi dijete koje trči za loptom i prije nego što se ono pojavi na cesti; on vidi govor tijela drugog vozača i zna da će ovaj skrenuti bez žmigavca. Ta intuicija je proizvod milijuna godina evolucije i desetljeća iskustva za volanom.
Moderni automobili pokušavaju tu intuiciju zamijeniti grubom procesorskom snagom. Rezultat je često zbunjujuće ponašanje stroja. Sustavi za automatsko kočenje u nuždi (AEB) često reagiraju na parkirane automobile u zavoju ili na metalne ploče na cesti, izazivajući opasne situacije za vozila iza vas. Kada softver pogriješi, on ne osjeća grižnju savjesti. On jednostavno čeka sljedeći podatak. Mi smo ti koji živimo s posljedicama tih pogrešaka.
”Over-the-Air” ažuriranja: Vaš auto se mijenja dok spavate
Jedna od najkontroverznijih značajki modernih vozila je mogućnost ažuriranja softvera na daljinu. Proizvođači to reklamiraju kao način da vaš auto “uvijek bude svjež”. No, to također znači da se karakteristike vašeg automobila mogu promijeniti bez vašeg pristanka. Snaga motora, odziv kočnica, ponašanje upravljača – sve se to može modificirati jednim klikom u centrali brenda.
Zamislite da kupite alat koji sutradan radi drugačije jer je netko u uredu tisuću kilometara dalje odlučio da je tako “bolje”. To je izravan napad na pojam vlasništva. Vi više ne posjedujete fiksni mehanički proizvod; vi posjedujete pretplatu na hardver koji softver kontrolira po volji proizvođača. Ako se proizvođač odluči da određena funkcija više nije dostupna ili da je treba dodatno naplatiti, vi ste nemoćni. Ključevi vašeg automobila su digitalni i nalaze se u tuđem džepu.
Gubitak vještine i mehanizacija čovjeka
Što se više oslanjamo na sustave koji održavaju traku ili razmak, to više gubimo bazične vozačke vještine. Mlađe generacije vozača možda nikada neće naučiti kako ispraviti proklizavanje ili kako osjetiti gubitak prianjanja jer će elektronika to učiniti umjesto njih. No, što kada elektronika zakaže? Što kada senzor prekrije blato, snijeg ili obična naljepnica?
Postajemo mehanizirani. Umjesto da mi diktiramo tempo stroju, mi se prilagođavamo stroju. Vozimo onako kako sustavi dopuštaju, pratimo linije koje senzori vide i postajemo dio automatiziranog lanca. U tom procesu gubimo radost vožnje, onu iskru koja automobil čini simbolom individualnosti. Postajemo samo još jedan podatak u prometnom toku, kontroliran algoritmom koji favorizira predvidljivost iznad svega.
Etika autonomije: Tko odlučuje u trenutku sudara?
Ulazimo u područje gdje programeri postaju suci. U razvoju potpuno autonomnih sustava, softver mora biti programiran kako reagirati u situacijama u kojima je sudar neizbježan. Treba li žrtvovati putnike u vozilu da bi spasio pješaka? Treba li udariti u prepreku ili skrenuti na pločnik?
Kada vi upravljate automobilom, te odluke su stvar vašeg instinkta i trenutne reakcije. Kada to radi softver, to je stvar prethodno napisanog koda. To znači da je netko u laboratoriju već odlučio o ishodu vaše nesreće. To je zastrašujuća razina kontrole nad ljudskim životom. Oduzimanje prava vozaču da reagira u nuždi je oduzimanje osnovnog prava na samoodržanje.
Povratak gospodara za volan
Tehnologija nije loša sama po sebi. Sustavi koji nas upozoravaju na mrtvi kut ili nam pomažu pri kočenju u nuždi su korisni alati. No, oni moraju ostati upravo to – alati. Onog trenutka kada pomoćnik postane nadređeni, izgubili smo bitku.
Na portalu autoklub.net uvijek ćemo zagovarati pravo vozača da ostane vozač. Pozivamo vas da ne dopustite da vas senzori uspavaju. Isključite nepotrebne asistente kada uvjeti to dopuštaju. Vježbajte svoju vještinu. Osjetite mehaniku svog automobila. Budite svjesni da ste vi ti koji ste platili taj stroj i da ste vi ti koji snosite odgovornost za svaki kilometar.
Automobil je instrument slobode, a sloboda zahtijeva budnost. Ne dopustite da digitalni suvozač postane vlasnik vaše sudbine na cesti. Držite volan čvrsto, jer jedini pravi procesor koji može razumjeti ljepotu i opasnost ceste je onaj u vašoj glavi.