Tesla Autopilot kazasının detayları kan donduruyor. Kaliforniya’da meydana gelen kazada, bir Apple mühendisi Tesla aracının yoldan çıkıp ona çarpması sonucunda hayatını kaybetmişti.
Aracın sürücüsü ise otomobilin direksiyonu aniden kırarak yolun dışına çıktığını ve yayaya çarptığını anlatmıştı.
Elektrikli otomobil üreticisi Tesla ise kaza sırasında kontrolün sürücüde değil, Autopilot uygulamasında olduğunu doğrulamıştı.
Şimdi ortaya çıkan ifadeler, otonom sürüş konusundaki endişelerin daha da büyümesine neden olabilir. Otonom sürüş konusundaki sakıncaları tartışan bilim insanları, “kimin ölüp kimin kalacağın” yapay zekanın karar vermek zorunda kalacağını savunuyordu. Örneğin, çok hızlı hareket eden bir otomobil, duramayacağını anladığında, direksiyonu hangi yöne kıracağına karar verirken, kimin öleceğini seçmek zorunda da olacak. Burada, daha az yayayı, daha az otomobil sürücüsünü veya kendi sürücüsünü öldürmeyi kabullenmek gibi seçenekler devreye girecek.
2018’de yaşanan kazada da yapay zekanın, önündeki bir engel nedeniyle direksiyonu aniden kırıp yolun dışına çıktığı düşünülüyor. Ya da yanlış bir hesaplama veya sensörlerindeki bir yanlış algılama sonucunda, önünde bir engel olduğunu düşünüp direksiyonu kırmış olması muhtemel.
Aracın önün görmesini ve analiz etmesini sağlayan lazer, radar ve video sensörlerin önüne bir böceğin, kuşun veya bakşa bir nesenin çarpması sonucunda aracın yanlış hesaplamalar yapması da mümkün görünüyor. 2018 yılında, henüz bu teknoloji “yeni” kabul edilirken, mühendisleirn bu tür risklere karşı yeterince önlem almadığı da tahmin ediliyor.
Fiat Chrysler ve AutoX robot taksi üretecek
Ancak Tesla veya diğer otonom sürüş geliştiren şirketler, teknoojinin zayıf yönleri ve riskleri hakkında bilgi vermeyi, özeleştiri yapmayı tercih etmiyor.
Zira bu alana milyarlarca dolarlık yatırım yapılıyor ve şirketler bir an önce kazanç sağlamak için araçların ticari kullanımına izin çıkması için büyük lobi faliyeti yürütüyor.
Öte yandan ABD senatosundaki bazı politikacılar, Tesla Autopilot uygulamasının, ismi nedeniyle sürücüleri yanılttığını savunuyor. Tesla’nın bu uygulamnın ismini sürüş asistanı olduğunu hatırlatacak şekilde değiştirmesi konusunda da büyük baskı var. Zira pek çok sürücü, Autoplilot’un otomobili tek başına kontrol edip sürmeye yeterli, yasal bir otonom sürüş teknolojisi olduğunu düşünüyor. Oysa dünyadaki en gelişmiş otonom sürüş teknolojisi bile henüz sürüş sırasında sürücünün direksiyon kontrolünü bırakmasına %100 izin vermiyor.