bağlantılarına araç hareket halindeyken
kilometrelerce uzaktan erişerek,
sileceklerinden ses sitemine kadar
her türlü donanımına müdahale edip
aracın motorunu durdurmayı başardı.
Uzmanlar, test amacıyla yapılan bu
müdahale sonrasında üretici ile iletişime
geçip güvenlik açıklarının kapatılması
hususunda uyarıda bulundu.
Bir Parad o ks . . .
Sürücüsüz araçlarla ilgili çözümlenmesi
gereken belki de en önemli husus, bu
araçların, ölümlü ya da yaralamalı
trafik kazalarına sebebiyet
vermeleri durumunda
cezai sorumlunun nasıl
tespit edileceğidir.
Klasik araçlar trafik
kazasına karıştığı
zaman sürücünün
kusur oranının
tespiti araştırma
ve yargılamadan
sonra ortaya
çıkar. Fakat bu
tespit, otonom
araçların herhangi bir
trafik kazasına karışması
durumunda aracın her türlü
hareketini kaydeden veri tabanları
kontrol edilerek yapılacaktır. Trafik
kazasının nasıl meydana geldiği, aracın
hangi alternatifler arasında tercih
yaptığı sadece bu yazılımın verilerinin
tutulduğu veri tabanına bakılarak
mümkün olacaktır. Çünkü otonom
araçların trafik kazasına karışması ile
meydana gelecek muhtemel durumların,
daha önceden senaryolar halinde
yazılımın içine yerleştirilmesinden
dolayı otonom aracın herhangi bir riskle
karşılaşması durumunda tercihinin
ne olacağının bilinmesi mümkündür.
Yazılımı geliştiren mühendisler bu
14
durumları hesaplayarak yazılımda
gerekli kodlamaları yapacak, otonom
araçlar ise riskle karşılaştıklarında
daha önceden kendisine öğretilen
şekilde davranarak bir hareket tarzı
ortaya koyacaktır. Görünüşte bu tercih
otonom araç tarafından yapılsa da bu
yazılımı geliştiren mühendisler araçların
tercihlerini yani “karakterini” bizzat
belirlediklerinden, yapacakları tercihler
etik ve hukuk kuralları açısından oldukça
önemlidir.
Araç o kadar hızlıdır ki, durmak için bu
gruba çarpmak zorundadır. Eğer araç
hemen bir hamle yapmazsa gruptaki
tüm insanlara çarpıp öldürecektir. Ama
aracın bir şansı daha vardır. Yan taraftaki
kaldırıma çıkarak insan grubuna çarpmayı
önleyebilir fakat bu sefer de kaldırımda
olayla hiç ilgisi olmadan yürüyen bir
yayayı öldürecektir. Araç ne yapmalıdır?”
Örneğin, otonom araçlar bazı
zamanlarda “yaralamayı” ya
da “öldürmeyi” tercih
edebileceklerdir.
Karıştıkları kazalarda
kendilerine öğretilen
alternatifler arasında
değerlendirme
yaparak bir tercih
yapmak zorunda
kalacaklardır.
Bir yazılımın
tüm veri akışını
yönetip akıllı bir
karar vermesini
sağlamak, aldığı
kararların doğruluğu
ve yanlışlığından ders
çıkarıp karar mekanizmasını
iyileştirmek ve etik ikilemler karşısında
nasıl hareket etmesi gerektiğini
öğretmek hiç de kolay değil. Konunun
bu kısmıyla ilgili, onlarca yıldır her
kesimden bilim insanını düşündüren bir
paradoks var: “Vagon açmazı” (Trolley
Problem). Bu dilemma, felsefede zaten
var olan bir problemdir ancak sürücüsüz
araçlar bu problemin farklı bir versiyonla
tekrar gündeme gelmesine sebep oldu.
Paradoksun yeni hali şöyle:
Tamamen vicdani bir sorgu üzerinden
giden bu paradoks, yapay zekânın insani
değerler karşısındaki çözümsüzlüğünü
ortaya koyar. Ancak biz aracın
durdurulmasının mümkün olmadığını,
kazanın mutlaka meydana geleceğini
varsayarak olaya hukuken bakalım.
Aracın, önünde olan ve her durumda
çarpacağı bu gruba çarpması taksirli bir
cinayeti; gruba çarpmamak için istikamet
değiştirerek yalnız olan kişiye çarpıp o
kişinin ölümüne sebebiyet vermesi ise
kasten adam öldürme olarak
ifade edilecektir. Bu
durum başka bir
ifade ile
“kasıtlı
hata” şeklinde de izah edilebilir. Bu
paradoksun sonucu ne olursa olsun yine
aynı soru karşımıza çıkacak: Durum ne
olursa olsun cezai sorumlu kim olacak?
Otonom araçlar ne kadar test edilirse
edilsin, bu tür hesaplanamayan ihtimaller
ortaya çıkacaktır. Senaryoları yapay
zekâya yükleyen mühendisler mutlaka ilk
akla gelen vakaları düşünecektir. Tüm bu
tartışmanın ışığında Volvo şirketi, ürettiği
otonom araçlardan kazaya karışan olursa
tüm sorumluluğun kendisinde olduğunu
beyan etti. Ama otonom araçlarla
ilgili genel bir yasal düzenlemenin
belirlenebilmesi için halen uzun bir
zamana, belki de deneyime ihtiyaç var.
Otonom arabalarda bulunan birçok
sensör bu teknolojinin esas ögelerini
oluşturuyor. Ancak sensörlerin kalitesi
ve verdiği sonuçların doğruluk oranı
fiyatlarıyla doğru orantılı. Yani, otonom
bir aracın doğru karar verip güvenle
yol alması bu sensörlerin yüksek
kalitesine bağlı olduğundan, insan hayatı
da üreticilerin pek hoşuna gitmeyen
pahalı cihazlara bağlı. Dolayısıyla son
teknolojiye sahip olmayan, görece ucuz
sistem elemanlarının kullanımı, insan
hayatını tehlikeye sokabilir. Bu durumda,
otomobili, halkın karşılayabileceği bir
fiyata mal etmek ile halkın emniyetini
maksimum seviyede tutmak arasındaki
denge nasıl sağlanacaktır?
“Sürücüsüz bir araç yolda yüksek bir
hızla hareket halindedir. Yolun tam
ortasına aniden bir grup insan çıkar.
15