Hukuki yapay zeka bir anonim şirket genel kurul kararının objektif iyi niyet kurallarına aykırı olup olmadığını sadece ezbere kendisine yüklenen şablona göre değerlendirebilir. Bir kimsenin iyi niyetli olup olmadığını, hakkın kötüye kullanımından söz edilip edilemeyeceğini analiz edemez.

“Yapay zeka nedir?” diye sorulduğunda, en yalın tabiriyle, bir yazılım programının insanların sahip olduğu öğrenme, mantıksal düşünme, planlama ve yaratıcılık gibi insani yetenekleri taklit etme yeteneğidir, diye tanımlanıyor. Yapay zeka, kendisine verilen veya kendisinin, örneğin sensörleri, kameraları aracılığıyla algıladığı verileri alır, işler, analiz eder ve tepki verir.

Dolayısıyla yapay zeka önceden hazırlanmış ve kendisine verilmiş bilgiler çerçevesinde ve sadece onlarla sınırlı olarak analiz yapabilir ve tepki verir. Sonuçta yapay zeka kendisine önceden yüklenmiş veriler ve bilgiler olmadan çalışamaz. Ancak öğrenme yeteneği de yüklenebilir; bu da şu demektir; yapay zeka her algıladığı ve topladığı bilgi ve verileri de önceden kendisine yüklenmiş bilgilere katarak kendisini geliştirebilir.

Yapay zeka kontrollü olmazsa, gerçekten ürkütücü olabilir. Her ne kadar Tesla tarafından doğrulanmış olmasa da, Tesla üretim tesislerinde bir robotun bir mühendise saldırdığı ve yaraladığı söylentileri sosyal medyada epey yer buldu. Terminatör filmindeki insan üstü T-1000 robotların insanlığı yok etme çabaları gibi konuları işleyen filmler az değil. Futuristler birçok bilim-kurgu filmindeki unsurların gerçek olacağını söylerken, buna sadece pozitif yönden bakmamak gerek, insanlara saldıran, doğayı ve yaşamı yok edebilecek robot ve yapay zekaların da ortaya çıkabileceğini, işlerin oraya da evrilebileceğini öngörmek gerek. Nitekim onların biz canlılar gibi, hava ve suyu olan, atmosferi olan bir dünyaya ihtiyaçları yok.