為什麼我們不應該禁止殺人機器

在自主交戰時，CIWS執行通常由其它系統和人類執行的功能，包括搜索、探測、威脅評估、獲取、瞄準和摧毀目標。

如果按照聯署者們的邏輯，該系統會落入公開信提供的定義。但你沒聽說過誰反對這些系統。為什麼？因為他們在遙遠的海上作業，而且僅僅是以防萬一有物體以敵對方式接近，通常情況下是在以高速向艦船方向落下。

這就是說，在它們作業的環境和上下文中殺死無辜平民的風險近乎為零，比常規戰鬥小得多。

所以，為什麼我們不能關注規定在最特定和狹窄情況下使用它們的已有法律？

看來，動員了12,000多位個人聯署反殺人機器請願書的真正憂慮不是無需人類干預選擇目標和交戰的機器，而是有知覺機械人的發展。

鑒於過去一個世紀中的技術進步，很容易恐懼有思維的機械人。我們確實在70年間從第一次有動力飛行跳躍到了太空飛行，所以再多有一些時間我們為什麼不能創造出一個真正智能的機械人？(或者只是自主到無法讓一個人類承擔責任，但還沒自主到足以讓機械人自己承擔責任)

有一些很好的理由這永遠也不會發生。一個解釋可能是我們擁有機器就是不能複製的靈魂。雖然這往往是神靈人群的偏好，還有其它自然上的解釋。比如，某些腦部過程本質上是不可計算的或不可算法化的，所以不可能真正複製。

一旦人們理解我們今天可以設想到的任何系統——不管它是否有學習能力或進行高度複雜操作——都是編程和人工智能程序的產物，都能追溯回其程序員和系統設計師，並且我們永遠不會有真正的有思維機械人，應該清楚，對於殺人機械人的全面禁令的論點是站不住腳的。

聯合國禁令幾乎沒有什麼用。只要去問任何一個被新埋下的反人員地雷炸掉一條腿的人就知道。在這件事情上杯具的事實就是「壞人」不會按規矩出牌。

現在你能理解我為什麼改變了主意，我提請殺人機械人請願的聯署者們注意這幾點，重新考慮其立場，並在針對其實只是高度自動化系統的更有效、更實際的監管的爭論中，和我一起加入「黑暗面」。

The Conversation