|
0 _ i4 B" K& B, Q1 u+ X) d不管說得多么高級,用多么復雜的辭藻來描述,都不能回避一個問題,你所描述的技術有沒有約束?所有的自動化產線,都有安全裝置,包括但不限于自動急停裝置,警報等,而且大部分都有安全柵欄,一旦有人打開一扇門,不管是不是會造成潛在的危險,產線自動停止。目的就是避免出現任何意外,這個意外就是在程序設計中沒有考慮到的情況。這是設計本質是就是把環境規范得越簡單越好,越單純越好。
( n2 V% h* G! j. \, ^+ cai能夠滿足人類得無線期待嗎?能夠處理任何意外嗎?永遠不能。如果出現了意外,誰來承擔后果呢?比如智能駕駛,車掉進了馬路中央的處于緊急維修中的溝里面,誰來承擔責任?修路的?還是車主?還是生產汽車的公司?恐怕大家都想讓汽車公司承擔責任吧。任何一個汽車公司都要倒閉。福特裁撤自動駕駛部門停止自動駕駛的研發就是因為試驗車出了幾次事故才放棄的。
2 Q2 t4 A. O0 c0 K. H由于不能預判將來會發生的不可預知的事件,也就無法預判引起的反應和后果是什么,這必然會導致將來發展ai必須有邊界和約束,否則就是人類設計的ai反過來毀了人類自己。. B9 X1 k) m6 C& g* o! _
這是悖論,但是很顯然,這是真的。: B- Y( }/ K. q( z+ D8 L
|
|