人工智慧讓更多武器"自動化", 人類會自我毀滅嗎? (上)

人工智慧讓更多武器"自動化", 人類會自我毀滅嗎? (上)

 

為何我們會想寫這篇文章?

隨著 AI 人工智慧的發展,越來越多「自動化武器」問世,美國國防部也著急的想將 AI 大規模投入軍事用途。但它們究竟是保護人類的盾牌?還是毀滅人類的武器?面對讓人不安的「自動機器」時代,我們能做的是……

為什麼 Google 也怕了?要對美國國防部說 NO?

【影片一】「Project Maven」是美國軍方的實驗性計畫,利用人工智慧技術分析無人機所拍攝的畫面

(影片來源:Defense One Production)

去年六月的某個週五,Google Cloud 的執行長在例會上宣布:「Google 將在這次合約到期後,結束與美國國防部合作的專案「Project Maven」,不續約,也不會參與國防部的新標案《聯合企業防禦基礎設施》。」這等於直接放棄了價值100億美元的新合約。

「Project Maven」是利用 Google 的雲端 AI 技術,替國防部分析無人機拍攝的畫面,其中也包括臉部辨識。即使公司高層辯稱 Project Maven 僅會用於拯救生命與非攻擊性任務,但員工依然認為這項專案會助長軍事監控、嚴重地侵犯了人權;大喊「Google 不應該發戰爭財!」並引用公司行為守則內「Don't be evil」,超過 4000 名員工連署要求 Google 退出該專案,並有包含高階工程師在內的多名員工憤而離職。

這是 Google 從 20 年前創立以來最大的辭職風波,在內部反對和外界輿論的壓力下,Google 最終作出妥協,放棄了國防部的訂單。

然而,該擔憂 AI 人工智慧 技術的,恐怕不只 Google 員工,是我們每個人都要思考的難題。

人工智慧 會殺人?!AI的潛在風險

【影片二】美國空軍退役上校 Gene Lee 是美軍中的頂尖飛行員 (top gun pilot) ,去年六月與人工智慧「Alpha」進行模擬戰鬥,結果經過多次的交戰,「人類」陣營的戰機連番被擊落,而「人工智慧」陣營的戰機則自始至終都沒有折損一架飛機

 

(影片來源:CNBC)

在世經論壇的年度風險報告中,曾特別點出雖 AI 使用在國防軍事上逐漸增多、且已經有大量資金投入「自主武器」的研發,卻幾乎沒有規範限制。隨著這些「殺人 AI」的思考能力逐漸超越人類,危及人類生存的日子指日可待。

事實上,美國空軍「Top Gun」-退役空軍上校 Gene Lee,不但擁有高超的飛行技術、也是頂尖空中戰術專家,就已完全慘敗給 AI。

辛辛那提大學與美國空軍共同研發的空戰專門模擬 AI 「Alpha」,除了能操控無人戰鬥機、模擬戰鬥場面、部屬作戰計劃外,有任何突發狀況都能在一毫秒內完成演算。

去年六月,Gene Lee 與 Alpha 進行模擬戰鬥,結果經過多次的交戰,「人類」陣營的戰機連番被擊落,而「 AI 人工智慧」陣營的戰機則從開戰到結束都沒有折損一架飛機,完美地守住海岸線。

Lee 說:「它似乎知道我的意圖,在我改變飛行和部屬飛彈後立即做出反應。」多次模擬後仍無法打下一架飛機,甚至被擊落好幾次。

目前 Alpha 還只是在實驗室中打模擬戰,但它或許有一天會被帶上真正的天空,運用在國與國之間的戰爭,帶來更多的死亡。

接下集「美國將AI納入軍用!到底人工智慧會成為人類救星還是殺人機器?(下)」,進一步介紹是哪間 AI 公司接手 Google 承接美國國防部的人工智慧軍武專案,以及濫用人工智慧於武器上,未來可能導致的致命結局。面對讓人不安的「自動機器」時代,我們能做的是……

 

 

 

推薦閱讀:

 

連google都怕了! 美國軍方實驗人工智慧武器 (下)

麥當勞AI員工試跑, 人工智慧幫你點餐, 還能炸雞塊!

愛迪生是發明家還是奸商? 沒有他就沒有人工智慧-特斯拉(1)

人工智慧學習三階段, 如何成為人類更能幹的助手?

暑假快到了!與其讓兒子盲目拚學測,我寧可讓他先選擇人生方向~

挑對Java課程,讓你從零起點到獨當一面的工程師只需六個月!

搶救低薪大作戰,再不來上Java課程就來不及了!

arrow
arrow

    uidesignxiaoshow 發表在 痞客邦 留言(0) 人氣()