韓國(guó)機(jī)器人武器研發(fā)

2018-04-06 20:24?來(lái)源 綜合網(wǎng)易

韓國(guó)機(jī)器人武器

　　韓國(guó)機(jī)器人武器：據(jù)外媒報(bào)道，韓國(guó)科學(xué)技術(shù)院與韓國(guó)韓華系統(tǒng)公司合作，開(kāi)設(shè)人工智能研發(fā)中心，研發(fā)適用于作戰(zhàn)指揮、目標(biāo)追蹤和無(wú)人水下交通等領(lǐng)域的人工智能技術(shù)。

　　機(jī)器人武器研發(fā)引起業(yè)內(nèi)專(zhuān)家的廣泛擔(dān)憂，目前，30個(gè)國(guó)家和地區(qū)的人工智能及機(jī)器人專(zhuān)家宣布將抵制研究人工智能武器的韓國(guó)科學(xué)技術(shù)院（KAIST），這由澳大利亞新南威爾士大學(xué)人工智能教授托比·沃爾什發(fā)起，美國(guó)和日本等30個(gè)國(guó)家和地區(qū)的研究人員4日簽署了一封公開(kāi)信，敦促韓國(guó)科學(xué)技術(shù)院停止人工智能武器研發(fā)，他們稱(chēng)這是加速機(jī)器人武器開(kāi)發(fā)競(jìng)爭(zhēng)的動(dòng)向，令人遺憾，并表示如果該大學(xué)不承諾停止研發(fā)，將與之?dāng)嘟^關(guān)系，而且將拒絕訪問(wèn)韓國(guó)科學(xué)技術(shù)院、接待對(duì)方訪客或與對(duì)方合作研究項(xiàng)目，直至這所韓國(guó)頂尖大學(xué)承諾放棄研發(fā)缺少“有效人工控制”的武器。

　　聯(lián)名信中寫(xiě)道：“自動(dòng)武器一旦成熟，戰(zhàn)爭(zhēng)發(fā)展速度和規(guī)模將前所未有，它們可能會(huì)被恐怖分子利用。”發(fā)起聯(lián)名抵制的人工智能教授沃爾什告訴路透社記者，機(jī)器人和人工智能技術(shù)實(shí)際可以在軍事領(lǐng)域發(fā)揮有利作用，比如完成掃雷等威脅人類(lèi)安全的任務(wù)，但我們不能將決定生死的權(quán)力交給機(jī)器，這就越過(guò)道德底線。

　　無(wú)獨(dú)有偶，Google內(nèi)部流傳著一封聯(lián)名信，有3100多人在上面簽名，抗議谷歌為五角大樓提供人工智能力量，谷歌的員工希望谷歌CEO退出五角大樓的代號(hào)為Maven的項(xiàng)目，并宣布“永不開(kāi)發(fā)戰(zhàn)爭(zhēng)技術(shù)”的政策。

　　業(yè)界評(píng)論認(rèn)為，這家硅谷巨頭和美國(guó)政府之間的文化沖突將就此凸顯出來(lái)。

韓國(guó)機(jī)器人武器

　　不僅僅只有聯(lián)名抵制韓國(guó)和抵制美國(guó)五角大樓，其實(shí)，早在今年3月，來(lái)自14個(gè)組織的26名研究人員對(duì)惡意AI所造成的危險(xiǎn)進(jìn)行了全面的報(bào)告。

　　他們?yōu)槠趦商斓臅?huì)議產(chǎn)出了一份長(zhǎng)達(dá)100頁(yè)的報(bào)告，內(nèi)容是關(guān)于人工智能不良應(yīng)用所帶來(lái)的風(fēng)險(xiǎn)以及降低這些風(fēng)險(xiǎn)的策略，工作組提出的四項(xiàng)建議中，有一項(xiàng)是“人工智能的研究人員和工程師應(yīng)當(dāng)謹(jǐn)慎對(duì)待其工作的雙重使用特性，在研究的優(yōu)先級(jí)和規(guī)范中考慮相關(guān)使用不當(dāng)所產(chǎn)生的影響，并在有害應(yīng)用程序可預(yù)見(jiàn)時(shí)主動(dòng)聯(lián)系相關(guān)的參與者。”

　　這一建議尤其適用于最近興起的“deepfakes”，主要把機(jī)器學(xué)習(xí)用于將好萊塢女演員的臉換接到色情演員的身體上（制作人工合成的假色情片），由Motherboard的Sam Cole最先報(bào)道，這些deepfakes是通過(guò)改編一個(gè)名為T(mén)ensorFlow的開(kāi)源機(jī)器學(xué)習(xí)庫(kù)來(lái)實(shí)現(xiàn)的，該庫(kù)最初由谷歌工程師開(kāi)發(fā)，Deepfakes強(qiáng)調(diào)了機(jī)器學(xué)習(xí)工具的雙重使用特性，同時(shí)也提出了一個(gè)問(wèn)題：誰(shuí)應(yīng)該使用這些工具？

　　盡管報(bào)告中特別提到了Deepfakes，研究人員還強(qiáng)調(diào)了將這種類(lèi)似的技術(shù)用于處理世界領(lǐng)導(dǎo)人視頻所產(chǎn)生的危害，這會(huì)對(duì)政治安全構(gòu)成威脅，這是研究人員考慮到的三大威脅領(lǐng)域之一，人們只需想象出一段虛假的視頻，比如特朗普宣戰(zhàn)以及由此引發(fā)的后果，就會(huì)明白這種情況的危險(xiǎn)性。此外，研究人員還發(fā)現(xiàn)，通過(guò)數(shù)據(jù)分析和大規(guī)模有針對(duì)性的宣傳，利用人工智能技術(shù)，能實(shí)現(xiàn)前所未有的大規(guī)模監(jiān)控，這是對(duì)政治領(lǐng)域考量的另一個(gè)側(cè)面。

　　另外兩個(gè)被認(rèn)為是惡意人工智能的主要風(fēng)險(xiǎn)領(lǐng)域是數(shù)字和物質(zhì)安全（physical AI?security）。

　　在數(shù)字安全方面，使用人工智能進(jìn)行網(wǎng)絡(luò)攻擊將“緩解現(xiàn)有的攻擊規(guī)模和效率之間的權(quán)衡。”大規(guī)模的網(wǎng)絡(luò)攻擊可能會(huì)以人工智能的形式進(jìn)行，比如大規(guī)模的網(wǎng)絡(luò)釣魚(yú)，或者更復(fù)雜的攻擊形式，比如使用語(yǔ)音合成來(lái)模擬受害者。

　　在物質(zhì)AI威脅方面，研究人員觀察到物質(zhì)世界對(duì)自動(dòng)化系統(tǒng)越來(lái)越依賴(lài)，隨著更多智能家居和自動(dòng)駕駛汽車(chē)上線，人工智能可能被用來(lái)顛覆這些系統(tǒng)，并造成災(zāi)難性的破壞。此外，還有故意制造惡意人工智能系統(tǒng)所帶來(lái)的威脅，比如自動(dòng)化武器或微型無(wú)人機(jī)。

　　其中一些場(chǎng)景，比如微型無(wú)人機(jī)所帶來(lái)的災(zāi)難，似乎還很遙遠(yuǎn)，而其他的一些，比如大規(guī)模網(wǎng)絡(luò)攻擊、自動(dòng)化武器和視頻操控等，已經(jīng)引發(fā)了一些問(wèn)題。為了應(yīng)對(duì)這些威脅，并確保人工智能被用于造福人類(lèi)，研究人員建議開(kāi)發(fā)新的政策解決方案，并探索不同的“開(kāi)放模式”以降低人工智能的風(fēng)險(xiǎn)。例如，研究人員認(rèn)為，中央訪問(wèn)許可模式（central access licensing models）可以確保人工智能技術(shù)不會(huì)落入壞人之手，或者建立某種監(jiān)控程序來(lái)密切記錄人工智能資源的應(yīng)用途徑。

　　報(bào)告寫(xiě)道：“目前的趨勢(shì)強(qiáng)調(diào)了對(duì)前沿研究和發(fā)展成果的廣泛開(kāi)放，如果這些趨勢(shì)在未來(lái)5年持續(xù)下去，我們預(yù)期攻擊者用數(shù)字和機(jī)器人系統(tǒng)造成危害的能力會(huì)顯著提高。”另一方面，研究人員認(rèn)識(shí)到，開(kāi)源人工智能技術(shù)的擴(kuò)散也將越來(lái)越多地吸引決策者和監(jiān)管機(jī)構(gòu)的注意，他們將對(duì)這些技術(shù)施加更多限制，至于這些政策應(yīng)該具體采取何種形式，必須從地方、國(guó)家和國(guó)際層面上加以考量。

　　報(bào)告總結(jié)說(shuō)：“這份報(bào)告的合著者之間仍然存在許多分歧，更不用說(shuō)世界上不同的專(zhuān)家群體了，隨著各種威脅和反饋被發(fā)現(xiàn)，在我們得到更多的數(shù)據(jù)之前，這些分歧不會(huì)得到解決，但這種不確定性和專(zhuān)家分歧不應(yīng)阻止我們?cè)诮裉毂M早采取預(yù)防措施。”

編輯： yujeu