由于人工智能產(chǎn)生不確定性風險的可能性過高，因此任何
研究
、開發(fā)人工智能技術的人，都應該對其研發(fā)負起相關責任。
在一些人工智能 研究 專家的眼中，當前人類對人工智能技術的研發(fā)，就像小孩子在玩弄炸彈一樣危險。在這一方面，擁有特斯拉、OpenAI、SpaceX等多家企業(yè)的美國企業(yè)家埃隆·馬斯克，就是這方面的典型。其公司OpenAI最近聯(lián)合牛津大學、劍橋大學等多家機構發(fā)布了一份報告，該報告調(diào)查了惡意使用人工智能的潛在安全威脅圖景，并提出了多種預測、預防和緩解威脅的方式。
人工智能的不確定性讓人恐懼
概括來說，報告認為未來人工智能對人類造成的威脅主要包括三種類型，一是擴展或升級了人類面臨的現(xiàn)有威脅，使這些威脅的實現(xiàn)手段更加容易，成本更低；二是制造出新的威脅，這些威脅因人工智能的出現(xiàn)才產(chǎn)生；三是威脅的典型特征發(fā)生改變。
毫無疑問，人類當前正處于人工智能黃金時代來臨前的黎明，諸如Siri、Alexa等數(shù)字私人助理的出現(xiàn)，自動駕駛車輛以及諸多有意義的、超越人類能力的算法都在幫助人類在社會、經(jīng)濟等多個領域內(nèi)更好地實現(xiàn)目標。
但與其他許多科技 行業(yè) 不同，這一領域的 研究 不受正式安全法規(guī)或標準的約束，導致人們擔心人工智能最終可能脫離人類控制的軌道，成為負擔而不是利益。常見的恐懼包括人工智能取代人類工作者，剝奪我們的權利，并對我們的生存構成威脅。后者是馬斯克成立OpenAI、SpaceX等公司的重要原因。
從這份報告的內(nèi)容來看，人工智能對人類帶來的威脅，可以簡化為兩種。一種是對現(xiàn)在威脅的擴展與升級。這種威脅事實上并不是最大的威脅。它的攻擊屬性和目標仍然是清晰的，只是借助于人工智能技術，使它實現(xiàn)的方式和手段更為高級、有效以及精準。這種可預測的威脅，只要通過升級或研發(fā)相應的技術和防御方式，基本上可以被解決。
但人工智能真正令人恐懼的，在于其不確定性。從目前已有的人工智能技術來看，人工智能技術似乎只是對過去其他科學技術的升級。但實際上顯然并非如此，它并不像電力對蠟燭之類的替代一樣，甚至它可以實現(xiàn)更多的自主決策。并且這種決策的過程，可能是人類無法控制的。目前被廣泛應用的深度學習算法即是一例。因此，為了解決深度學習的“黑箱”決策過程，許多 研究 者也試圖借助其他手段來打開這個“黑箱”。但人工智能存在的“黑幕”遠不止于此。
而這也是OpenAI報告中提出的應對策略并不那么讓人信服的地方。面對許多不確定性的存在，任何過于具體的應對防范措施都將可能顯得過于狹隘、無效。但即便如此，我們卻也不得不積極地尋求潛在的解決辦法，而不是被動地等待變化。
以“價值對齊”防范AI潛在威脅
值得重視和關注的是，過去一再被提及的“技術沒有價值觀”的中立原則，在人工智能技術上并不可行。由于人工智能產(chǎn)生不確定性風險的可能性過高，因此任何 研究 、開發(fā)人工智能技術的人，都應該對其研發(fā)負起相關責任，而不是以諸如“我只是在制造工具，好壞由使用的人決定”來推卸責任。
雖然目前全球各國、企業(yè)及 研究 者對于人工智能該如何控制、如何發(fā)展并未達成共識，但“價值對齊”是一條被普遍認可的標準，即人工智能的發(fā)展不能與人類的價值觀相悖。
無論如何，即使上述的 分析 在面對充滿不確定性風險的人工智能令人感到沮喪，這卻是當前人類面對人工智能的現(xiàn)實。因此，在產(chǎn)生更加有效和令人信服的策略來解決人工智能潛在威脅之前，保持人類控制，明確研發(fā)人工智能技術的責任，價值觀一致，確保人工智能對人類的發(fā)展與繁榮有益，通過多次迭代人工智能技術而非一蹴而就的開發(fā)，持續(xù)討論、關注各種人工智能發(fā)展，是目前防范人工智能潛在不利一面的最基本方法。
而這也就要求，人類需要為此成立相應的管理機構，深入掌握全球人工智能的活動并及時制定相關的政策，確保人類安全和現(xiàn)有秩序的穩(wěn)定。在這一方面，要求各國政府官員，加深對人工智能的了解，不能僅僅局限于人工智能可能對人類工作崗位的取代等諸如此類的簡單議題。
網(wǎng)站地圖
- 單位信息
- 單位地址：北京市西城區(qū)國宏大廈23層
郵政編碼：100038
開戶銀行：北京建行萬豐支行
銀行賬號：1100 1042 4000 5300 0736
聯(lián) 系 人：李春風 梁娜
聯(lián)系電話：010-65067990 65067996
圖文傳真：010-65066990
單位信箱：[email protected]
全國統(tǒng)一咨詢電話：4008790365
- 產(chǎn)品分類
- 煤炭
- 石油
- 天然氣
- 鐵礦
- 金屬礦
- 非金屬礦
- 農(nóng)副食品
- 食品
- 方便食品
- 調(diào)味品
- 飲料
- 酒類
- 煙草
- 紡織
- 服裝
- 鞋帽
- 皮革羽絨
- 木材
- 家具
- 造紙
- 紙制品
- 印刷
- 文體用品
- 玩具
- 石油加工
- 煉焦
- 化學原料
- 化肥
- 農(nóng)藥
- 涂料
- 合成材料
- 化學試劑
- 日化
- 化學藥品
- 中藥
- 獸藥
- 生物制藥
- 衛(wèi)生材料
- 化纖
- 橡膠
- 輪胎
- 塑料
- 非金屬
- 水泥
- 玻璃
- 陶瓷
- 耐火材料
- 鋼鐵
- 有色金屬
- 金屬制品
- 集裝箱
- 不銹鋼
- 通用設備
- 鍋爐
- 機床
- 軸承
- 齒輪
- 衡器
- 鋼鐵鑄件
- 專用設備
- 采礦設備
- 石油鉆采
- 工程機械
- 冶金設備
- 煉油設備
- 橡膠設備
- 塑料設備
- 模具
- 印刷設備
- 制藥設備
- 紡織機械
- 醫(yī)療器械
- 環(huán)保設備
- 交通運輸
- 鐵路
- 汽車
- 摩托車
- 船舶
- 電氣
- 電機
- 輸配電
- 電線電纜
- 電池
- 照明器材
- 通信設備
- IT
- 電子元件
- 儀器儀表
- 光學儀器
- 眼鏡
- 工藝品
- 回收
- 電力
- 燃氣供應
- 水務
- 汽車零部件
- 家電
- 相關文章
-
- 當醫(yī)院遇上人工智能 醫(yī)生工作量減輕一半
- 紙箱回收開啟人工智能
- 百度推出人工智能語音和智能助手解決方案
關于我們
-
聯(lián)系我們
-
網(wǎng)站地圖
-
企業(yè)客戶
中經(jīng)市場研究網(wǎng) © 版權所有 北京中經(jīng)縱橫信息咨詢中心
相關搜索：可行性報告大綱，可研報告蓋章，可行性報告，可研報告，編寫可研報告，可行性報告內(nèi)容批復，可行性分析怎么寫，可行性報告編寫，立項可行性報告
地址：北京市西城區(qū)木樨地北里國宏大廈23層
電話：010-65067990 65067996 傳真：010-65066990 信箱：
[email protected]
京ICP備07500824號
<script type="text/javascript">var _bdhmProtocol = (("https:" == document.location.protocol) ? " https://" : " http://");document.write(unescape("%3Cscript src='" + _bdhmProtocol + "#/h.js%3Fe88d53b3e2ff5ae56c49bd329126f0bf' type='text/javascript'%3E%3C/script%3E"));</script>