聚焦烏鎮:倫理規則和技術安全是AI高質量發展關鍵
11月10日,在2022年世界互聯網大會烏鎮峰會“人工智能與數字倫理”論壇上,瑞萊智慧CEO田天表示,在數智化時代,人工智能充當著“大腦”的角色,在目標性能的實現、設施運維的智能化和設施安全保障等方面發揮著重要作用。例如,運用人工智能的計算機視覺技術,可以實現工業殘次品的檢測、構建人臉識別安防設備,在提升生產性能與生產效率的同時,大幅提升安全保障能力。
近年來,隨著算法的快速發展,算力、數據等資源的日益豐富,人工智能產業呈現快速發展態勢。但田天表示,放眼未來,人工智能若要實現高質量發展,需要突破倫理規則和技術安全兩大關鍵問題。
首先,隨著人工智能逐步成為經濟社會的關鍵角色,它與人類的交互規則構成了倫理問題,例如,人機控制權分配、人工智能采信度等等。作為一項具有開放性但又遠未成熟的新技術,人工智能不可避免地會對現有倫理關系與社會結構造成沖擊。
比如,人類對機器控制權的不適當讓渡,會導致惡性事故的發生,典型的例子如自動駕駛汽車電子剎車系統失控引發交通事故,以及過度信任算法而忽視算法偏見導致的不公平事件等。隨著人工智能對生產生活方方面面的不斷滲透,倫理問題層出不窮。
其次技術安全問題。以當前落地應用最為廣泛的人臉識別為例,這一技術實現的整個過程為黑箱模式,主要依靠海量人臉數據進行特征提取、訓練和識別,從而能夠利用相關漏洞,采用多種形式進行攻擊。例如,在人臉照片上添加少量干擾或將對抗補丁打印制作后由真人佩戴,以這種定向攻擊的形式破解人身核驗。
面對這些問題,田天表示,需要從倫理規則和技術規則兩方面加以解決。
一是倫理規則建設。這涉及到人與人工智能之間控制權閾值如何設定、兜底機制如何設計等問題,需結合具體應用場景,打造可量化、可度量、可執行的具體標準,再落實到算法、代碼層面。
二是技術路徑優化。在數據、算法、算力三大要素基礎上,將知識要素融合進來,發展安全、可靠、可信和可擴展的第三代人工智能,不斷提升人工智能的魯棒性和可解釋性,同時持續提高人工智能倫理安全、技術安全的敏捷測評水平,使之成為保障人工智能產業高質量發展的關鍵能力。(記者 魏蔚)
標簽:
[責任編輯:]
猜你喜歡
- (2022-11-11)岳犇健康,古法養生美容傳承者,全方位帶你打造自己的養生品牌
- (2022-11-11)美國延續特朗普時期對華禁令,外交部:堅決反對
- (2022-11-11)《世界開放報告2022》:2012年至2020年中國開放指數提升5.6%
- (2022-11-11)第十四屆中國航展:“中國空間站”受關注
- (2022-11-11)科技部:“十四五”末國家高新區數量達220家左右
- (2022-11-11)特斯拉宣布在美國召回超4萬輛電動汽車
- (2022-11-11)互聯網大會“黑科技”上新,有你喜歡的嗎?