11月10日,在2022年世界互聯網大會烏鎮峰會“人工智能與數字倫理”論壇上,瑞萊智慧CEO田天表示,在數智化時代,人工智能充當著“大腦”的角色,在目標性能的實現、設施運維的智能化和設施安全保障等方面發揮著重要作用。例如,運用人工智能的計算機視覺技術,可以實現工業殘次品的檢測、構建人臉識別安防設備,在提升生產性能與生產效率的同時,大幅提升安全保障能力。

近年來,隨著算法的快速發展,算力、數據等資源的日益豐富,人工智能產業呈現快速發展態勢。但田天表示,放眼未來,人工智能若要實現高質量發展,需要突破倫理規則和技術安全兩大關鍵問題。

首先,隨著人工智能逐步成為經濟社會的關鍵角色,它與人類的交互規則構成了倫理問題,例如,人機控制權分配、人工智能采信度等等。作為一項具有開放性但又遠未成熟的新技術,人工智能不可避免地會對現有倫理關系與社會結構造成沖擊。

比如,人類對機器控制權的不適當讓渡,會導致惡性事故的發生,典型的例子如自動駕駛汽車電子剎車系統失控引發交通事故,以及過度信任算法而忽視算法偏見導致的不公平事件等。隨著人工智能對生產生活方方面面的不斷滲透,倫理問題層出不窮。

其次技術安全問題。以當前落地應用最為廣泛的人臉識別為例,這一技術實現的整個過程為黑箱模式,主要依靠海量人臉數據進行特征提取、訓練和識別,從而能夠利用相關漏洞,采用多種形式進行攻擊。例如,在人臉照片上添加少量干擾或將對抗補丁打印制作后由真人佩戴,以這種定向攻擊的形式破解人身核驗。

面對這些問題,田天表示,需要從倫理規則和技術規則兩方面加以解決。

一是倫理規則建設。這涉及到人與人工智能之間控制權閾值如何設定、兜底機制如何設計等問題,需結合具體應用場景,打造可量化、可度量、可執行的具體標準,再落實到算法、代碼層面。

二是技術路徑優化。在數據、算法、算力三大要素基礎上,將知識要素融合進來,發展安全、可靠、可信和可擴展的第三代人工智能,不斷提升人工智能的魯棒性和可解釋性,同時持續提高人工智能倫理安全、技術安全的敏捷測評水平,使之成為保障人工智能產業高質量發展的關鍵能力。(記者 魏蔚)