人工智能商業(yè)化提速，如何平衡創(chuàng)新與治理？

中新網(wǎng)8月17日電 題：人工智能商業(yè)化提速，如何平衡創(chuàng)新與治理？

(相關資料圖)

中新財經(jīng)記者 夏賓

在大模型、AIGC引領的產(chǎn)業(yè)熱潮下，人工智能商業(yè)化落地提速，企業(yè)關心將技術應用到產(chǎn)業(yè)中產(chǎn)出價值，從政府的角度也必須要考慮如何平衡創(chuàng)新和治理間的關系。

“人工智能確實成為當前引領新一輪科技革命發(fā)展潮流，大家也有一定擔心，生成式AI被視為一種顛覆性技術，同時具有破壞性，它是雙刃劍，可以解放生產(chǎn)力、發(fā)展生產(chǎn)力，但是對現(xiàn)有的破壞也需要考量，可能帶來不可預知的風險和挑戰(zhàn)。”中國國際經(jīng)濟交流中心經(jīng)濟研究部副部長劉向東近日在京參加騰訊舉行的“人工智能技術創(chuàng)新發(fā)展”研討會時如是說。

劉向東說，社會擔心，若不對生成式AI進行有效監(jiān)管，在倫理和安全上會產(chǎn)生較大挑戰(zhàn)，甚至產(chǎn)生不可預知的風險，比如出現(xiàn)它不受人控制的情況都可能存在。

他進一步稱，由此，各國家都對如何發(fā)展人工智能提出了一些辦法，中國政府也發(fā)布了《生成式人工智能服務管理暫行辦法》，這既需要把生成式AI發(fā)展和應用的范圍劃定清晰，同時又不妨礙其發(fā)展，所以在包容審慎和分類分級監(jiān)管方面通過一個暫行辦法，如有不合適的，根據(jù)各方反饋再去調整，如此促進生成式人工智能的發(fā)展。

中國信通院云大所人工智能部副主任曹峰表示，從大模型發(fā)展趨勢來看，今年是大模型多、應用范圍多，且向醫(yī)療、教育、能源、電力、工業(yè)等行業(yè)深度融合。

但他也提出，大模型的可信風險日漸突顯，大模型本就沒有解決原來人工智能存在的問題，比如可解釋、黑盒、數(shù)據(jù)泄露、不穩(wěn)定等問題，同時帶來很多新的問題，比如涉及知識產(chǎn)權問題、生成不恰當內容問題以及生成虛假肖像、圖片、語音而用于非法行為的問題。

為解決上述問題，曹峰建議，從政策層面，比如網(wǎng)信辦對生成式人工智能的相關規(guī)定，同時國際上不斷強調需要關注倫理、隱私、版權等問題。

從產(chǎn)業(yè)層面，很多產(chǎn)業(yè)機構等也提出了大模型需要產(chǎn)業(yè)重視的問題，比如重視數(shù)據(jù)風險、模型風險、隱私風險等一系列風險。“我們需要從技術和管理雙管齊下，在技術層面的隱私保護技術、公平性技術、可解釋性技術等，在管理層面的風險管理、人員管理、質量管理、合規(guī)管理等。”

北京理工大學計算機學院副教授、網(wǎng)絡與安全研究所所長閆懷志強調說，人工智能系統(tǒng)自身安全問題容易被忽視，它是個盲點。具體體現(xiàn)在多個方面，比如對抗機器學習，惡意樣本生成，訓練數(shù)據(jù)污染，出現(xiàn)偽造臟、假數(shù)據(jù)的情況。

閆懷志直言，問題出在“智能算法的理想”與“軟件實現(xiàn)的現(xiàn)實”的差異。一是人工智能框架安全，現(xiàn)在開源人工智能編程框架和商業(yè)人工智能編程框架很多，二是人工智能算法安全，對抗樣本的出現(xiàn)就證明了人工智能算法缺乏可解釋性，三是人工智能數(shù)據(jù)安全，構造一些非法數(shù)據(jù)、誤導數(shù)據(jù)實施干擾，從而造成機器學習模型的過擬合或完全失效。

人工智能行業(yè)天使投資人郭濤認為，人工智能監(jiān)管趨嚴是人工智能商業(yè)化面臨重大問題之一，比如AIGC內容生成的相關版權歸屬問題，訓練數(shù)據(jù)合法性問題，大量人臉數(shù)據(jù)、圖片數(shù)據(jù)等的來源問題，對數(shù)據(jù)來源的監(jiān)管、算法模型的監(jiān)管、對應用場景的監(jiān)管、對社交平臺的監(jiān)管，這些監(jiān)管趨勢都非常嚴。

騰訊研究院產(chǎn)業(yè)研究中心負責人宋揚則提到，大模型對現(xiàn)有知識產(chǎn)權有一定沖擊，尤其對版權有一定沖擊，而從倫理和安全角度，AI生態(tài)需要更加完善。

宋揚表示，高盛預測AI將取代3億人的全職工作，世界經(jīng)濟論壇的報告表明未來五年勞動者44%的核心技能會發(fā)生改變。此外，用AI生成類似真人的數(shù)字人技術，它會進行新型詐騙，目前已經(jīng)有詐騙案例出現(xiàn)，所以推動AI倫理及AI安全需要產(chǎn)業(yè)共同努力。(完)

關鍵詞：