清華大學蘇世民書院院長薛瀾：發(fā)展人工智能一定要設“紅線”

每經(jīng)記者 周逸斐    每經(jīng)編輯 陳星    

2024中關村論壇年會于4月25日至29日舉行?！睹咳战?jīng)濟新聞》記者從現(xiàn)場獲悉，本屆年會以“創(chuàng)新：建設更加美好的世界”為主題，設置了論壇會議、技術交易、成果發(fā)布、前沿大賽、配套活動5大板塊。

中關村論壇是中國面向全球科技創(chuàng)新交流合作的國家級平臺，已成功舉辦14屆。本屆論壇設置了論壇會議、技術交易、成果發(fā)布、前沿大賽、配套活動5大板塊，將舉辦近120場活動，100多個國家和地區(qū)、150余家外國政府部門和國際組織機構等受邀參會。

在26日舉行的全球科技集群創(chuàng)新論壇上，清華大學蘇世民書院院長薛瀾發(fā)表了題為《國際科技創(chuàng)新中心評估——結果與啟示》的主旨演講。

人工智能發(fā)展迅速，也引起一部分人的擔憂：若預防AI（人工智能）犯錯的技術落后于AI自身的發(fā)展，很可能會出現(xiàn)失控局面。對此，薛瀾回應《每日經(jīng)濟新聞》記者，發(fā)展人工智能的時候，一定要設“紅線”。

薛瀾接受采訪 每經(jīng)記者 周逸斐 攝

諸多業(yè)內(nèi)人士也呼吁要給人工智能“裝上剎車再上路”。薛瀾表示，所謂“剎車”就是一套針對人工智能潛在風險的治理體系，它可以對濫用、惡用、誤用人工智能等潛在風險進行合理規(guī)制。

他進一步解釋，這套治理體系分多個層次。從國家層面來看，2019年，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則——發(fā)展負責任的人工智能》，提出了人工智能治理的框架和行動指南。2021年，《新一代人工智能倫理規(guī)范》發(fā)布，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引。此外，國家還出臺了個人信息保護法等法律。

在具體領域也有一些法規(guī)、措施出臺。比如針對“騎手困在算法中”等問題，相關部門專門出臺了關于算法的規(guī)定，保護勞動者、消費者的權益。2023年，中國還出臺了全球首部專門規(guī)范生成式人工智能服務的立法。

另外，國家鼓勵相關企業(yè)加強內(nèi)部機制建設，保證企業(yè)技術應用符合前述法律法規(guī)。

薛瀾認為，上述多層次、綜合性措施可以保證人工智能“上路”是有“剎車”的。

記者注意到，一段時間以來，如何避免被人工智能取代的話題被反復提及。薛瀾認為，目前更需要探討的是怎樣利用人工智能技術為人類服務？人類下一步發(fā)展更希望得到什么？哪些工作可能是人工智能無法替代的？思考后找到的方向就是人類需要掌握的技能。

“另一方面也需要開拓就業(yè)新領域。隨著新技術的發(fā)展和物質(zhì)文化生活的不斷豐富，人類會產(chǎn)生更多的新需求，這些需求也許就是未來的就業(yè)新模式、新方向。”薛瀾說。