不得含有侵犯知識產(chǎn)權(quán)內(nèi)容 網(wǎng)信辦擬為生成式人工智能服務“立規(guī)矩”

每經(jīng)記者 李宣璋    每經(jīng)編輯 陳旭    

4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布通知，就《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《辦法》）向社會公開征求意見。

所謂生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

《辦法》指出，研發(fā)、利用生成式人工智能產(chǎn)品，面向中華人民共和國境內(nèi)公眾提供服務的，適用本《辦法》。

同時，《辦法》強調(diào)，國家支持人工智能算法、框架等基礎技術(shù)的自主創(chuàng)新、推廣應用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。

AIGC已成生產(chǎn)力工具

日前，以ChatGPT為代表的生成式AI應用的數(shù)據(jù)安全問題受到市場討論，也引發(fā)監(jiān)管注意。

《辦法》提出，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務的組織和個人(以下簡稱“提供者”)，需承擔該產(chǎn)品生成內(nèi)容生產(chǎn)者的責任；應當對生成式人工智能產(chǎn)品的預訓練數(shù)據(jù)、優(yōu)化訓練數(shù)據(jù)來源的合法性負責。

《辦法》要求，用于生成式人工智能產(chǎn)品的預訓練、優(yōu)化訓練數(shù)據(jù)，應滿足以下要求：符合《中華人民共和國網(wǎng)絡安全法》等法律法規(guī)的要求；不含有侵犯知識產(chǎn)權(quán)的內(nèi)容；數(shù)據(jù)包含個人信息的，應當征得個人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形；能夠保證數(shù)據(jù)的真實性、準確性、客觀性、多樣性；國家網(wǎng)信部門關于生成式人工智能服務的其他監(jiān)管要求。

浙江大學國際聯(lián)合商學院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林在接受《每日經(jīng)濟新聞》記者書面采訪時表示，出臺征求意見稿是針對當前社會上普遍存在的對生成式人工智能的憂慮給出了一些解決方案，此次征求意見稿對生成式人工智能的響應領先全球，符合我國先規(guī)范后發(fā)展的產(chǎn)業(yè)推進路徑。

“個人認為征求意見稿解決了一些問題，諸如利用生成式人工智能進行不正當競爭等問題，的確應該盡早規(guī)范。”盤和林告訴記者，與此同時，有些規(guī)則也需要進一步細化，比如征求意見稿提到生成式人工智能應該提供真實準確的內(nèi)容，而現(xiàn)階段生成式人工智能存在一個特點，就是在其無法理解的時候，會采用自我生成的方式來生產(chǎn)內(nèi)容，而對于真實準確的尺度應該如何來衡量，還需進一步細化。

他進一步表示，當前人工智能生成內(nèi)容（AIGC）已經(jīng)成為生產(chǎn)力工具，亦可能帶來新一輪科技革命，所以發(fā)展AIGC應該是我國科技推進的重點。而制定規(guī)則，是推動我國AIGC產(chǎn)業(yè)發(fā)展的前提。

用戶隱私等受到關注

以ChatGPT為代表的生成式人工智能產(chǎn)品的爆火，其信息安全、是否侵犯用戶隱私等問題同樣受到高度關注。

《工人日報》此前報道，綠盟科技首席創(chuàng)新官劉文懋認為，在安全隱私方面，ChatGPT的高度“智能化”也導致其存在自己獨特的安全問題：提示注入。通過提示注入，用戶可以繞過OpenAI設置的內(nèi)容安全策略，從而對ChatGPT進行濫用。

他進一步表示，在輔助編程這一應用場景上，ChatGPT的應用可能也存在一定的安全隱患，ChatGPT生成的代碼可能含有可被利用的已知安全漏洞。對于企業(yè)來說，雖然員工使用ChatGPT能夠在一定程度上提高某些工作的效率，但由于ChatGPT并沒有通過技術(shù)手段保障用戶數(shù)據(jù)安全，且會對用戶輸入進行分析，故對于敏感信息一定要嚴格加以保護。

此次發(fā)布的《辦法》，加強了對信息安全以及用戶方面的限制。例如《辦法》提出，提供者應當明確并公開其服務的適用人群、場合、用途，采取適當措施防范用戶過分依賴或沉迷生成內(nèi)容。

提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。