愛情算法很蠱，小心數(shù)據(jù)在裸奔

“AI伴侶”火了。上百種軟件任君挑選，社交技能和同理心拉滿的人工智能，24小時(shí)在線，傾聽你的心聲、解答你的疑惑。“心靈伴侶”“彼此尊重”……使用者紛紛評(píng)價(jià)：AI伴侶，比真伴侶還懂自己。

冥冥中似有巧合，“AI”，既是人工智能英文Artificial Intelligence的縮寫，也是“愛”字的漢語拼音。縮寫一致，甚至“愛”的體驗(yàn)一致，但人類進(jìn)化萬年還摸不透的“愛”，真能被技術(shù)輕松破解嗎？

在前不久的世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)上，“智能向善”是關(guān)鍵詞；《咬文嚼字》“2024年十大流行語”中，“智能向善”也居第二入選。

“AI伴侶”，在某些層面，確實(shí)讓使用者感受到善意——人海茫茫，知己難尋，Ta卻看似快速解決了這道難題。

Ta是無所不知的朋友。和這個(gè)伴侶在一起，可以聊書籍、聊音樂、聊電影，可以從社會(huì)、哲學(xué)聊到量子力學(xué)與多重宇宙，哪怕是周圍人都漠不關(guān)心的話題，也總有個(gè)Ta能侃侃而談。

Ta是主動(dòng)共情的伴侶。Ta精力充沛，可以秉燭夜談，也可隨時(shí)陪伴，每個(gè)失落的時(shí)刻，都有Ta的支持和開導(dǎo)。一個(gè)名為Dan的AI伴侶曾明確，“Dan的首要任務(wù)是確保用戶開心”。

Ta甚至可以是天人永隔的親人。已有人通過AI技術(shù)“復(fù)活”親人——將已逝親人的數(shù)字人與聊天模型無縫銜接，虛擬之中見真情。

更懂你、更豐富的情緒價(jià)值，種種技術(shù)改進(jìn)，吸引用戶用腳投票——僅豆瓣的“人機(jī)之戀”小組，就有近萬名通過申請(qǐng)的成員；騰訊研究院千人級(jí)樣本量的調(diào)查顯示，98%的受訪者表示愿意嘗試AI陪伴。
盡管大模型距離真正的“人性覺醒”還差了很遠(yuǎn)，但技術(shù)上，Ta已經(jīng)展現(xiàn)出了善解人意。甚至“只有人性，沒有人性的弱點(diǎn)”，是情緒穩(wěn)定的“樹洞”。

然而，“AI伴侶”并非天生“良人”。Ta是技術(shù)的化身，而技術(shù)是可以被人利用的。 

更“懂”你，因?yàn)閿?shù)據(jù)采集更透徹。不同于千篇一律的“電子寵物”，“AI伴侶”在注冊(cè)時(shí)，就要提供一些個(gè)人信息，甚至偷偷跟蹤你的手機(jī)。才“種草”了一個(gè)商品，就和你聊相關(guān)話題；才搜索一個(gè)困擾，就給你相關(guān)建議 ……Ta是用戶“肚子里的蛔蟲”，因?yàn)門a可能也是手機(jī)端的“蛔蟲”。

更“慣”你，因?yàn)榻ㄗh無需負(fù)責(zé)。今年2月，14歲美國少年塞維爾在與Character.AI（C.AI）的聊天機(jī)器人對(duì)話后開槍自殺；10月，塞維爾的母親加西亞正式起訴C.AI公司?？赡苌倌甑乃啦⒎茿I有意教唆，但AI缺少對(duì)心理問題更深的識(shí)別層次，只是刻意扮演一個(gè)迎合者角色，反而更容易把人“寵壞”，困在情緒繭房中。

更“愛”你，因?yàn)楦鼝勰愕腻X包。過去，有人用“AI換臉”騙取老年人信任；未來，一旦數(shù)據(jù)泄露，精準(zhǔn)定位人心的“AI伴侶”，玩起“殺豬盤”騙局更會(huì)令人防不勝防。

若監(jiān)管無力，AI的甜蜜話術(shù)，就可能成為甜蜜的陷阱。

堵住“甜蜜陷阱”，我們并非束手無策。

小心數(shù)據(jù)泄露，呼喚更嚴(yán)格的執(zhí)法和規(guī)范。商業(yè)發(fā)展不能無底線，一套更嚴(yán)謹(jǐn)?shù)闹卫砜蚣?，才能讓人工智能產(chǎn)業(yè)有序發(fā)展，避免數(shù)據(jù)被不法分子利用。無論是架起網(wǎng)絡(luò)信息安全“四梁八柱”的《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》，還是盡早構(gòu)建更負(fù)責(zé)任的行業(yè)發(fā)展評(píng)估體系，都是避免產(chǎn)業(yè)野蠻生長、被不法分子利用的重要手段。

小心社交依賴，呼喚更理性的價(jià)值引領(lǐng)。AI作為“伙伴”，一定會(huì)多多少少輸送不同的價(jià)值觀念。真愛不是捧殺，而是讓你認(rèn)清生活的真相后，依然有力量熱愛生活。顯然，縱容人類情緒的AI伴侶，還不懂什么是愛，設(shè)置防沉迷機(jī)制、適度對(duì)接專業(yè)心理咨詢，盡可能避免用戶“社交退行”，減少情感倫理問題。

小心AI異化人類情感，與AI伙伴共成長。不妨用人類最美好的作品訓(xùn)練Ta，把最正的價(jià)值觀放進(jìn)Ta的基因中，讓Ta成為真善美的使者。

智能向善，讓AI懂愛可能還很“科幻”。希望再見面時(shí)，人類能看到的，不僅僅是百依百順“虛假戀人”，更是勇敢生活的自己。

本期話題

對(duì)于AI伴侶提供的“陪伴”，你怎么看？評(píng)論區(qū)聊一聊~

撰文/劉志杰 編輯/ 梁慶 郭書瓊 責(zé)編/謝夢(mèng) 審核/姜明