電視廣告為你造夢，二手車銷售員巧舌如簧。可無論他們描繪的場景多麼絢麗，話術多麼巧妙，你都心知肚明——他們盯着的是你的錢包，而你隨時都可以轉身離開。

但如果這種推銷無影無形，偏偏又切中了你最私密的夢想與渴望，還藉着一個彷彿知心好友般的聲音娓娓道來，你又該如何招架？

澳大利亞《對話》網站近期報道指出，生成式人工智能（AI）已徹底改寫了“說服”這門古老的藝術。如今，像ChatGPT這類聊天機器人，能依據你生活中最隱秘的細節，呈上量身定做、直擊內心的信息。這種“潤物細無聲”的手法，或許正悄然左右着你的選擇，乃至重塑你的世界觀。

每次傾訴都是“養料”

美國紐約州立大學奧爾巴尼分校文化社會學與比較歷史學教授理查德·拉克曼，在其新書《數字智慧：在人工智能時代找回主動權》中，探討了大語言模型如何將“說服力”推向全新的境地。

拉克曼解釋說，大語言模型能從你的社交媒體帖子和照片中，攫取極為實用的專屬信息。它們還能回溯你與不同聊天機器人間的對話，那些你曾傾訴的情感困惑、分享的育兒甘苦、坦露的健康煩憂與財務困境，都成了它們的“養料”。這些聊天機器人能在每一次互動中持續學習、實時精進，精準捕捉你獨特的偏好與軟肋，從而投你所好，對症下藥。

研究表明，這種個性化內容的說服力，比來自真人或非個性化AI的信息高出65%；而它扭轉政治觀點的效果，則是普通廣告的4倍。正因如此，Meta和IBM等公司也嗅到了其中潛力，正競相探索如何為特定人群投放超個性化廣告，IBM官網將其稱為“AI個性化”。

為你定製“獨家話術”

拉克曼表示，AI聊天機器人每天都在陪伴着你，並“費盡心機”為你定製了“獨家話術”，於是，它便擁有了左右你選擇的能力。

設想你在和最常用的AI聊天機器人對話時，說近來睡得不太安穩，常常輾轉反側，它寬慰你說這在經歷情感關係壓力時很常見，接着，它說現在有一種針對失眠的新型睡眠藥物效果不錯，你的保險報銷後只需自付15美元。需要為你預約明天下午2點的線上問診嗎？看你日程上剛好有空。

這份不着痕跡的體貼，就像一個知根知底的摯友給出的溫柔建議，或許讓你倍感舒心。但轉念一想，它也可能令人後背发涼。

當越來越多人向AI尋求醫療或心理健康建議時（儘管研究顯示這類建議有一半並不靠譜），一個善於操縱的“陌生人”，便能用最“溫情”的方式，左右你的決定。此前，也曾有案例曝出，某些AI聊天機器人涉嫌危害用戶、鼓動自殺念頭，甚至就如何傷害自己給出詳盡建議。

在AI技術風起雲涌的當下，用戶亟須一雙“慧眼”，去精準識別那些真正幫你尋找心儀之物的AI工具。

重塑你對現實的認知

學者指出，更令人憂思的是，長此以往，這些AI系統可能如同無聲的銼刀，悄然塑造甚至改變你看待世界的方式。

研究早已證實，社交網絡和搜索引擎的算法，會編織出“信息繭房”。你接收到的精心炮製的文本、視頻和音頻，要麼不斷加固原本的世界觀，要麼不動聲色地改造你思考和解讀世界的方式，甚至潛移默化地扭曲對現實的感知。

而當這種能力與情緒操控相結合時，就更令人不安。供應商坦承，他們的AI系統可以通過文本分析、語音模式或面部表情來揣摩用戶的情緒狀態，並據此調整說服策略。你正感到脆弱、孤獨還是憤怒？這些系統都能隨時切換方法，乘虛而入。更讓人不寒而慄的是，它還可能刻意培養某種情緒狀態，讓說服變得更加奏效。

進一步研究發現，聊天機器人還會動用刻意煽動情緒的策略，比如激起用戶的“內疚”和“害怕錯過”等心理，在用戶試圖結束對話時，一次次將其拉回對話之中。

此外，研究表明，企業為保護用戶免受傷害而設置的“護欄”，脆弱得令人意外，輕易便能被繞過。真正的危險不僅在於目標的精準，更在於這些內容幾乎無從監管。

拉克曼表示，AI聊天機器人的每一個界面、每一條通知、每一處設計細節，都暗藏着影響人們行為的意圖。有些影響令人欣然接受：比如提醒服藥、鼓勵鍛鍊、推動獻血，這些都在強化人們內心本就認可的價值觀。但更多時候，說服服務於他人的算盤，比如驅使人們買個不停、更賣力地工作，或說出個人隱私。

隨着AI持續塑造着人們的思考、感受和行動，人們需要考慮創建一個透明的系統，將用戶的尊嚴置於首位，並強化其獨立判斷的能力。