戳破“AI幻覺”急需構建真實性防線-紫荊網

戳破“AI幻覺”急需構建真實性防線

日期:2025-07-16 來源:北京青年報 瀏覽量: 字號:
分享到
用微信掃描二維碼

當華南農業大學學生戴瑞對着屏幕上AI編造的“民國學者論文”哭笑不得時,當上海某高校博士申杰拿着文獻檢索截圖與AI對峙時,當華東師範大學學生高育格發現簡歷裡憑空多出的“千萬級項目數據”時,一個不容忽視的問題浮出水面:AI正在用“看似合理”的外衣,包裹着越來越多的虛假信息。中國青年報·中青校媒調查顯示,97%的受訪大學生遭遇過AI錯誤輸出,超半數人被虛假數據、僞文獻坑害——“AI幻覺”這一技術陰影,已悄然蔓延至學習、科研乃至決策領域,亟待我們主動戳破。

AI熱衷於“一本正經地胡說八道”,在於其生成幻覺的底層邏輯。部分模型將“優先回應”置於“確保真實”之上,面對用戶的錯誤提問竟能順坡下驢。比如有用戶詢問某城市“不存在的立交橋設計”,AI不僅不糾正,反而編造出“力學原理”“美學考量”等全套說辭。更關鍵的是,當訓練數據存在缺口或質量瑕疵時,AI會啓動“算法補全”機制,就像有同學反映的那樣:因官方信源不足,AI竟虛構“內部文件”和“匿名訪談”,用邏輯自洽的謊言填補信息空白。這種“爲了回答而回答”的服務本能,使其在知識盲區裡變成了“編故事大師”。

“AI幻覺”的危害早已超越技術瑕疵範疇,正在多領域埋下隱患。學術領域首當其衝,55%的受訪大學生遭遇過參考文獻推薦錯誤,有同學就因AI混淆歷史事件的時間與人物,不得不推倒重來;新聞傳播領域更兇險,人們擔憂的“擬態環境”困境已現端倪——當社交媒體充斥AI生成的虛假鏡像,公衆認知的世界可能變成算法拼湊的謊言;而在醫療、法律等關鍵領域,AI曾給出過“耳鳴可能是絕症前兆”的錯誤診斷,也曾編造法條誤導用戶,長此以往,其後果不堪設想。更隱蔽的危害在於認知侵蝕。有人比較發現,不同AI模型對同一問題的答案經常存在較大差異,且暗藏價值偏向。假如不加以區分、辨別,將悄然扭曲個人認知。

戳破“AI幻覺”,技術研發者須先邁出關鍵一步。在調查中,更多受訪大學生期待“優化算法與數據治理”,這要求開發者重構模型邏輯,將“真實性校驗”置於“迴應速度”之前。還有一些人呼籲“完善人工審覈與反饋機制”,意味着需要建立“AI輸出—人工覈驗—用戶反饋—模型迭代”的閉環,就像部分醫療類AI已做到的那樣,對存疑信息強制標註“非權威來源”。此外,“信源透明度”也應成為行業標配,AI應在每條事實性信息都附上溯源鏈接,讓用戶像覈查學術論文參考文獻一樣便捷。

治理“AI幻覺”還需社會共治。開設“AI內容甄別”課程,通過模擬報道實訓強化學生的“求證意識”;用戶自身也需培養“AI素養”,例如養成對信息進行交叉驗證的習慣;監管層面則需加快出台行業標準,明確AI生成內容的權責邊界。從技術發展本身而言,有必要發展第三方審計體系,定期評估模型的幻覺概率,反向推動算法優化。

AI技術的終極價值,在於成為人類認知世界的可靠工具,而非製造虛假的“算法牢籠”。唯有研發者守住技術倫理的底線,使用者保持理性批判的鋒芒,社會建立多方協同的防線,才能戳破“AI幻覺”的迷霧,讓人工智能真正服務於真實世界的進步。

來源:北京青年報

掃描二維碼分享到手機

編輯:劉雨晨 校對:劉可熠 監製:姚潤澤
五一假期開啟返程模式 全國鐵路、公路進入返程高峰
投資界春晚來襲!2025巴菲特股東大會五大焦點全梳理
陳茂波:致力打造新海濱 推動無處不旅遊
外籍遊客、外語導遊、外國博主……多視角講述“China travel”獨特記憶
紫荊雜誌
影響有影響力的人