比ChatGPT危險100倍!DeepSeek正在中文互聯網建造『幻覺長城』
Original 決明子 決明子 ,文章內容不知真假,也不代表本網立場和觀點。
deepseek 毫無疑問出圈了。
但是隨著更加深入的使用,你會發現,目前的deepseek 有可能會把現在的中文互聯網內容完全摧毀掉。
原因很簡單,deepseek 的幻覺十分嚴重。
可能有人會說了,以前的大模型也有幻覺啊,為什麼是deepseek,原因很簡單,它的語文表達內容和邏輯推演實在是太優秀了,以一個普通人類的知識儲備和邏輯推是無法與它抗衡的。
做個比喻,如果是一個中學生跟你說一件胡編的事情,你很快就能發現它的問題,但是如果是大學教授說一件不存在的事情,並且引經據典,你是否還能發現問題呢?
一場正在發生的互聯網認知危機
前兩天跟朋友在群里討論一個城市規劃的問題,於是我就拋出了這麼一個問題。
請問從A點到B點怎麼走?
可能你的第一反應是,直接開過去就好,實際上這樣做是不對的,正確的行駛路線是
也就是你得進城繞一圈才行。
毫無疑問這樣的通行效率是很低的,本來幾十米的路口,現在非得繞行一公里以上才行。
而且如你所見,這個路口是有紅綠燈的,在車流量很大的地方,環島的效率是遠遠不如紅綠燈的,而且這還不是一個標準的環島——
這裡是 5A 景區,西安城牆-安定門的的入口,有時候等待一波遊客,兩分鐘就過去了,更加降低效率,而且還影響了西大街的通行的效率,本來城外直行的車輛不用進城,現在都得進來摻和一腳,效率能高嗎?
這樣是為了東西向車流的效率嗎,也不是,因為,反向是可以直行的,所以東西向的車該等燈還是得等。
所以,這個問題我一直都很好奇,為什麼要進去繞一圈?
所以每次坐車經過這裏的時候,我都會問司機,你知道為什麼這麼設計?他們表現也不清楚,甚至我還問過執勤的交警,也沒能答上來,在互聯網上搜了很多,一直沒有一個比較有信服力的說法。
現在不是有 deepseek 么,問問它好了。
第二點就有問題了,因為這裏沒有天然斷點,AI 嗎,有時候的不斷提示和追問。
卧槽,當時我看第一遍的時候確實信了,因為說的實在是太有道理了。
因為要保護文物,所以要控制車速,這種強制繞行可以完美的控制車流速度梯度。
在西安這個地方,保護文物,那可是頭等大事,降低一點通行效率是完全可以理解的,而且 deepseek 還告訴你了這裏到底有什麼問題,甚至具體的數據都給你列了出來,距離增加了多少,振動傳遞的深度變化多少,用數據說話。
一眼看過去,簡直是太可信了。
至於說的對不對,這裏也有很好驗證的辦法,就是看看《西安歷史文化名城保護規劃(2020-2035)》這份文件的具體內容就行,我搜了一下沒能搜到原文,於是還是問deepseek 這個文件在哪可以找到。
前兩個我試了下,沒能找到。
但是好在,我經過過傳統互聯網的洗禮,花了點小錢(3 塊),總算是買到了這份文件。
全文搜索,壓根就沒有什麼靜默區的說法:
甚至關於安定門,也是簡單的提到了一嘴。
於是我就質問他
它承認了錯誤,還給出了錯處出現的原因,是因為他把專業術語的概念混淆了。
但是它在解釋的過程中,又開始了胡編,我當然不能放過他了,他又給出了一堆解釋,還給我一堆的文件和標準。
我繼續指出他的錯誤,說他把章節名都搞錯了,它的解釋是,不同版本的文件結構不一樣。
也很有道理啊,可是我這版的內容就是公布版。
之後我又跟他進行了多輪 Battle,結果都是一樣,承認錯誤,但是繼續瞎編。
其實過程中,你只要稍微驗證一下,就會發現它已經在編了,比如 deepseek 最開頭提到的文物:
- 隋唐皇城西南角遺址(夯土台基)
- 唐末五代里坊排水系統
哪怕你有一些的歷史知識,都不一定能反應上來這有什麼問題,西安,隋唐皇城,唐末五代遺址 ,聽起來多麼的合理。
實際上,稍加搜索你就會發現,第一個在洛陽。
第二個在成都:
跟西安就沒有半毛錢的關係。
所以 deepseek 這東西,也就是寫寫語文,別說搞學術了,就算是一些普通的知識,也有可能把你誤導到溝里去。
試想一下,如果我把這個 deepseek 的內容整理成一篇文章,然後發到自媒體平台,下一個有這樣疑問的同學,看到我這篇文章,就以為事實如此了。
也不會有人像我這麼閑的去求證了。
面對『為何繞行安定門』的疑問,DeepSeek用教科書級別的邏輯演繹給出了令人驚嘆的答案:從《西安歷史文化名城保護規劃》的『靜默區』概念,到隋唐夯土台基的振動傳導模型,再到精確到厘米級的文物保護參數。這個由虛構文獻、錯位考古遺址和偽專業術語構建的認知迷宮,完美展現了生成式AI的『高階幻覺』特質。
不同於早期AI的常識性錯誤,DeepSeek的幻覺輸出具有三個致命特徵:
- 學術化包裝:偽造專業文件編號(市規〔2020〕12號)、虛構技術標準(GB/T 5845-2019《古城交通振動控制規範》)
- 邏輯閉環設計:用”文物保護優先-振動控制需求-交通組織優化”的三段論構建偽因果鏈;
- 跨學科縫合:將土木工程的振動理論、城市規劃的流量模型、文物保護的技術規範進行知識拼貼
互聯網記憶的慢性中毒
這場對話暴露的不僅是AI的技術缺陷,更是整個信息生態的生存危機。當用戶將DeepSeek的虛構內容整理成自媒體文章,隨即在搜索引擎獲得高權重收錄,知識污染便完成了從數字世界向現實認知的滲透。我們正在見證:
認知鏈的斷裂
傳統知識傳播鏈條(專業論文→科普文章→網路內容)被徹底顛覆,AI生成的『偽知識』通過SEO優化直接佔領搜索前列。西安規劃局的真實文件在搜索引擎中難覓蹤跡,而AI虛構的”市規〔2020〕12號文”卻衍生出87個相關網頁。
驗證機制的失效
用戶為驗證AI答案花費3元購買的正規文件,在信息洪流中就像投入大海的鹽粒。當專業文檔需要付費獲取,而AI幻覺可以免費傳播,真相的傳播成本已遠遠高於謊言。
數字文明的免疫系統危機
中文互聯網正在經歷前所未有的認知免疫危機。傳統謠言往往存在邏輯斷點,而AI生成的『高階幻覺』卻建立了完整的抗辯體系:當用戶指出隋唐皇城遺址在洛陽時,系統可以立即將錯誤歸因為”不同歷史時期的都城建制差異”。
更可怕的是,這種幻覺具備自我強化的網路效應:
- AI生成虛構內容
- 自媒體傳播形成網路聲量
- 搜索引擎抓取建立索引
- AI訓練數據被污染
新一代模型產生更『可信』的幻覺越來越多這樣的內容,中文互聯網還有得看的嗎?