AI 改過的照片，大腦會當成真的記住

麻省理工學院媒體實驗室的 Pattie Maes 讓 200 個人看了 24 張普通照片：一場婚禮、一條街、一場賽跑。休息之後再放一遍，一半人看到原圖，另一半看到 AI 改過的版本——表情被換掉，人羣裏多出穿軍裝的人，街邊多出氣候變化的痕跡。隨後的記憶測試裏，看過改圖的人記住了原圖沒有的細節，且確信度高於對照組。

看兩遍照片，記住沒發生的事

實驗設了四種條件：原圖、AI 修改的靜態圖、AI 生成的視頻，以及用改過的圖再生成的視頻。200 人被隨機分進不同條件，測試只問一件事：剛纔那張照片裏有什麼。

Maes 對《華盛頓郵報》說。讓她不安的不是有人被騙——多數參與者知道素材可能被動過——而是錯誤記憶自帶確信感。一個細節一旦被編進自己的敘述，靠"再想想"很難剔出去。

換成視頻，假記憶翻倍

按 MIT 媒體實驗室公佈的數據，改圖疊加視頻的那一組，錯誤記憶發生率是對照組的 2.05 倍；對這些錯誤記憶的確信程度，比對照組高 1.19 倍。

對照條件裏，同一批照片、同樣間隔、同一套題，唯一變量是第二遍看到的東西有沒有經過生成模型。

機器人問話，假記憶多三倍

同一團隊還做了模擬犯罪目擊實驗：參與者看完一段案發過程，再接受生成式聊天機器人提問。機器人組的錯誤記憶是對照組的三倍以上；該條件下 36.4% 的回答被引向錯誤信息。

筆錄、理賠問話、採訪，越來越多環節把"提問"交給模型，而提問方式本身就在暗示答案。

研究者：這是新的誤導通道

喬治城大學與華盛頓大學的團隊提供了另一條證據鏈，主角是摘要。研究者讓 OpenAI 的 ChatGPT 和谷歌 Gemini 概括一段動畫交通事故，平均漏掉 51.6% 的關鍵情節，95% 漏掉了全片最要緊的一幕——汽車撞上過街行人。

隨後，331 名參與者讀這些摘要。讀到準確版本的人，83.6% 能正確記住路口是停車標誌還是讓行標誌；讀到誤導版本的人，只剩 44.8%。

論文第一作者、喬治城大學 Massive Data Institute 助理研究教授 Mattea Sim 說："AI 是一種新的誤導投遞方式，它有能力給讀這些信息的人造出虛假記憶。"她主張認真而批判地追問：AI 是否該、以及該如何用於摘要，"尤其是在高風險場景"。該論文將在 10 月的第九屆 AAAI/ACM 人工智能、倫理與社會會議（AIES）上報告。

標了 AI 生成，照樣被改寫

最反直覺的是：標註"由 AI 生成"並不能保護記憶。參與者被隨機告知摘要出自 AI 或出自專業人類速記員，兩種提示下的記憶扭曲沒有實質差別；對 AI 的總體信任、使用熟悉度，也不構成緩衝。

這直接頂掉了流行的"人在環路里"說法。在這套設計裏，人不是糾錯環節，人正是被改寫的那一環。

大腦本來就在重寫過去

記憶不是錄像帶，而是每次回想時重新拼裝的敘述。Elizabeth Loftus 早就證明，事後一句誤導提問，足以讓目擊者把"讓行"記成"停車"。

AI 把這件事工業化：幾秒鐘內生成大量清晰、具體、可對話的"事後信息"。圖像和視頻的生動感讓它比文字更容易被歸檔爲親歷——Maes 實驗裏視頻條件效果最強，正說明這一點。

警務與法庭先被波及

據 Yahoo News 報道，OpenAI 與 Meta 的技術專家 10 月中旬在波士頓向美國司法會議的證據規則諮詢委員會作證：合成音視頻已逼真到"這段證據是不是真的"越來越難回答。該委員會爲此已工作三年。

風險是雙向的。僞造內容可能被當成真證據；真實監控也可能被一句"這是 AI 做的"輕易否掉，法學界稱之爲"騙子的紅利"。當證人的記憶先被一段 AI 摘要污染，取證鏈條上就多了一個看不見的污染源。

選民也在射程之內

去年發表於《應用認知心理學》的研究發現，深度僞造視頻與 AI 生成文字都能讓人對完全虛構的政治醜聞產生記憶，甚至壓低投票意願（Gizmodo 報道）。另一項實驗裏，近一半參與者"記得"看過並不存在的電影翻拍，包括威爾·史密斯主演的《黑客帝國》。

研究者同時提醒：深度僞造並不總比文字更有效。文字便宜、量大、易本地化，已經夠用。

標籤只覆蓋三分之一，留住原始記錄

平臺側的補丁正在打，漏洞也明顯。一份針對四家主要平臺的審計（arXiv 預印本《Drowning in AI Slop》）發現，系統性風險語境下由專家識別的深度僞造，只有 33% 帶上了平臺自動添加的 AI 標籤，而這些內容的瀏覽中位數達 16 萬次。

內容憑證被寄予厚望——拍攝即簽名，改動留痕。但存心欺騙的人不會簽名。

更樸素的做法：高風險場景保留原始素材與操作記錄，讓摘要、筆錄、AI 輔助結論都能回溯到未加工的源頭；把 AI 摘要從"事實來源"降級爲"待覈對的線索"。Maes 的實驗室走得更遠，已經在做 Memoro、MemPal 這類可穿戴記憶助手，替人記住對話、找回物品。同一套技術，能替人記住，也能替人記錯。這纔是最讓人不安的地方。