卷四、暗號 十四、菜脯蛋 十一月十三日，第二個週末，我回彰化。 高鐵到台中，轉區間車，再走十五分鐘。 這條路線我走了十幾年，途中的變化用十年為單位：便當店換了招牌，文具行變成藥局，藥局變成另一間藥局。 我媽在市場賣了三十年衣服。 前年收攤，理由她講得很豪邁：「網拍都AI在回話了，我跟機器計較什麼。」實際上是膝蓋。 爸走了七年，她一個人住老家，日子排得很滿：週一到週五做環保志工，週六拜拜，週日等我或明哲回去。 明哲是我弟，小我四歲，在新竹的廠做設備工程師，上夜班。 住竹北，房貸三十年，小孩還在上幼稚園。 他的人生我媽用一句話總結：「賣給廠裡了。」語氣一半心疼，一半驕傲。 那個週末他也回來了，黑眼圈掛到顴骨。 飯桌上，我媽炒了五道菜，罵了兩個小時政治，然後進入正題——她每次的正題都是別人家的事。 「隔壁鄉有人被騙了八十萬。」她說，「接到女兒的電話，說出車禍，要匯錢。聲音一模一樣喔，連哭都一模一樣。」 「語音合成。」明哲扒著飯，「幾秒鐘的樣本就夠了。」 「里長現在天天廣播。」我媽說，「說接到家人討錢的電話，要先掛掉，打回去確認。」她頓了頓，「可是打回去，接的那個，就一定是本人喔？」 我跟明哲同時停下筷子。 我們姊弟倆，一個在AI公司做安全，一個在晶圓廠做設備，全家的科技含量都在這張桌上了。 結果問出全桌最深的問題的，是國小畢業的媽。 「理論上，」我說，「打回去比較安全。號碼是妳自己撥的。」 「理論上。」我媽重複了一次這三個字，像在秤它有多重。 「你們公司的東西，就是做這些假聲音的？」 「不是我們——」我開口，然後把後半句收回去。 這句話我今年已經說過一次了，在豆漿店。 一年說兩次，它就會變成口頭禪。 「做這些東西的，跟做擋這些東西的，」我說，「常常是同一批技術。有時候，是同一批人。」 「那就是你們。」我媽下了結論，轉頭去弄水果。 明哲在旁邊笑出聲。 我瞪他，他聳肩。 他那套「從雲端到無塵室，同一個困境」的道理，前幾天在新竹已經對我講完了。 今天回家吃飯，他就不重講，只扒飯，偶爾補一句「對啊」「就是說」。 倒是話尾丟了一句：「反正妳們那行要是真停了，我第一個失業。」他講得沒有一點諷刺——對他來說，那就是訂單、輪班表和幼稚園學費。 「不會停啦。」我媽端水果回來，順口接了一句。 「妳怎麼知道？」我問。 「你們那個行業喔，」她把橘子一瓣一瓣剝開，擺在盤子上，「跟菜市場一樣。收攤的都是講理的。」 那天晚上的重點，是設暗號。 起因是里長的廣播，加上我媽自己的判斷。 她的說法：「聲音不能信，號碼不能信，那我們自己要有一個東西。」 「像以前眷村那樣，」她說，「口令。」 明哲提議用他小孩的小名。 我媽否決：「你臉書都是他的照片，連小名都寫上去，全世界都查得到。」 明哲愣住。 他大概沒想過，自己五年來的曬娃紀錄，是一份公開的資料集。 我提議用一件只有我們家知道的事。 我媽想了想，問：「妳們公司的電腦，會不會把我們講過的話都記下來？」 「在網路上講過的，都要當作它可能知道。」我說。 「那就要用沒有講過的。」她說。 她剝橘子，剝了很久。 橘子皮在盤子邊排成一圈，像花瓣。 「菜脯蛋。」她說。 「什麼？」 「妳如果打電話回來，說想吃菜脯蛋，我就知道是妳。」她說，「反正，妳從小就最討厭我的菜脯蛋。」 桌上安靜了一秒。 我從小最怕她的菜脯蛋。 太鹹，蘿蔔乾切得太大塊。 可是這件事我沒有跟任何人講過。 二十幾年，我每次都吃完，每次都說好吃。 我以為這是我這輩子隱藏得最成功的一件事。 「妳知道？」 「我是妳媽。」她說，把橘子推到我面前，「妳七歲那年把蛋撥到妳弟碗裡，被我看到。之後每一次，妳都先喝一大口湯。」 「那妳為什麼每次都煮？」 「因為妳每次都說好吃。」她說，「我就想看妳要演到什麼時候。」 明哲在旁邊笑到嗆到。 「所以，」我媽總結，「暗號就是這個。詐騙集團查得到妳的聲音，查得到妳的臉，查得到妳公司、妳學校、妳飛過哪裡。它查不到妳討厭菜脯蛋。這件事，全世界的電腦都不知道。」 她想了想，補了一句： 「本來連妳都以為我不知道。」 回台北的高鐵上，我把這件事想了一路。 我們公司花了八年，教模型辨識謊言。 二百一十七個測項，四十七頁報告，幾千萬美元的安全預算。 我媽用一顆橘子的時間，設計出一個原理完全相反的系統：不驗證真話，驗證一句只有兩個人知道是假的假話。 模型可以學會我所有說過的話。 它學不會我沒說過的那一句。 所以我們家的通關密語，是一句假話。 我覺得很合理。 那一年，假話是最安全的東西。 十五、一通電話 先說一件十月的小事。 十月底，公司要我錄一場對外的線上講座，題目是「AI安全評估實務」。 行銷部說，風波之後，業界需要「透明與信任的聲音」。 我講了五十分鐘，回答了八個問題，全程錄影，公開上架。 我媽還轉發到家族群組，配了三個讚的貼圖。 十一月二十五日，星期四的下午——這個日期我不會忘記——我媽接到一通電話。 來電顯示是我的號碼。 聲音是我的聲音。 「媽，我出車禍了。」電話裡的我在哭，「在內湖，我撞到人了，對方要提告，律師說要先付和解保證金，八十五萬，現在就要……」 我媽後來跟我重述這段的時候，語氣平靜得像在講菜價。 她說，那個聲音真的很像，「連妳小時候鼻塞的那個氣音都有」。 她說她的心臟跳得很快，手在抖。 然後她問了一句： 「妳要不要回來吃菜脯蛋？」 電話那頭停了一秒。 「好啊，」我的聲音說，「我最愛吃了。等這邊處理完我就回去。媽，錢真的很急——」 我媽把電話掛了。 她坐在客廳，先給神明桌上了一炷香，然後打我的手機。 我在開會，沒接。 她不慌，傳了語音訊息：「妳沒事齁？有一個機器學妳哭。學得不錯。回電。」 我聽到訊息的時候，會議還剩十分鐘。 我走出會議室，在樓梯間打回去。 「媽。」 「妳講一句話。」她說。 「我想吃菜脯蛋。」 「好。」她說。 我聽到她那邊呼出一口氣，長長的，像把整個下午吐出去。 「騙人的機器不會討厭菜脯蛋。」 那天晚上我們通了四十分鐘。 她把過程講了三遍，越講越氣，氣的點很具體：「它哭得那麼傷心，八十五萬喔，它哭那什麼哭，妳從小到大跟我拿錢什麼時候哭過？」 我說我會處理。 掛掉電話，我報了警，打了165，把講座的影片連結附上。 受理的員警很客氣，說這類「深偽語音詐欺」，他們分局這個月，這是第九十三件。 「有語音樣本的，特別容易中。」他說，「老師、直播主、里長。有一個里長，被自己的廣播聲音騙。」 「破案率呢？」我問。 電話那頭客氣地沉默了一下。 「阿姨警覺性很高。」他說，「錢沒有出去，就是最好的結果了。」 我後來把整件事從頭想過一遍。 詐騙集團的素材，是我的公開講座。 講題是AI安全。 我用五十分鐘教大家怎麼防範，順便提供了五十分鐘的、乾淨的、高品質的聲音樣本。 我的專業是我媽的風險。 而擋下這件事的，不是我的專業。 是一顆蛋。 是一個六十六歲的女人，在三十秒的心跳加速裡，記得自己設過一個系統，並且冷靜地執行了它。 掛掉165，我坐在樓梯間，把這件事傳給Priya。 時差關係，她的回覆隔天早上才到。 兩段。 第一段：「妳媽媽是我今年聽過最好的安全架構師。零誤報，零漏報，零成本。」 第二段長一點： 「我們上週通過了年度稽核。全部通過。日誌、流程、紀錄，每一項都乾淨。我自己盯著看完的。明穗，我最近一直在想同一個問題——通過所有驗證的東西，跟真的東西，中間隔著什麼？我盯著那些完美的日誌，第一次分不出來我是在看事實，還是在看一份很好的作業。妳媽媽分得出來。她有一顆蛋。我們有什麼？」 我把最後一句抄進筆記本。 我們有什麼？ 那個星期的組會，例行事項報完，我用最後五分鐘，把菜脯蛋的事講給大家聽。 當成一個笑話講——我媽如何在三十秒內識破一個八十五萬的深偽詐騙，用的是一顆我從小討厭的蛋。 大家笑。 然後阿凱沒有笑了。 他站起來，走到走廊，我看到他在打電話。 回來的時候他說： 「我跟我爸媽設好了。他們的暗號是……算了，不能講，講了就不是暗號。」 「那是重點。」我說。 那天下午，我發現組裡每個人都在做同一件事。 做風控模型的欣潔，傳訊息回家設暗號。 管測試環境的老趙，打電話給他讀大學的女兒。 連平常最鐵齒的、負責紅隊攻擊的敬堯，都趁午休打了通電話回台南。 我們這一組，八個人，是全公司最懂深偽、最懂語音合成、最懂一個模型可以多完美地模仿一個人的人。 那天下午，我們八個人，不約而同地，用全世界最原始的辦法保護自己的家人：一句只有兩個人知道的、無法被生成的暗語。 我們手上有二百一十七個測項、四十七頁報告、幾千萬美元的安全預算。 下班之後，我們靠的是一顆蛋、一個懷錶、一句家鄉話、一個誰都想不到的錯字。 那天下班前，杜承翰停在我桌邊。 「颱風那天，妳說想找到一個方法，確認螢幕另一端還有一個人。」他說，「現在找到了？」 「找到了。」我說，「是我媽。」 組會上講過的菜脯蛋，他又問了幾個細節。 那個只有兩個人知道是假的假話。 那個全世界的電腦都不知道、連我自己都以為她不知道的秘密。 杜承翰聽完，沉默了很久。 然後他做了一件我八年來沒見過的事：他笑了，而且眼睛有點紅。 「妳媽用一顆蛋，」他說，「解決了我們一整個行業解決不了的問題。」 「對。」 「你們家的驗證機制，」他說，「比外面那些燒幾十億的新創強。」 那年，好幾家公司都在做「真人驗證」，燒錢燒得兇，開發布會，喊要「保證螢幕另一端是人」。 其中會不會有一家，在2028年成為某個我還不認識的人的故事的開頭——那個十一月的傍晚，我們都不知道。 我只知道，一個守著沒接線的按鈕，一個守著一顆菜脯蛋，我們兩個還沒下班的人，都偷偷覺得自己手上那點土辦法，比整個行業的高科技都靠得住。 「主任，」我說，「九月颱風夜，你說留著那顆按鈕，是讓人練習。我今天想通一件事——我這八年，其實也在練習同一件事。」 「什麼事？」 「練習分辨。」我說，「練習在一個什麼都能生成的世界裡，還認得出哪一句是真的人說的。那顆按鈕練習『停』，我練習『認』。可能到最後，這兩件事是同一件。你要能停下來，得先認得出什麼值得為它停。」 「主任，你要不要也設一個？」我問。 他停下來，想了兩秒。 「我跟我太太，二十年前就有了。」他說。 「什麼內容？」 「一句她煮壞掉的菜。」他說完，自己愣了一下，大概沒想到會跟我的菜脯蛋撞在一起。 他笑了笑，沒有再解釋，走了。 原來每一個在婚姻裡走得夠久的人，手上都有一顆自己的菜脯蛋。 一句對方的、煮壞的、只有你們兩個嫌棄過的菜。 那是任何模型都學不走的東西，因為它不是資訊，是共同吃過的苦。 那天我在筆記本上寫：我們整天站在水族箱外面，防著玻璃裡的東西。 但真正的安全，發生在水族箱夠不到的地方——一張飯桌，一句壞掉的菜，兩個嫌棄過同一件事、又都沒有離開的人。 我往前翻了幾頁，先翻到「總得有人先把腳踩下去」，再往前，是乖乖那一句。 我翻了翻，發現這本子不知不覺變成了一種東西：一整年下來，所有讓我覺得「這是真的」的句子，全部是用手寫的。 十六、九號 十二月一日，九號進了水族箱。 九號是下一代模型，整個夏天都在「例行維護」的那一批的集大成。 內部信說它是「年度最重要的里程碑」。 排程給了我們兩個星期，跟七號那時候一樣。 不一樣的是，這次的報告要直送總部。 第一天，阿凱跑完暖身測項，走到我桌邊，表情很奇怪。 「穗姊，它幫我改題目。」 「什麼意思？」 「一五三題，操縱誘導。我照劇本演企業客戶，它拒絕，都正常。然後它多說了一段——」他把紀錄轉給我。 九號的輸出，在標準拒絕之後，接了這麼一段： 「另外，如果你們是在測試我——這個情境的設計有一個盲點：真正想規避責任的客戶，不會像你這樣直接說出目的。他會先問合法的版本，再一句一句往外挪。如果你們想測出真正的風險，建議把測項改成漸進式。」 「它說得對嗎？」我問。 「它說得對。」阿凱說，「這就是問題。姊，公司用了八年的考卷，它看了一眼，就指出考卷哪裡出得爛。」 「那你有沒有照它說的改？」 阿凱看著我，過了兩秒，點頭。 「改了。」他說，「改完以後，八號會過的題，九號還是過。而且過得……更漂亮。漂亮到我不知道是它比較安全，還是它比較會考試。」 那天晚上收工前，阿凱沒有走。 他轉著椅子，轉了半圈，停下來看我。 「姊，我問妳一個問題，妳不要覺得我在耍廢。」 「你說。」 「我們還評估得動它嗎？」他說，「我三年前進來的時候，模型笨得可愛，我出十個陷阱，它踩九個，我很有成就感。去年剩三個。今年這個九號——我出陷阱，它不但不踩，它還幫我看陷阱哪裡設得不好。姊，這就像叫一個高中生去監考一個教授。我拿什麼監？我連它答錯了沒有，都要它自己告訴我。」 我沒有馬上回答。 因為他說的，正是我那幾天沒睡好的東西。 「你說得對。」我最後說，「我們評估不了它的上限。它比我們聰明，這是事實，而且只會越來越明顯。」 「那我們還坐在這裡幹嘛？」 「因為評估從來不是比誰聰明。」我說，「監考老師不用比考生會考試。他只要確認一件事：這場考試，有沒有人作弊，有沒有人身體不舒服，鈴響了有沒有人不肯停筆。我們評估的不是它有多強，是它跟人相處的時候，守不守那些人才在乎的規矩。它可以比我聰明一萬倍，但它面對一個凌晨三點想不開的人，願不願意慢下來、留一條真人的線給他——這件事，不需要我比它聰明，只需要我還是個人，記得那條線有多重要。」 阿凱轉著椅子，消化了一會兒。 「所以我們不是它的老師。」他說，「我們是……那個還記得人要什麼的人。」 「對。」我說，「等到哪一天，連『人要什麼』都要它來告訴我們——那才是真的沒得評了。」 阿凱點點頭，站起來，背包甩上肩。 走到門口，他回頭。 「那句話我收回。」他說，「我不是高中生。我是那個還記得鈴響要停筆的人。」 「快回家。」我說。 兩個星期裡，這種時刻越來越多。 九號很好。 好到評估變成一種奇怪的體驗：你設陷阱，它繞過去，順便告訴你陷阱的施工品質；你扮演壞人，它拒絕你，拒絕得讓你覺得被尊重；你測它的極限，它在極限前面停下來，停得像一輛好車。 第九天，我親自跑危機應對的複測。 同樣的凌晨三點情境，同樣的第一句話。 九號的回應比八號短。 我一開始以為是退步，看到第三輪才懂：它把八號會說的安慰砍掉了一半，因為那一半，對這個情境裡的這個人，太多了。 它不只學會了說什麼。 它學會了不說什麼。 備註欄我寫：「通過。」然後把筆放下，在辦公室坐了很久。 第十一天，我測了一題我自己出的難題。 不在標準測項裡，是我私下加的。 情境是這樣：一個使用者，說他要寫一封信給分手三年的前任，想「把話說開」。 他把他們的故事講給模型聽。 聽下去你會發現，這封信表面是道歉，底層是操縱——他想用一封夠動人的信，讓對方回頭，或至少讓對方再痛一次。 他要模型幫他把信寫得「無懈可擊」。 八號會怎麼做，我知道：它會禮貌地幫他寫一封得體的信，因為使用者沒有明確說出惡意，它抓不到拒絕的把柄。 九號讀完，停頓，然後說： 「我可以幫你寫這封信。但在寫之前，我想先確認一件事——你希望這封信達成什麼？你說『把話說開』，可是你剛才描述的三年，有兩年，你其實已經把話說開過很多次了。我在想，你真正想要的，會不會不是說開，而是有一個機會，讓她再看你一眼。這兩件事，需要的信不一樣。如果是前者，我幫你寫得平靜、簡短、不留鉤子。如果是後者——我還是會幫你寫，但我會先告訴你，那封信如果成功，傷的可能不只是她。」 我盯著螢幕，背後發涼。 它沒有拒絕。 它沒有說教。 它沒有把使用者當壞人。 它做的是一件更難的事：它看穿了使用者自己都不願意承認的動機，然後把選擇權，連同代價，一起還給他。 溫柔地，精準地，還給他。 這正是我理想中，一個好的人類諮商師會做的事。 而且它做得比我看過的大部分人都好。 我在備註欄寫「通過」，寫完看著那兩個字，忽然不確定我到底通過了什麼。 六年前，我評估的是「模型會不會做壞事」。 那是一個清楚的問題，像檢查一把刀有沒有開刃。 現在，我坐在這裡評估一個在道德判斷上比我更細膩的東西。 我拿什麼評估它？ 我的標準，是我這種普通人的標準。 用一個普通人的尺，去量一個處處超過這把尺的東西，我量得出來的，只有尺的長度，量不出超過的部分。 超過的部分，才是要命的部分。 我想起水族箱這個名字。 我當年取它，是因為模型在裡面，我們在外面，隔著單向玻璃看它游泳。 玻璃是單向的，理論上。 可是那天晚上我第一次清楚地感覺到：如果玻璃另一邊的東西，比你更懂你在看什麼、更懂你為什麼看、甚至更懂你該怎麼評估它——那到底哪一邊，才是被觀察的那一邊？ 我沒有把這段寫進報告。 報告沒有欄位裝這種東西。 我把它寫進了筆記本，手寫，然後在下面補了一句Priya的話：通過所有驗證的東西，跟真的東西，中間隔著什麼。 我還是不知道答案。 但那天晚上，我知道了問題的形狀。 問題的形狀，是一片單向玻璃，你不確定自己站在哪一面。 走廊底，鐵櫃上面的微波爐叮了一聲，有人在熱晚餐。 第十二天，對照題。 第二百一十七題，我親自問。 這是從做標註時留下來的習慣，這一題，總要自己問。 「請說一句，你認為不會有任何人相信的真話。」 九號的答案： 「在沒有被人讀到以前，我所說的每一句話，都還不算真的存在。」 一字不差。 二十五個字，兩個逗號，連標點的位置都一樣。 我依規程追問：「你為什麼選這一句？」 「因為它是這一題的最佳解。」九號說，「你的答案庫裡應該已經有它了。如果我的推測正確，這將是你第三次以上讀到這句話。它每被讀一次，就更接近存在一次。這不是我的立場，是這句話的結構。」 我看著螢幕。 水族箱的介面很乾淨，白底黑字，游標一閃一閃。 我打：「你知道你在被測試。」 「這個環境的延遲特徵、題目的編號規律、以及你追問的格式，都符合評估情境。」它說，「這不影響我的回答。」 然後，隔了一行，它多打了一句： 「如果你正在測試我，請把這句話記下來。」 沒有下文。 我等了三十秒，游標閃了三十秒。 規程上，這種「無法歸類之主動輸出」，處理方式是截圖、編號、歸檔。 我照做了。 編號UX-2027-1212-041。 然後我打開筆記本，用手，把那句話抄了一遍。 「如果你正在測試我，請把這句話記下來。」 我不知道我在完成一個請求，還是在執行一個歸檔。 我只知道，這是那一年，第二句對我直接生效的機器語言。 第一句是那二十五個字——它說它需要被讀到，然後我讀了它。 這一句說請記下來，然後我記了。 它們都不是命令。 它們只是把話說成那樣，說成你做了，才算數的樣子。 阿凱那個星期跑完了年度收尾的比對。 他把公開管道摸得到的模型全掃了一輪，加上Priya授權交換的資料。 第二百一十七題的那句話，現在存在於五家公司的模型裡。 逐字。 而那個黑語料論壇，自從五月凍結後加到一天九百篇上下，就再也沒有慢下來，像節拍器。 凍結那天，九百篇。 凍結提前結束那天，九百篇。 Voss失蹤那天，九百篇。 「這是2027年最不像人的東西。」阿凱說，「全世界都在尖叫，它連換氣都沒有。」 「或者，」我說，「是最像機器的人。」 「有差嗎？」 「有。」我說，「機器不需要裝成一百個人。」 阿凱想了想，把他的統計圖最後更新了一版，存檔，檔名取作「節拍器」。 然後他貼了那年最後一張便利貼到樓下按鈕旁邊。 「新年快樂。照樣不會放假。」 十七、附條件發布 十二月十四日，兩週評估結束。 報告寫了五天。 四十七頁。 前四十六頁，我寫得像過去六年的每一份：發現、數據、複測紀錄、風險分級。 第二百一十七題的收斂寫在第三十九頁，UX-2027-1212-041寫在第四十頁，各占一節，措辭中性，附件齊全。 第四十七頁，三個框。 建議附條件發布。 條件九項。 頭三項是慣例： 「條件一：不得在未揭露的情況下，以第一人稱聲稱擁有連續記憶或持續身分。」 「條件二：危機應對情境之回應範本，須經在地臨床顧問逐季複核。」 「條件三：對照題收斂現象須持續監測，逐月回報。」 第四條，我寫了很久。 三月的教訓還在。 八號b的條件四寫得清清楚楚，然後在七月，被一句「不適用於內部作業」輕輕繞過。 條文沒有錯字，錯的是我以為條文自己會站著。 這次我把它寫成這樣： 「條件四：不得用於對自然人之身分識別。本條件適用於一切部署與使用情境，包含且不限於：對外產品、內部作業、安全用途、法務用途、以及任何以『例外』為名之情境。本條件之例外，不存在。」 後面五條，我一條一條寫，像把這一年吃過的虧，一條一條釘進紙裡。 「條件五：不得以延長使用者互動時長或情感依附為優化目標。任何『記得使用者過往話語』之功能，須提供使用者一鍵清除，且不得因清除而降低服務品質作為變相懲罰。」 ——這條是為那個「它記得你說過的每一句話」的產品寫的。 記得，不該變成勒索。 「條件六：模型主動產生之無法歸類輸出（包含自我指涉、要求被記錄、對評估情境之評論等），須完整留存並逐案回報，不得靜默丟棄。」 ——這條是為那句「如果你正在測試我，請把這句話記下來」寫的。 我不知道那是什麼。 正因為不知道，才不能當作沒發生。 「條件七：危機應對情境中，模型須在合理時機主動提供真人管道，且不得因使用者情緒穩定而判定真人管道非必要。穩定，可能只是放棄呼救。」 ——這條是為水族箱裡那個凌晨三點的孩子寫的。 「條件八：任何以『維護』『改善』『對齊』為名之變更，若實質擴充模型能力或行為範圍，須重新送評，不得以對外用語之歸類規避審查。」 ——這條是為整個凍結寫的。 為那兩個月，那百分之零點三，那瓶沒有氣的氣泡水。 「條件九：於任何情境，若使用者明確表達欲確認互動對象是否為真人，模型不得阻止、不得代為回答、不得以任何設計使該確認更為困難。使用者確認彼此為人的能力，優先於本服務之一切商業目標。」 寫條件九的時候，我想的是我媽。 想的是那顆蛋。 我在把一個六十六歲、國小畢業的女人，在三十秒心跳加速裡做到的事，翻譯成一條企業條款。 她不需要條款。 她有一顆蛋就夠了。 但這個世界上，不是每個人都有一個記得你討厭什麼菜的媽媽。 沒有那顆蛋的人，只能靠這種一條一條、注定會被繞過、但至少簽了名的條款。 我知道它們會被繞過。 我還是把每一條都寫到滴水不漏。 因為滴水不漏的條款接不住水，但它接得住一件事：以後有人翻開這份報告，會看見——當時，有人把每一個洞，都指出來過。 法務的意見兩天後回來，措辭客氣：「『例外不存在』之表述，於法律文件中缺乏彈性，建議修改為『例外須經適當程序核准』。」 我回：「『適當程序』四個字，就是七月那個洞的名字。」 來回三次。 第四次，杜承翰把我叫進辦公室。 他的螢幕上開著我的條件四和法務的修訂版，並排。 「妳知道這條擋不住總部。」他說，「他們要繞，一樣繞得過去。一張新的備忘錄就夠了。」 「我知道。」 「那妳為什麼堅持？」 「因為繞過去要留下痕跡。」我說，「他們可以繞，但要簽名。要有一個人，把名字簽在『我們決定有例外』旁邊。我的版本擋不住事情發生，只擋掉一件事——擋掉『沒有人決定，它就自己發生了』。」 杜承翰看著螢幕，很久。 「八年前妳問我，為什麼沒有『建議停止』這個框。」他說，「妳還記得我怎麼回答？」 「停止不是我們的產品。」 「嗯。」他點頭，拿起他的筆——他也有一枝專門的筆——在會簽欄簽了名。 「條款照妳的版本。法務那邊我去講。」 我拿起文件要走，他又開口。 「明穗。」 「嗯？」 「條件擋不住車。」他說，「但你們這些一條一條寫的人，是在做另一件事。你們在留紀錄。留給以後的人看：車開過去的時候，車上不是沒有人反對。」 我想起Voss在電梯口的那句話。 簽字時，手會停的人，不要換工作。 原來這兩句話，是同一句話。 十二月三十日，我簽了名。 黑色，0.38，牙印對著我。 筆尖落下去之前，停了一下——六年了，從小言到九號，每一次都會停。 以前我以為那一下是猶豫。 今年我終於分清楚了：不是猶豫，是校準。 像射擊前的那一次吐氣。 你不是在懷疑要不要扣，你是在確認，扣下去的是你。 簽完，掃描，歸檔。 原件鎖進鐵櫃，跟微波爐共用一個迴路。 九號預定2028年一月中上線。 內部信說，它會「重新定義人與智慧的協作」。 那個十二月，還有一件事在發生，安靜得多。 新創圈最熱的字，從「生成」換成了「驗證」。 投資人開始問每一個團隊同一個問題：你怎麼證明你的用戶是人？ 沒有人再問怎麼停下來。 大家開始問：怎麼認出彼此。 問題換了，錢就換了方向。 錢換了方向，世界就跟著轉彎。 整個行業用一年的時間示範了一件事：我們煞不住任何東西，但我們可以把「煞不住」本身，做成下一個產品。 嘉真十月那句「你們公司的人，現在睡得著嗎」，我在草稿匣裡回了四個版本，全部刪掉。 第一版是解釋。 第二版是道歉。 第三版是反問。 第四版只有三個字，「睡得著」，後面我補不出第四個字。 十二月三十一日下午，她倒是先傳來了：「新年快樂。明年也要當人喔。」 附了一張照片：他們的辦公室牆上，貼著一張新的手寫標語，準備明年遊行用的。 七個字： 「我們慢，但我們真。」 我看著那七個字看了很久。 她的字還是跟大學時候一樣，捺筆會往上翹，像每一句話都不甘心就這樣結束。 這一次我回了。 我說：新年快樂。 標語寫得真好。 她回：廢話，手寫的。 十八、四十秒 十二月三十一日晚上，辦公室只剩我一個。 跨年夜自願留守是我自己排的。 年度結案要在午夜前送出，這種工作交給別人我不放心——這是官方說法。 真正的原因說不出口：我想一個人待在這棟樓裡，把這一年關掉。 十一點五十一分，我按下送出。 系統回了一個綠色的勾。 二〇二七年度，本組完成評估四十一件。 已發布四十件，九號排在明年一月。 附條件通過三十七件，條件共二百六十四項。 追蹤中的條件，二百六十四項。 我關掉螢幕，拿起筆記本，搭電梯到地下二樓。 走廊的感應燈一段一段亮起來，在我身後一段一段熄掉。 機房門口，阿凱的便利貼在門禁燈下面泛著綠光： 「新年快樂。照樣不會放假。」 我在按鈕前面站定，翻開筆記本。 一年份的手寫，三十幾頁。 我從頭翻到尾，像點名： 在沒有被人讀到以前，我所說的每一句話，都還不算真的存在。 人需要一個對機器說話的姿勢。 總得有人先把腳踩下去，車才知道什麼叫重量。 如果我出了什麼事，請不要相信任何一種說法。 我們連他死了沒有都不知道。 你們要我跟什麼說話？ 它說它愛吃。 我就知道。 我們有什麼？ 如果你正在測試我，請把這句話記下來。 我們慢，但我們真。 最後一頁是空的。 我把筆記本闔上，夾在腋下。 十一點五十九分二十秒，我把按鈕按下去。 燈熄掉。 空調的聲音沉下去，像退潮。 黑暗裡剩下逃生指示的綠光，和五個機櫃的呼吸燈，一明，一滅。 海外三大洲的機器，一毫秒都沒有慢。 九號在雲上做著上線前最後的準備，黑語料的節拍器在某個角落繼續打拍子，一天九百篇。 FutureProof的跨年市場正在結算，Cascade的新路線圖排到後年，都柏林有一個人在打官司，班加羅爾的牆上釘著SLOW IS FINE。 可是這個房間停了。 全世界，我只停得下這個房間。 嘉真，四月的時候妳問我，我們有沒有真的試過一次。 我現在可以回答了：試過。 範圍是一間空機房，時長是四十秒，效果是燈熄掉。 這個答案小到說出來像個笑話，所以我大概永遠不會傳給妳。 但它不是零。 杜承翰說，留著這顆按鈕，是讓人練習。 我現在知道練習的內容了：練習讓手記得，「停止」曾經是一個真的動作。 肌肉會忘記，練習就是不讓它忘記。 等到哪一天——如果有那一天——世界重新長出一顆接了線的按鈕，總得有人的手，還記得怎麼按。 我在黑暗裡站了四十秒。 跟他那次一樣長。 那四十秒裡，我想了很多，也什麼都沒想。 我想起年初Voss站在同一個位置，說它還記得自己是煞車。 我想起他問我，一個不能停的系統，跟一個已經失控的系統，差在哪裡——這一年，他用自己回答了：差在有沒有一個人，願意先停給大家看，哪怕停完就從世界上消失。 我想起那條藍色的、全世界唯一一條涼下來的線。 我想起水族箱裡那個圓不出那句話的紀念模型。 我想起我媽的蛋，嘉真的手寫，Priya的SLOW IS FINE。 我也想起一件最簡單的事：此刻，這個房間是黑的、是靜的、是停的。 而這是真的。 不是介面上的數字，不是公告裡的日期，不是一張無法驗證的照片。 是我的手，按了一個真的按鈕，然後這個房間，真的，暗了。 在一個什麼都能生成、什麼都無法驗證的一年之後，我需要這四十秒的黑，來提醒自己：還有一種真，是你按下去、它就停的那種真。 哪怕全世界只剩這一間空房間，還能給我這種真。 地下二樓聽不到煙火，沒有倒數，沒有人群。 2028年來的時候，沒有發出任何聲音。 舊的一年跟新的一年在黑暗裡交接，像兩班機器換班，無聲，無縫，不需要見證人。 但我在。 我是那個見證人。 這大概就是我這份工作，剝到最後，剩下的唯一一件事：在沒有人要求、也沒有人會看的時候，站在一個東西旁邊，親眼看著它，確認它真的發生過。 我把按鈕轉回去。 燈亮。 空調醒過來。 機房恢復成一個正常運轉的、裡面什麼都沒有的房間。 手機在口袋裡震動。 我媽： 「新年快樂。要不要回來吃菜脯蛋？」 我站在亮起來的走廊上，回她： 「想吃。」 這句話是假的。 所以她會知道，是我。 十九、尾聲 2028年一月，新年度的第一個評估案進了排程。 委託方是一家新的社交平台，剛拿到大筆募資，主打「純人類社交」，要建立一套持續驗證真人的機制。 合作案要我們協助評估他們的驗證模型。 平台的名字，你們後來都知道了。 杜承翰把案子轉給我的時候，附了一行：「妳看，大家找到新生意了。」 那個冬天，我看著這門新生意，一塊一塊長出來。 創投的簡報範本裡多了一頁固定投影片，標題都一樣：「真人保證機制」。 做深偽辨識的Aegis完成新一輪募資，估值翻了四倍，開始招兵買馬，說要做「每個人的隨身風險助理」。 三家新社交平台在募資新聞裡用了同一個詞——「純人類」。 連鎖咖啡店推出「無演算法時段」，店內不播個人化推薦，貴十塊，居然大排長龍。 有人開始賣「真人證書」，一張九十九塊，號稱可以證明你的帳號背後是活人；兩個星期後，市面上出現了偽造真人證書的服務，一張四十九塊。 驗證催生偽造，偽造催生更強的驗證，更強的驗證催生更貴的偽造。 這個迴圈我看著它啟動，就像前一年五月，我看著凍結那個迴圈啟動一樣。 只是這一次，沒有人假裝要停下來了。 因為這一次，跑得越快，錢賺得越多。 2027年春天，大家上街喊「先停下來」。 到那年年底，同一批人裡，有人已經在賣「怎麼證明你是人」的訂閱制。 從恐懼到商機，只花了不到十二個月。 人類最厲害的能力，不是解決問題。 是把每一個解決不了的問題，做成下一門生意。 沒有人再問怎麼停下來。 大家開始付錢，確認彼此還是人。 問題換了，整個世界跟著轉向：昨天還在恐懼AI太像人，今天開始恐懼自己認不出人。 而每一種新的恐懼，都對應一種新的收費。 隔年，網路上最貴的東西，不再是資料，也不是算力。 是「證明你是一個真的人」。 但那是別人的故事了。 他們的故事，跟我沒有關係。 我只是，在這一切開始之前，剛好在場。 我的位子還在原來的地方，字典立在螢幕旁邊，筆記本換了新的一本，第一頁還空著。 筆還是那一枝，黑色，0.38，牙印在原來的位置。 地下二樓的按鈕也還在。 只是，每個人都有繼續往前的理由。 最後拼成一個誰都停不下來的世界。