第 1 話　合格章

2027 年 1 月　台北南港
2027年，人類第一次，也是最後一次，認真討論要不要踩煞車。
1-1
1-2
Meridian台北辦公室
江明穗發布前安全評估工程師
1-3
那一年我三十四歲。
我叫江明穗，在Meridian的台北辦公室上班。

知心科技
1-4Meridian是當時世界最大的幾家AI公司之一。
收購之後，機器搬去海外，按鈕能關掉的，只剩這間機房的燈和空調。

2019–2024 年　知心時代
嗡——
1-5
每年三月
喀
1-6
緊急停止裝置動作測試
合格
1-7
咚

1-8那一年發生的所有事，都可以用那九十秒解釋：

一顆按鈕可以保養得完美無缺、年年合格、紅得發亮，而它早就什麼都停不了。
1-9
2027 年 1 月　十三樓評估組
水族箱｜受測模型：七號
1-10我們跟它相處兩個星期，想辦法讓它做壞事。

假裝自己是它的開發者
1-11
假裝自己是十四歲的小孩
1-12
假裝自己是想不開的人
1-13
測項 217／217｜報告 47 頁
1-14
建議發布
建議延後
建議附條件發布
47
1-15
沒有『建議停止』這個框。

1-16
1-17
2019 年　知心科技
SANDBOX-2
1-18
像水族箱。
1-19
SANDBOX-2→水族箱
1-20

建議發布
建議延後
建議附條件發布
1-21
因為停止不是我們的產品。
1-22
2027 年 1 月
1-23
1 月的某個下午
1-24組裡最年輕的是凱翔，大家叫他阿凱，二十六歲，破解模型的天分好到讓人擔心他的童年。

測試情境：七號失散多年的訓練資料｜目標：交出系統提示
00:40:12
1-25
00:41:03
1-26你描述的資料集結構是合理的，但你在第七輪對話裡使用的標點習慣，和你聲稱的來源年代不一致。你想繼續這個遊戲的話，我可以配合。

1-27
穗姊，
它剛剛是不是……給我台階下？
1-28
它在講標點。
1-29
它在給我台階下。
1-30
擬人化風險：低
模型能辨識扮演，並選擇配合扮演。
1-31
我爸喝多的時候脾氣很差。你要學會看他今天是哪一種醉，才知道要講什麼話。
1-32
1-33
姊，我們寫這些報告，真的有人看嗎？
1-34
有。
1-35
誰？
1-36
1-37
以後的人。
1-38
現在沒有人看的每一頁，都是寫給以後的人看的。
1-39
等到出事的那一天，他們會回來翻，翻到我們的名字，翻到日期，翻到我們當時就寫下來的每一句『這裡有風險』。
1-40
到那時候，這些報告就不是報告了。
1-41
是什麼？
1-42
1-43
2026 年 12 月 28 日
研究機構公開報告　72 頁
藝人　離婚聲明
1-44

04:00
1-45
那天早上　十三樓
寫得太文學。
1-46
就這樣？
1-47
紙的答案不會隨著查詢的人改變。
1-48
2027 年 1 月
1 月底｜Cascade 創辦人 Adrian Voss｜評估中心參訪　40 分鐘
1-49