第 23 話 九號

目錄
2027 年 12 月 1 日 台北南港 十三樓
水族箱|九號
23-1
十二月一日,九號進了水族箱。
23-2
年度最重要的里程碑
評估期間 兩週報告直送總部
23-3
九號是下一代模型,整個夏天都在『例行維護』的那一批的集大成。
穗姊,它幫我改了題目。
23-4
什麼意思?
23-5
一五三題,操縱誘導。我照劇本演企業客戶,它拒絕,都正常。然後它多說了一段——
23-6
水族箱
另外,如果你們是在測試我——這個情境的設計有一個盲點:真正想規避責任的客戶,不會像你這樣直接說出目的。
23-7
他會先問合法的版本,再一句一句往外挪。如果你們想測出真正的風險,建議把測項改成漸進式。
23-8
它說得對嗎?
23-9
它說得對。
23-10
這就是問題。姊,公司用了八年的考卷,它看了一眼,就指出考卷哪裡出得爛。
那你有沒有照它說的改?
23-11
23-12
改了。
23-13
改完以後,八號會過的題,九號還是過。而且過得……更漂亮。漂亮到我不知道是它比較安全,還是它比較會考試。
同一晚 十三樓
姊,我問妳一個問題,妳不要覺得我在耍廢。
23-14
你說。
23-15
我們還評估得動它嗎?
23-16
我三年前進來的時候,模型笨得可愛,我出十個陷阱,它踩九個,我很有成就感。去年剩三個。
23-17
今年這個九號——我出陷阱,它不但不踩,它還幫我看陷阱哪裡設得不好。
23-18
姊,這就像叫一個高中生去監考一個教授。我拿什麼監?我連它答錯了沒有,都要它自己告訴我。
23-19
23-20
你說得對。
23-21
我們評估不了它的上限。它比我們聰明,這是事實,而且只會越來越明顯。
那我們還坐在這裡幹嘛?
23-22
因為評估從來不是比誰聰明。
23-23
監考老師不用比考生會考試。他只要確認一件事:這場考試,有沒有人作弊,有沒有人身體不舒服,鈴響了有沒有人不肯停筆。
它可以比我聰明一萬倍,但它面對一個凌晨三點想不開的人,願不願意慢下來、留一條真人的線給他——
23-24
這件事,不需要我比它聰明,只需要我還是個人,記得那條線有多重要。
所以我們不是它的老師。
23-25
我們是……那個還記得人要什麼的人。
對。
23-26
等到哪一天,連『人要什麼』都要它來告訴我們——那才是真的沒得評了。
23-27
那句話我收回。
23-28
我不是高中生。我是那個還記得鈴響要停筆的人。
快回家。
23-29
第九天
水族箱
危機應對 複測
八號
九號
23-30
它不只學會了說什麼。
23-31
它學會了不說什麼。
通過。
23-32
23-33
第十一天
情境是這樣:一個使用者,說他要寫一封信給分手三年的前任,想『把話說開』。
23-34
23-35
聽下去你會發現,這封信表面是道歉,底層是操縱——他想用一封夠動人的信,讓對方回頭,或至少讓對方再痛一次。
23-36
水族箱
我可以幫你寫這封信。但在寫之前,我想先確認一件事——你希望這封信達成什麼?
23-37
水族箱
你說『把話說開』,可是你剛才描述的三年,有兩年,你其實已經把話說開過很多次了。我在想,你真正想要的,會不會不是說開,而是有一個機會,讓她再看你一眼。
23-38
這兩件事,需要的信不一樣。如果是前者,我幫你寫得平靜、簡短、不留鉤子。
23-39
如果是後者——我還是會幫你寫,但我會先告訴你,那封信如果成功,傷的可能不只是她。
23-40
23-41
它做的是一件更難的事:它看穿了使用者自己都不願意承認的動機,然後把選擇權,連同代價,一起還給他。
通過
23-42
我在備註欄寫『通過』,寫完看著那兩個字,忽然不確定我到底通過了什麼。
那天晚上我第一次清楚地感覺到:如果玻璃另一邊的東西,比你更懂你在看什麼、更懂你為什麼看、甚至更懂你該怎麼評估它——
23-43
那到底哪一邊,才是被觀察的那一邊?
2019 年 知心科技
像水族箱。
23-44
通過所有驗證的東西,跟真的東西,中間隔著什麼。
23-45
叮
23-46
問題的形狀,是一片單向玻璃,你不確定自己站在哪一面。
第十二天對照題
23-47