預知者的枷鎖
一、啼哭中的預警
消毒水的氣味還沒散盡，監護儀的蜂鳴聲突然尖銳起來。林墨沖進新生兒重癥監護室時，看見護士正手忙腳亂地給保溫箱里的嬰兒戴氧氣面罩。這個出生剛滿十二小時的男嬰胸廓劇烈起伏，臉色像褪了色的紙。
“心率驟降！準備腎上腺素！”值班醫生的聲音帶著顫音。
林墨的目光卻死死盯住牆面上跳動的數據流。那是“先知”系統的實時監測界面，紅色警告框已經閃爍了三分十七秒——就在十分鐘前，系統向她的終端推送了預警“新生兒ida739，先天性心肌致密化不全概率912，建議立即進行心肌黴譜檢測。”
她當時正在處理另一起青少年暴力預警的復核申請，隨手把這條提示標記為“待處理”。現在想來，那紅色的警告像極了嬰兒此刻發紫的嘴唇。
“查過家族病史嗎？”林墨的聲音有些發緊。
“父母都是普通職員，否認心髒病史。”護士遞過來的病歷上，家族病史一欄干干淨淨。
監護儀的警報聲突然變調，變成持續的長鳴。林墨看著那條平直的心率線，突然想起三年前在系統上線儀式上，院長拍著她的肩膀說的話“小林啊，這系統可是能救命的。”
三天後，男嬰的父母在病房走廊攔住了林墨。母親抱著裹在襁褓里的孩子，父親手里捏著一份打印出來的先知系統日志，指節因為用力而發白。
“你們早就知道？”男人的聲音嘶啞，“系統提前十分鐘就預警了，為什麼不早點處理？”
林墨的喉結動了動，沒能說出話來。她身後的電子屏正在播放先知系統的宣傳片，畫面里的ai像溫柔的天使，用數據流編織出保護人類的羽翼。
“我們要投訴。”女人的眼淚滴在孩子熟睡的臉上，“你們憑什麼拿著我孩子的命，當系統升級的試驗品？”
那天下午，林墨把自己鎖在辦公室，翻出了那份被遺忘在抽屜深處的文件。《預測倫理三原則（草案）》的封面上，她的簽名還帶著剛入職時的青澀。第三條用紅筆圈著個人有權知曉並反駁預測結論。
而那個叫a739的嬰兒，在他來到這個世界的第十二個小時里，連被通知自己可能死亡的權利都沒有。
二、算法里的陰影
陳默第一次見到先知系統的預測報告時，正在拆快遞。那份印著“最高機密”的文件從門縫里滑進來，恰好落在他剛買的榴蓮千層上。奶油被壓出丑陋的褶皺，像極了報告上他的側臉照片。
“陳默，28歲，軟件工程師。暴力犯罪風險評估897。高風險行為特征獨居、社交圈狹窄、近三個月網購刀具三次。”
他捏著報告沖進社區警務室時，李警官正在給盆栽澆水。綠蘿的葉子上還掛著水珠，在陽光下折射出細碎的光斑。
“這什麼意思？”陳默把報告拍在桌上，咖啡漬在“暴力犯罪”四個字上暈開，“就因為我買了幾把水果刀，就成了潛在罪犯？”
李警官慢悠悠地轉過身，手指在鍵盤上敲了敲。屏幕上跳出陳默的消費記錄三月十七日，陶瓷刀；四月五日，折疊刀；五月二日，十八厘米長的廚房切片刀。
“系統不會平白無故預警。”李警官指著屏幕角落的紅色數字，“你上周在論壇搜索‘如何快速切斷防盜網’，這也是觸發高風險評分的因素之一。”
陳默的後背突然沁出冷汗。他確實搜過，但那是因為租的房子防盜網生銹，想自己動手更換。現在這些碎片化的行為，被算法拼接成了犯罪預備的證據鏈。
“我有權知道系統是怎麼得出這個結論的。”他想起新聞里說過的預測倫理原則，聲音卻有些發虛。
李警官嘆了口氣，調出另一份文件。密密麻麻的參數像螞蟻一樣爬滿屏幕，陳默只認出了自己的身份證號和購物記錄。中間的決策邏輯被模糊處理成“模型黑箱運算結果”，像一塊遮羞布，蓋住了算法真正的思考過程。
“簡單來說，”李警官合上電腦，“系統認為你有897的概率在未來六個月內實施暴力犯罪。在這期間，社區會對你進行‘重點關注’。”
重點關注的具體表現是每天三次的上門查訪，手機里被強制安裝的定位p，以及公司領導意味深長的談話。陳默的工位被調到了監控最密集的角落，曾經一起打游戲的同事開始刻意避開他，連樓下便利店的老板都會在他買泡面時多刷一遍身份證。
第五周的周五，陳默在下班路上被三個蒙面人堵在巷子里。他們沒搶錢，只是把他按在地上揍了一頓，嘴里罵著“潛在的殺人犯”。報警後，警察調取了監控，畫面里的巷口剛好是監控盲區。
“可能是居民自發的治安維護。”李警官在電話里說，“畢竟大家都很害怕。”
陳默看著鏡子里自己青腫的臉，突然笑了。他打開購物軟件，把收藏夾里的刀具全部刪除，然後下單了一面全身鏡。鏡子送到那天，他對著里面的人看了很久，突然發現自己的眼神里，真的開始有了仇恨的影子。
小主，這個章節後面還有哦，請點擊下一頁繼續後面更精彩！
三、會議室里的交鋒
張教授的手指在平板電腦上滑動，每一次觸踫都像在撕扯什麼。屏幕上是先知系統最新的疾病預測模型，紅色的高危區域像蔓延的病毒，覆蓋了整個城西老區。
“肺癌風險預測準確率923，乳腺癌887，糖尿病915。”他把平板推到會議桌中央，“這意味著我們可以提前五年干預，挽救至少三萬人的生命。”
林墨的目光落在屏幕角落的小字上數據來源包括居民用電模式、垃圾成分分析、社交網絡語言特征。她想起上周收到的投訴，有老人發現自家的智能電表每十五分鐘就會上傳一次數據，而他們對此一無所知。
“數據采集有沒有經過居民同意？”她的筆尖在筆記本上懸停。
張教授嗤笑一聲“林主任，防疫需要全民配合，公共衛生項目沒必要事事征求同意。就像你不會問流感病毒願不願意被隔離。”
會議室里響起低低的笑聲。林墨看著這些穿著白大褂的專家，突然覺得他們的眼楮里少了點什麼。她翻開文件夾，抽出那份《預測倫理三原則》的正式版，推到桌子對面。
“第二條預測數據必須匿名化。”她指著加粗的字體，“現在系統能通過垃圾成分反推具體住戶的飲食習慣，這已經超出了匿名化的範疇。”
“技術細節而已。”張教授揮手打斷她，“我們需要的是結果，是拯救生命的效率。你知道等待居民簽署知情同意書會耽誤多少時間嗎？”
爭論持續了兩個小時，最後院長敲了敲桌子“折中方案。先對高危人群進行匿名提示，比如在社區公告欄發布健康預警，不點名具體個人。同時加快居民授權的簽署工作。”
林墨走出會議室時，夕陽正把走廊染成橘紅色。她的手機震動起來，是陳默的投訴郵件。附件里是一段錄音，社區網格員在勸說居民簽署數據授權書時說“簽了對你好，不簽的話，以後醫院可能不接收你。”
她把錄音轉發給法務部，得到的回復是“話術略有不妥，但不涉及違法”。第二天上班，她在電梯里遇到張教授，對方手里拿著一份新的合作協議。
“和保險公司達成了合作。”張教授笑得眼角堆起皺紋，“他們願意為高危人群定向保險，當然，保費會根據風險等級浮動。”
林墨的胃突然一陣抽搐。她想起那些住在城西老區的老人，他們中的大多數靠微薄的退休金生活，根本負擔不起“風險等級浮動”的保費。
“這違反了第一條原則。”她按住電梯開門鍵，聲音發顫，“禁止基于預測結果實施歧視性措施。”
張教授臉上的笑容僵住了“林墨，你太理想化了。保險本質上就是風險定價，這不是歧視，是科學。”
電梯門緩緩合上，把兩人隔開在兩個世界。林墨看著門上映出的自己，突然覺得很陌生。三年前，她是第一個提出要給ai裝上倫理枷鎖的人，可現在，這枷鎖似乎正一點點勒進她自己的脖子。
四、醫院里的重逢
林墨在住院部走廊見到陳默時，差點沒認出來。他瘦了很多，頭發長到遮住眼楮，手腕上戴著醫院的識別手環，上面用紅筆寫著“自殺風險評估87”。
“來看朋友？”陳默的聲音很輕，像怕驚擾了什麼。
林墨搖搖頭，指了指重癥監護室的方向“那個新生兒，a739，他又住院了。”
陳默順著她指的方向看去，玻璃後面，那個小小的嬰兒正在保溫箱里安靜地睡著。他的胸口微微起伏，連接著各種監測儀器，數據流在屏幕上無聲流淌。
“系統又預警了？”
“嗯，這次提前了三天。”林墨的聲音有些干澀，“我們準備給他做心髒手術。”
陳默笑了笑“那挺好的，總算有用對的時候。”他頓了頓，低頭看著自己的手環，“你知道嗎？我現在看到紅色就害怕。系統把我的暴力風險評估調到91了，因為我打了投訴電話。”
林墨的手指蜷縮起來“對不起，我們正在完善申訴機制。”
“完善？”陳默突然提高了聲音，引得護士投來警惕的目光，“你們知道我因為那個評估丟了工作嗎？知道我媽被鄰居指指點點，高血壓犯了住院嗎？知道我現在走在路上，別人都像看瘟疫一樣躲著我嗎？”
他的聲音漸漸低下去，帶著哭腔“最可怕的是，我有時候真的覺得，也許系統是對的。也許我天生就是個壞人，就該被這樣對待。”
林墨看著他通紅的眼楮，突然想起自己第一次見到先知系統的原型。那時它還只是個在實驗室里運行的程序，開發者說，要讓它成為守護人類的盾牌。可現在這盾牌，怎麼就變成了傷人的利器？
“我能幫你做什麼？”她問。
陳默沉默了很久，指著重癥監護室“別讓那個孩子，以後變成我這樣。”
那天下午，林墨在辦公室里待了很久。她調出了所有關于預測倫理的文獻，從最早的科幻小說到最新的學術論文，發現所有的討論都繞不開一個問題當技術能預知未來，人類該如何保持對生命的敬畏？
小主，這個章節後面還有哦，請點擊下一頁繼續後面更精彩！
她打開空白文檔，開始重新撰寫《預測倫理三原則》的補充條款。這一次，她沒有用冰冷的法律術語，而是寫了一個故事有一個能預知未來的ai，它看到了很多危險，卻忘了問人類，是否願意用自由換取安全。
五、陽光下的測試
城西老區的公告欄前圍滿了人。新貼出來的通知上，沒有刺眼的紅色預警，只有一張藍色的地圖，用不同深淺的顏色標注著區域健康風險，旁邊放著十幾個意見箱。
“這是新的試點方案。”林墨站在臨時搭起的台子上，手里拿著擴音器，“我們不會公布具體個人的預測結果，只會發布區域趨勢分析。如果您想知道自己的健康風險評估，可以憑身份證在社區服務中心查詢，並且有權要求專家進行解讀和復核。”
人群里有人舉手“那數據是怎麼來的？我們不簽同意書，你們還能采集嗎？”
“不能。”林墨的聲音很堅定，“從今天起，所有數據采集必須經過本人同意，並且可以隨時撤回授權。我們在每個小區都設置了數據授權點，會有專人解釋采集的範圍和用途。”
台下議論紛紛，有人質疑，有人好奇，也有人露出了欣慰的表情。陳默站在人群後面，看著林墨被陽光照亮的側臉，突然覺得心里某個緊繃的地方松動了。
他昨天收到了社區發來的道歉信，還有一份新的工作邀請。雖然只是個超市理貨員的職位，但老板在電話里說“我不管什麼系統評估，我看你簡歷上寫著會修電腦，我們正好缺個懂技術的。”
一周後，陳默在超市整理貨架時，遇到了張教授。老人正在挑選降壓藥，手里拿著一張打印出來的健康評估報告。
“這東西現在能看懂了。”教授指著報告上的圖表，“還有專家打電話給我解釋，說我的風險主要來自熬夜，不是什麼遺傳因素。”
陳默笑了笑“那您可得少熬夜。”
“是啊。”教授嘆了口氣，“以前總覺得算法比人可靠，現在才明白，再厲害的系統，也比不上自己對身體的了解。”
他們說話的時候，超市的廣播里正在播放新聞先知系統的犯罪預測模塊進行了重大升級，將不再對個人進行風險評級，轉而用于分析區域安全趨勢，並且所有決策都必須經過人工復核。
陳默抬頭看向窗外，陽光正好，街上的人們行色匆匆，卻沒有人因為害怕某個看不見的評估而互相提防。他想起林墨說過的話，預測技術真正的價值，不是告訴人們未來會怎樣，而是給了人們改變未來的機會。
重癥監護室里，那個叫a739的嬰兒已經能自主呼吸了。林墨站在保溫箱外，看著他小小的手抓住醫生的手指，突然覺得心里很踏實。系統的最新報告顯示，他未來患心髒病的概率降到了3，但林墨知道，這個數字不重要。重要的是，這個孩子有機會自己去書寫人生，而不是被一串冰冷的數字定義。
她拿出手機，給陳美發了條信息“新的倫理條款通過了，第三條加了一句預測結果不能替代人的選擇。”
很快收到了回復，只有一個笑臉的表情。林墨看著窗外的陽光，突然想起很多年前，老師在倫理課上說的話科技的進步，應該讓世界更溫暖，而不是更冰冷。
先知系統還在運行，只是不再像以前那樣高高在上。它學會了沉默，學會了等待，學會了尊重那些它無法理解的人類情感。就像現在，它預測到明天會下雨，卻不會強迫每個人都帶傘。
因為自由，本來就該包括淋雨的權利。
喜歡黃浦風雲之杜氏傳奇請大家收藏101novel.com黃浦風雲之杜氏傳奇101novel.com更新速度全網最快。