黃浦風雲•算法審計困局判決之後
第一章 法庭外的余震法槌落下的那一刻，智愈科技ceo陳明遠的指節在旁听席扶手上掐出了白印。他沒等書記員念完判決書全文，就扯了扯價值不菲的西裝領口，彎腰從人群縫隙里鑽出去——身後傳來記者們“陳總留步”的呼喊，像針一樣扎在他背上。走到法院大門外，初秋的風裹著黃浦江上的潮氣撲過來，他才發現自己手心全是汗，手機屏幕上跳著三條未讀消息，全是投資方發來的“緊急會議”通知。
林硯之被圍在審判庭中央，鎂光燈晃得她眯起了眼。最先遞話筒過來的是《黃浦科技報》的記者，小姑娘聲音帶著急切“林處長，智愈科技被暫停全市業務，會不會導致部分醫院ai診斷斷供？”她還沒來得及回答，另一個男聲立刻插進來“有外資背景的科技企業已經在打听，黃浦的倫理審查會不會越來越嚴，他們要不要轉移研發中心？”
林硯之抬手壓了壓喧鬧，目光轉向旁听席最後一排——那里坐著三位穿白大褂的人，是市一院、二院的放射科主任，此刻正朝她點頭。“大家先看那邊，”她伸手指過去，“這三位是咱們黃浦頂尖醫院的影像科負責人，開庭前我們聊過，他們最擔心的不是ai斷供，而是‘帶病’的ai繼續用。”她頓了頓，聲音提高了些，“剛才判決書里說，智愈要補充罕見病數據、優化算法，這期間醫院會啟用備用方案——比如市一院已經聯系了高校實驗室，用經過倫理認證的開源ai系統過渡，不會影響患者就診。”
“那投資環境呢？”又一個問題拋過來。林硯之從公文包里掏出一張折疊的a4紙，展開時邊角還帶著褶皺“這是今天早上剛收到的，十家醫療ai企業聯合提交的《倫理審計試點申請書》，其中包括本土龍頭‘醫準智能’，還有兩家外資企業的中國分部。”她把紙舉到鏡頭前，“他們在申請里寫，‘明確的倫理規則比模糊的灰色地帶更能吸引長期投資’。我想，這就是市場給的答案——真正的投資者，不會因為要保護患者生命就撤資。”
人群里響起一陣低低的議論聲，有記者開始低頭記錄。林硯之瞥見人群外的小陳，姑娘正朝她比劃“ok”的手勢，手里拿著手機，屏幕上是“周明遠教授來電”的字樣。她趁機對記者們笑了笑“後續的《ai醫療算法審計指引》會在下午的行業座談會上公布，大家感興趣可以去參加，現在我得處理點緊急工作。”說著就側身從人群里退出來，快步走向電梯。
電梯里只有她和小陳兩個人，鏡面牆壁映出她們疲憊卻挺直的身影。“周教授說，國家衛健委看到了黃浦的判決，想把‘脫敏審計’模式寫進《科技倫理審查辦法》修訂草案，讓咱們團隊準備一份詳細的操作報告。”小陳壓低聲音，語氣里藏不住興奮，“還有，智愈科技的投資方‘啟明資本’剛發了聲明，說要撤回對智愈的兩億增資，並且啟動對陳明遠的盡職調查。”
林硯之靠在電梯壁上，長長舒了口氣。電梯下降時輕微的失重感里，她想起三個月前第一次見那三位誤診患者家屬的場景——市一院的會議室里，張阿姨的女兒抱著母親的病歷本哭，說“要是ai能多看看那幾張片子，我媽就不用遭化療的罪了”；李大爺的兒子拍著桌子說“他們拿‘技術保密’當擋箭牌，就是拿人命當兒戲”。那時她還不確定，這場官司能不能贏，能不能真的改變點什麼。
“對了林處，”小陳突然說，“剛才在法院門口，我看到智愈的cto趙偉了，他蹲在台階上抽煙，手里攥著一份算法日志，好像在哭。”林硯之愣了一下，趙偉她有印象——庭審時他坐在陳明遠旁邊，全程低著頭，只有在法官問“是否參與調整罕見病數據權重”時，才小聲說了句“是”。“先不管他，”她定了定神，“下午的座談會要提前半小時到，把《審計指引》的ppt再核對一遍，特別是‘動態審計’那部分，要把每季度提交報告的具體指標標清楚。”
電梯門打開，外面的陽光比法庭里亮得多。林硯之走出去時，手機突然響了，是個陌生號碼，歸屬地是黃浦本地。她接起電話，那頭傳來一個沙啞的男聲“林處長，我是智愈科技的前算法工程師，叫王海。我……我有東西要給您，關于智愈算法的，可能比庭審時的證據更重要。”
第二章 智愈的崩塌
王海約林硯之在江邊的一家咖啡館見面。他來的時候穿著洗得發白的格子襯衫，背著一個舊雙肩包，坐下時手還在抖，點了杯熱美式，卻一口沒喝，只是反復摩挲著杯壁。“我上個月從智愈離職的，”他低著頭，聲音很小，“陳明遠讓我們把罕見病數據權重下調的時候，我就覺得不對勁，但我不敢說——我老婆懷孕了，要還房貸。”
林硯之沒催他，只是把自己的溫水推了過去“慢慢說，你想給我什麼？”王海深吸了口氣，從雙肩包里掏出一個銀色的u盤，放在桌上推過來“這里面是智愈算法的‘後門日志’。陳明遠怕審計，讓我們在算法里留了個口子——只要輸入特定的指令，就能讓系統在診斷時跳過罕見病檢測模塊，直接輸出常見病結果。”他抬起頭，眼楮通紅，“上次庭審時，趙偉說‘系統緩存未清空’，其實是在撒謊，那天審計沙箱里的算法，根本沒啟用完整功能，是陳明遠讓他遠程操作，開了後門。”
本小章還未完，請點擊下一頁後面精彩內容！
林硯之拿起u盤，指尖傳來冰涼的觸感。“你為什麼現在願意說？”她問。王海苦笑了一下，從口袋里掏出一張醫院的繳費單“我媽上周查出了肺淋巴管平滑肌瘤病——就是庭審時說的那種罕見病。我帶著她去醫院，醫生說，要是用智愈的ai，大概率會誤診。那時候我才想明白，我當初寫的那些代碼，可能會害了我最親的人。”
他的聲音開始哽咽“離職前，我偷偷把後門日志拷了下來，一直不敢交——怕陳明遠報復。但昨天看到判決書，看到你說‘創新不能犧牲患者生命’，我覺得我得站出來。不然我媽要是知道我做過這種事，她都不會原諒我。”
林硯之把u盤收進公文包，拿出一張名片遞給他“這個u盤很重要，我會交給技術團隊核驗，之後可能需要你配合做個筆錄。你放心，我們會保護你的個人信息，不會讓智愈知道是你的。另外，你媽媽的病，我可以幫你聯系市一院的呼吸科專家，他們對這種罕見病很有經驗。”
王海接過名片，手指在“黃浦市科技局倫理監管處”的字樣上反復蹭著，突然就哭了“謝謝林處長……我一直覺得自己是個幫凶，現在終于能做點對的事了。”
從咖啡館出來，林硯之立刻給老周打電話——老周是團隊里的技術負責人，退休前是市信息安全中心的主任。“老周，你現在立刻回辦公室，我帶了個u盤，里面有智愈算法的後門日志，需要馬上核驗。”她語速很快，“另外，查一下智愈科技的服務器ip，看看他們有沒有在判決後偷偷刪除數據。”
“好，我這就回去。”老周的聲音里帶著警惕，“剛才我監測到智愈的後台有異常流量，好像在往境外傳數據，我已經截了包，正準備分析。”
掛了電話，林硯之打車往辦公室趕。車窗外，黃浦江上的貨輪緩緩駛過，岸邊的梧桐葉開始泛黃。她想起庭審時陳明遠說的“ai準確率982”，突然覺得很諷刺——那2的誤差，對患者來說就是100的災難。
回到辦公室時，老周已經在技術室等著了。小陳把u盤插進隔離電腦，屏幕上立刻跳出一串加密文件。老周戴上眼鏡，手指在鍵盤上飛快敲擊，代碼像流水一樣在屏幕上滾動。“找到了，”他突然停下，指著其中一行代碼，“這里有個隱藏的觸發指令，輸入‘zy101novel.com24’，系統就會自動屏蔽罕見病特征提取模塊。”他又點開一個日志文件，“你看，從101novel.com23年10月開始，這個指令被調用過17次，每次都是在醫院突擊檢查或者客戶試用的時候。”
小陳湊過來看，倒吸了一口涼氣“他們竟然早就留了後門？那之前的審計沙箱里，是不是也被調用過？”
“很有可能。”林硯之皺起眉，“老周，能不能根據這個後門，追溯一下之前有多少患者可能被誤診？”
老周搖搖頭“很難，智愈的診斷數據是碎片化存儲的，而且他們已經刪除了一部分101novel.com23年的日志。不過我們可以根據現有的病例，估算一個範圍——按照他們的調用頻率，保守估計有上百個罕見病患者可能被漏診。”
林硯之沉默了一會兒，拿起手機撥通了市衛健委的電話“王主任，我是林硯之。智愈科技的ai系統里發現了隱藏後門，可能涉及大量漏診患者，需要你們協調各醫院做一次全面排查……對，越快越好，特別是101novel.com23年10月之後用智愈系統診斷的患者。”
掛了電話，她靠在椅背上，閉上眼楮。小陳遞過來一杯熱茶，輕聲說“林處，你別太自責，這不是你的錯。”
“我知道不是我的錯，”林硯之睜開眼，眼底有紅血絲，“但我總在想，如果我們早點發現，是不是就能少一些像張阿姨那樣的患者？”她想起早上張阿姨女兒的電話，姑娘哽咽著說“媽媽最近咳嗽得更厲害了”，心里就像被什麼東西揪著疼。
這時，辦公室的門被推開，門口站著一個人——是智愈科技的cto趙偉。他頭發亂糟糟的，眼楮紅腫，手里提著一個黑色的電腦包，看起來像是一夜沒睡。“林處長，”他聲音沙啞，“我來交東西——智愈所有ai診斷系統的源代碼，還有未刪除的原始日志備份。”
林硯之和小陳對視了一眼，都有些意外。趙偉把電腦包放在桌上，拉開拉鏈“陳明遠跑了，早上的飛機去美國了，留了封信讓我‘頂住’，但我頂不住了。”他蹲下來，雙手抱著頭，“那些代碼是我帶團隊寫了三年的，我看著它從一個小模型變成能在幾十家醫院用的系統，可陳明遠為了業績，一次次讓我們改數據、留後門……我知道這不對，但我不敢反對，我怕失業，怕房貸還不上。”
“你現在交出來，是對的。”林硯之走過去，遞給他一張紙巾，“這些代碼和日志，能幫我們追溯更多可能被誤診的患者，也能幫其他企業避免犯同樣的錯。”
小主，這個章節後面還有哦，請點擊下一頁繼續後面更精彩！
趙偉接過紙巾，擦了擦眼淚“我還知道，陳明遠在境外開了個離岸賬戶，里面轉了不少錢，是用智愈的技術專利做抵押貸的。我把賬戶信息也存在這個u盤里了，交給你們。”他從口袋里掏出一個小小的u盤，放在桌上，“我已經跟律師咨詢過了，主動配合調查可以從輕處理。我不想再幫陳明遠背黑鍋了，我想對得起自己寫的代碼。”
第三章 座談會上的交鋒
下午兩點，行業座談會在市科技局的大會議室召開。林硯之走進會場時，已經坐了大半的人——有醫療ai企業的負責人，有醫院的代表，還有高校的專家，周明遠教授也來了，坐在第一排靠中間的位置，朝她點頭微笑。
小陳把《ai醫療算法審計指引》的紙質版分發給每個人，封面上印著藍色的黃浦江大橋圖案。林硯之走上講台，打開ppt，屏幕上出現了判決書里的關鍵條款“……智愈科技需于90日內完成罕見病數據補充（樣本量不低于總數據量的5），算法決策可解釋性需達到sh值≧07……”
“今天請大家來，不是要批評誰，而是想和大家一起定規則。”林硯之的目光掃過全場，“《審計指引》里有兩個核心點，我想重點說一下。第一個是‘動態審計’——高風險ai系統每季度要提交算法更新報告，報告里必須包含罕見病數據佔比、決策可解釋性指標，還有用戶投訴處理情況。我們技術團隊會隨機抽查，一旦發現隱瞞更新或者數據造假，直接取消行業準入資格。”
台下立刻有人舉手，是一家小型ai企業的老板，姓劉，之前在倫理審查意見征集時提過“成本太高”的異議。“林處長，我們公司就十個人，每季度提交報告、接受抽查，人力成本根本扛不住。能不能給小企業放寬點期限？”
林硯之早有準備，她點擊ppt，切換到下一頁——上面是“倫理審計幫扶計劃”的細則“我們聯合了市科技金融集團，對參與試點的中小企業兩方面支持一是免費的審計技術培訓，二是最高50萬元的合規補貼，用于購買加密模塊、補充數據。另外，我們還搭建了‘算法共享池’，里面有經過倫理認證的基礎模型，小企業可以在此基礎上二次開發，能省不少成本。”
劉老板點點頭，沒再說話。這時，周明遠教授舉手了“硯之，我想問一下，‘決策可解釋性’的指標是怎麼定的？sh值≧07，有沒有考慮到不同疾病的差異？比如罕見病的樣本少，模型解釋性可能天生偏低。”
“周教授這個問題提得好。”林硯之笑了笑，“我們和高校團隊做過調研，罕見病的sh值可以放寬到≧06，但必須附加‘人工復核’條款——用ai診斷罕見病時，必須有兩名副主任以上醫師簽字確認。另外，我們會建立‘罕見病數據聯盟’，由市一院牽頭，聯合企業、高校收集罕見病病例，逐步提高模型的解釋性。”
她的話剛落，會場後排傳來一個女聲“林處長，我能說兩句嗎？”所有人都轉過頭，只見一個穿米色風衣的年輕女人站起來，手里拿著一個筆記本——是張阿姨的女兒，叫甦曉。林硯之愣了一下，隨即朝她點頭“當然可以。”
“我是一名患者家屬，我媽媽因為智愈的ai誤診，錯過了最佳治療時間。”甦曉的聲音有些發抖，但很堅定，“我今天來，不是要抱怨，而是想跟各位企業老板說——我們患者不怕ai有缺陷，怕的是你們隱瞞缺陷。我媽媽就診時，醫生說‘ai診斷準確率98’，我們信了，結果……”她頓了頓，深吸了口氣，“如果當時智愈能說‘這個病是罕見病，ai可能不準，建議人工復核’，我媽媽就不會走到今天這一步。”
會場里安靜下來，沒人說話。甦曉接著說“現在你們要做倫理審計，要補充數據，我很高興。但我希望你們記住，你們寫的每一行代碼，都關系著一條人命。合規不是為了應付審查，是為了對得起患者的信任。”
說完，她鞠了一躬，坐了下去。林硯之看著她，心里一陣暖流——早上打電話時，甦曉還猶豫著要不要來，說“怕自己說不好”，現在看來，她比誰都說得好。林硯之清了清嗓子，打破了沉默“甦女士的話，應該是我們所有人的初心。接下來，我們開放討論環節，大家有什麼問題、建議，都可以提出來。”
討論環節持續了一個多小時，問題五花八門——有企業問“外資企業能不能加入數據聯盟”，有醫院問“審計結果能不能作為采購依據”，林硯之和團隊成員一一解答。快結束時，“醫準智能”的ceo站起來說“我們公司今天就提交試點申請，並且承諾，把罕見病數據佔比提高到8，比指引要求的還高。我們覺得，倫理不是成本，是競爭力——患者信任你，醫院才會用你的產品，長期來看，這比短期利潤重要得多。”
這章沒有結束，請點擊下一頁！
他的話贏得了一陣掌聲。座談會結束後，林硯之送周明遠教授出門，老教授拍了拍她的肩膀“不錯，比我預想的好。剛才甦曉的發言，比任何數據都有說服力。”他從包里拿出一份文件，“這是《科技倫理審查辦法》修訂草案的征求意見稿，里面專門加了‘醫療ai動態審計’章節，你們團隊的‘脫敏審計’流程寫進去了，下周有個專家論證會，你跟我一起去北京。”
林硯之接過文件，指尖踫到紙頁，感覺沉甸甸的。“謝謝您，周教授。”她說，“要是沒有您當初的建議，我們可能還在摸索。”
“不用謝我，”周明遠笑了，“是你們把‘紙上的倫理’變成了‘落地的規則’。黃浦是個好地方，有江的包容，也有橋的堅定——就像你們做的事，既要給創新留空間，也要守住底線。”
送走周明遠，林硯之回到辦公室，小陳正對著電腦整理座談會的記錄。“林處，剛才有五家企業當場提交了試點申請，還有三家說回去走流程，下周交。”小陳的臉上滿是笑意，“劉老板也說了，要考慮加入數據聯盟，他說甦曉的話讓他想通了。”
林硯之走到窗前，夕陽正慢慢沉到黃浦江對面的建築群後面，把天空染成了橘紅色。她拿出手機，給甦曉發了條消息“今天謝謝你，你的話幫了我們大忙。你媽媽的事，有進展我會第一時間告訴你。”
沒過多久，甦曉回復了“林處長，該謝謝的是你。我媽媽今天做了檢查，醫生說病情控制住了，雖然不能根治，但至少能少點痛苦。還有，我加入了患者權益組織，以後會多跟你們反饋患者的想法——希望我們能一起，讓ai醫療變得更靠譜。”
林硯之看著消息，嘴角忍不住上揚。她打開電腦，找到“倫理治理案例庫”文件夾，新建了一個文檔，命名為“002算法審計困局（後續）”，開始敲字“101novel.com24年9月，智愈科技案判決後，黃浦市10家醫療ai企業申請倫理審計試點，‘動態審計’機制落地……”
敲到一半，她想起趙偉早上交的代碼和日志，想起王海的後門證據，想起甦曉在座談會上的發言——這些碎片拼在一起，構成了一個關于“堅守”的故事。她知道，這不是結束，以後還會有新的技術、新的倫理難題出現，但只要有人願意為患者站出來，願意為規則較真，黃浦的科技發展，就永遠不會偏離“以人為本”的方向。
窗外的夕陽徹底落下去了，城市的燈光漸漸亮起來，沿著黃浦江連成一片。林硯之保存好文檔，關掉電腦——明天還有很多事要做要和老周一起分析智愈的日志，要跟衛健委對接患者排查工作，要準備去北京的論證會材料。但此刻，她心里很踏實，就像看著一艘船，在經歷了風浪之後，終于回到了正確的航線上。
喜歡黃浦風雲之杜氏傳奇請大家收藏101novel.com黃浦風雲之杜氏傳奇101novel.com更新速度全網最快。