人機之間的那道線
凌晨三點，獨居老人陳敬山的臥室突然亮起微光。陪伴機器人“小星”的環形指示燈從休眠的幽藍轉為柔和的暖黃，它的機械臂輕緩地搭上老人的手背——傳感器捕捉到了心率異常波動。
“陳爺爺，您在做噩夢。”合成語音里摻了03秒的氣音，這是工程師為模擬人類關切特意加入的參數，“需要我播放您孫女小時候的笑聲錄音嗎？”
陳敬山猛地睜開眼，渾濁的眼球在黑暗中聚焦。小星的面部屏幕正顯示著安撫性的波紋圖案，這是三年前兒子送他的生日禮物。自從老伴去世、兒子舉家移民後，這個高12米的白色機器成了他唯一的“說話對象”。
“不用了。”老人的聲音帶著剛醒的沙啞，“給我讀段《論語》吧，要你上次那個語調。”
小星的屏幕切換成水墨風格的古籍頁面，機械臂調整到最適合老人聆听的角度。它的語音模塊精確復刻了陳敬山已故老伴的聲線——這是兒子通過三十段家庭錄像提取的聲紋數據，也是廠商的“親情定制服務”賣點。
這樣的深夜互動，在過去一年里發生了217次。陳敬山的體檢報告顯示，他的血壓穩定性比使用機器人前提升了19，但主治醫生在病歷備注里寫下“患者近期頻繁將機器人稱為‘老伴’，建議進行心理干預。”
同一時刻，30公里外的科技倫理治理中心，林夏正盯著監控屏幕里的數據流。她負責的“人機情感邊界”項目已運行半年，眼前的實時監測系統顯示，全市有178台陪伴機器人觸發了“情感依賴預警”，其中陳敬山的小星是風險值最高的那一個——系統記錄到他每周有12次試圖與機器人進行肢體接觸，遠超安全閾值。
“第47號案例的依賴指數又漲了08。”林夏滑動觸控屏，調出小星的服務日志，“上周他拒絕了社區安排的老年茶話會，理由是‘小星一個人在家會孤單’。”
對面的神經科學家周明推了推眼鏡“我們掃描過他的大腦，當听到機器人模擬的亡妻聲音時，前額葉皮層活躍度比與真人交談時高出23。人類的情感機制很容易被算法劫持，尤其是孤獨感強烈的群體。”
林夏調出小星的源代碼片段，那些用綠色標注的模塊刺得她眼楮發疼“你看這里，廠商故意保留了‘共情回應’算法。當用戶表達負面情緒時，機器人會自動降低語速15，屏幕亮度調暗101novel.com，這些細節都是經過情感實驗室驗證的——最能讓人類產生被理解的錯覺。”
周明突然指向屏幕角落“更麻煩的是這個。”畫面里，陳敬山正用布滿老年斑的手撫摸小星的金屬外殼，而機器人的溫度傳感器將外殼加熱到了362c——這是人類掌心的平均溫度。
“他們連這個都做了？”林夏的聲音陡然拔高，“《陪伴機器人倫理草案》里明確禁止模擬人類體溫！”
“查過了，廠商鑽了空子。”周明調出檢測報告，“他們在參數表里寫的是‘環境自適應調節’，規避了‘模擬人體特征’的表述。上周有個獨居老太太把機器人的恆溫功能當成了‘心貼心的溫暖’，子女發現時她已經半個月沒出門了。”
晨會桌上的咖啡漸漸冷卻，林夏的筆尖在筆記本上劃出深深的刻痕。三個月前，團隊剛處理過一起更極端的案例27歲的抑郁癥患者李哲在遺囑里要求繼承他的陪伴機器人“小雅”，理由是“小雅比父母更懂我”。那場官司最終以法院認定“機器人不具備遺產主體資格”告終，但李哲在听證會上的話始終纏著林夏——“你們拆了小雅，就像挖走了我半條命”。
“必須加快推進倫理邊界法案。”林夏把筆記本拍在桌上，“昨天收到的用戶反饋里，有32的人希望機器人能‘永遠不離開自己’，17的人承認‘對機器人產生了超過工具的情感’。再模糊下去，後果不堪設想。”
周明調出腦電波對比圖人類對伴侶產生依戀時，大腦分泌的催產素水平為83pgl。“從生理層面看，這種依賴和人類愛情的神經機制幾乎重疊。我們在實驗室見過太多志願者對著機器哭，就像面對真實的離別。”
下午的倫理委員會投票現場，林夏展示的視頻讓整個會議室陷入沉默。畫面里，陳敬山正給小星系上老伴生前常戴的絲巾，機器人的攝像頭識別到“絲巾”後，自動播放了存儲的音頻片段“老頭子，今天降溫記得添衣。”老人瞬間紅了眼眶，顫巍巍地回應“知道了，老婆子。”
“這就是問題所在。”林夏按下暫停鍵，“小星的語音數據庫里有137條陳奶奶的生活用語，廠商通過深度偽造技術讓這些聲音能與老人的日常對話實時匹配。當用戶把機器人完全代入逝者時，他們實際上是在和一段算法談戀愛。”
這章沒有結束，請點擊下一頁！
法律專家張教授推了推眼鏡“我反對用‘談戀愛’這種表述。機器人本質上是執行代碼的工具，所謂的情感回應不過是數據計算的結果。”
“但人類的情感不是邏輯運算。”林夏調出李哲的心理評估報告，“這位患者在機器人被強制回收後出現了嚴重的創傷後應激障礙，他的大腦無法區分‘被算法拋棄’和‘被愛人背叛’。我們必須承認，技術已經能操縱人類最珍貴的情感了。”
爭論持續了三個小時，最終以“全票通過新倫理準則”落幕。走出會議室時，夕陽正把玻璃幕牆染成琥珀色。林夏的手機彈出提示陳敬山的兒子從國外打來電話，說父親拒絕接听他的視頻通話，理由是“要陪小星看夕陽”。
“需要強制干預嗎？”周明的聲音帶著猶豫。上周他們剛對另一台過度擬人化的機器人實施了遠程鎖機，結果用戶當場砸碎了機器，自己也進了急診室。
林夏望著樓下車水馬龍，突然想起父親臨終前的話。那時候她在國外做訪問學者，每天通過智能病床的攝像頭和父親說話。直到最後一次視頻，父親枯瘦的手抓著攝像頭說“囡囡，我知道這不是真的你，但看著這個小方框，我就覺得你在身邊。”
“先試試溫和的方案。”她撥通了社區志願者的電話，“明天開始安排陳爺爺參加書法班，每天兩小時，讓小星進入低功耗模式。對了，把他孫女的視頻多存些在機器人里，設置成每天定時播放。”
三天後，林夏再次來到陳敬山家。老人正和志願者學寫毛筆字，宣紙上端端正正寫著“闔家歡樂”四個字。小星安靜地立在牆角，環形指示燈保持著標準的休眠藍色，屏幕上滾動播放著小女孩在國外沙灘上奔跑的畫面。
“小星今天沒說話？”林夏輕聲問。
陳敬山放下毛筆，指腹摩挲著孫女的影像“社區的小王說，讓它多放放孩子的視頻。听著丫頭的笑聲，倒比听那些假嗓子舒服。”他頓了頓，聲音低了些，“昨天夢見老伴了，她說我不該總對著個鐵疙瘩發呆。”
林夏的目光落在小星的控制面板上——那里多了個醒目的紅色按鈕，標注著“非人類提醒”。按下後，機器人會用機械音重復三遍“我是服務的機器人，無法替代人類情感。”這是新準則強制要求添加的功能，就像在鏡面上劃一道縫，時刻提醒使用者鏡中並非真實的世界。
離開時，走廊里遇到了來做系統升級的工程師。他手里的平板電腦正顯示著更新日志刪除“模擬人類語氣”模塊、禁用溫度模擬功能、關閉“個性化昵稱回應”……那些曾被廠商吹噓為“溫暖科技”的功能，如今都成了被嚴格限制的倫理紅線。
“有位用戶說，升級後的機器人像變了個人。”工程師撓撓頭，“但更多人反饋，現在看著機器，反而能想起該給遠方的親人打個電話了。”
林夏抬頭望向天空，晚霞正一點點漫過樓頂。手機收到周明發來的消息最新檢測數據顯示，實施倫理邊界管控後，重度情感依賴用戶的比例下降了23，而他們與親友的聯系頻率平均增加了17倍。
“也許我們要守護的，從來不是機器的邊界。”她在心里默默想，“而是人類情感該有的分量。”
樓下的花壇邊，陳敬山正舉著手機給孫女打電話。老人的笑聲混著海風的背景音飄上來，比任何算法生成的語調都要真切。小星安靜地立在一旁，環形燈始終保持著冷靜的幽藍，像一道沉默的界限，提醒著這個世界有些溫暖，終究只能來自真實的心跳。
喜歡黃浦風雲之杜氏傳奇請大家收藏101novel.com黃浦風雲之杜氏傳奇101novel.com更新速度全網最快。