近日，臺灣音樂人包小柏利用AI技術，令因病去世的女兒在數字世界“復活”，不僅可以唱歌、還能對話，原本天人永隔的親人竟通過數字實現互動。

住在遼寧省撫順市的孫先生，不久前在網上發布的一則視頻也感動了很多人。視頻中，他用AI換臉技術把自己在畫面中的臉改造成已經病逝的父親的模樣，再以父親的口吻向91歲的奶奶報平安。

類似的案例已非個例，這種過去常在電影里出現的場景如今已經漸漸走入大家的生活中，讓人驚嘆。

記者調查發現，在電商平臺上也有商家在售賣這樣的服務，而且銷量還算可觀。這也引發了網友對這種“數字生命”的廣泛討論。對于這項新興的服務，有人欣然接受，但是技術背后的風險也令人擔憂。

人工智能助逝者“歸來” 慰藉哀思也有風險

清明節快到了，人們陸續開始祭掃，緬懷逝去的親人。今年以來，有不少利用AI“復活”逝者的新聞引起人們的關注，網絡上也出現了一批提供AI“復活”服務的商家，從“能活動的照片”到“可以進行對話”應有盡有，這項服務顯然很有市場。

用AI“復活”已故親人，可以撫慰人心，填補或緩釋遺憾，是技術向善的例子。然而當技術驅動了生意，從法律、倫理、道德到心理，有多少邊界需要約束?

調查“AI復活”成生意 按客戶具體要求收費

記者在某電商平臺搜索“AI復活親人”，發現不少商家提供此類服務，價格在十幾元到幾百元不等。

“只需要提供一張正面半身照，就能讓嘴巴眼睛動起來。”在一家網店內，商品首頁展示著這樣的標語，還有一段視頻，展示著AI技術“復活”老人的樣品，視頻的底版是一張老人的正面照片，老人的嘴在說話，頭也跟著輕微晃動，雖然畫面略微生硬，但跟真人動作還是相似的。

記者咨詢網店客服，她告訴記者，此類是定制服務，可根據客戶的具體要求制作視頻，不同要求的價格不一樣。該客服表示，首先要提供一張人物的正面照片，同時告知所需視頻的具體時長。聲音有兩種形式，如果是固定音色的普通話，30秒內的視頻約80個字，收費160元，每增加30秒再加60元。如果客戶對聲音有要求，要還原逝者的原聲，需提供至少20分鐘高質量無雜音的音頻做聲音采集，再完成原聲模擬。原聲的質量也取決于音頻的長短，30秒內的視頻，配原聲的價格為560元，之后每增加30秒再加260元。

雖然這家網店的商品首頁標明“只做逝者的懷念”，但是當記者隨意發送一張照片后，商家也沒有進行核實。

隨后，記者又咨詢了另一家網店，客服表示只需要提供一張正臉照片以及一分鐘音頻文件，即可讓親人“開口說話”，價格最低只要15元。

在店鋪的評論區，記者看到部分買家這樣評論：“做得太好了，聽見親人的聲音，淚流滿面，萬分感謝。”“方言還是不太像，但是已經很好了，對家人是很大的慰藉。”“謝謝賣家，讓我們以后的日子里又能看見親人了。”“能再看到奶奶，真好!”

記者了解到，電商平臺上大多數店鋪的AI“復活”服務可以“讓照片動起來”，但不能讓定制者與之“聊天”。記者從網上了解到，如果想實現聊天功能，則需要通過收集盡可能多的照片和影像資料，建立面部模型，用聲音樣本進行模擬訓練等各種復雜的技術操作，每單收費5000元至10000元。

聲音“數字永生”緩解喪親之痛 精神安慰還是“精神鴉片”

有網友認為，AI技術“復活”親人，對生者來說可以撫慰心靈，填補或緩釋很多遺憾，這樣的需求顯然很有市場。對已故親人來說，AI技術也可以讓他們以更立體的方式被“保存”下來，讓生者可以隨時回憶和感受親人的存在。“這是AI，也是愛，這才是AI存在的意義!”網友小王說。“要是真的話，我好想‘復活’我爸，他離開十多年了，以前沒有智能手機，一段影像都沒留下，只有幾張照片。”不少網友表示自己也想“復活”親人。

“其實‘復活’親人，并不是希望他永遠不離開我們。當初我們來不及和親人好好告別，現在可以通過AI技術正式和他說再見，彌補人生留下的遺憾。”網友小朱說。

也有部分網友認為，故人已去，執著于具象的東西反而會讓親人再一次遭受傷害。“活著的人一直沉浸在過去走不出來也不好，‘數字永生’到底是精神安慰還是‘精神鴉片’?這真值得深思。”網友麗麗說，虛擬畢竟不是現實，“我會對著媽媽的照片、視頻懷念她，但我不會用人工智能去‘復活’親人，人類的愛機器是不能復制的。”

一些網友也提出了自己的擔憂，比如有人可能利用AI技術“復活”一些有影響力的人物，進行虛假的宣傳或誘導，影響公眾的判斷和選擇;有人可能利用AI技術“復活”一些親友，進行詐騙或勒索，侵害他人的財產和利益;有人可能利用AI技術“復活”敵人，進行威脅或報復，危害他人的安全和生命。“這項技術帶來了倫理和法律上的挑戰，需要我們在享受科技帶來便利的同時，關注潛在的風險。社會各界要共同探討和制定相應的規則和標準，以確保這項技術的發展能夠在尊重倫理道德的前提下，更好地服務于人類的情感和生活。”網友阿白說。

律師 平臺和商家責任大 要保證客戶不侵權

北京天馳君泰(泉州)律師事務所莊靈煜律師認為，AI“復活”已故親人的服務雖然在一定程度上給親屬提供了精神慰藉，但是背后涉及隱私保護、數據安全、平臺監管等法律問題。

莊靈煜介紹，目前我國尚未就人工智能領域進行專項立法，但該服務仍應在法律允許范圍內，不得損害他人合法權益，不得違反公序良俗。

從商家角度看，如果其未經死者配偶、子女、父母同意或授權，自行通過AI手段再現死者形象，并將死者肖像用于商業用途或存在損害死者形象的行為，可能構成侵犯他人肖像權、名譽權等，死者近親屬有權要求商家承擔民事責任。商家應做好數據安全保障措施，避免因泄露用戶提供的照片、視頻、音頻等素材而侵害他人的隱私權。

從平臺角度看，平臺應嚴格審查商家提供服務的資質，制定明確的準入規則，采取必要的監管措施，并接受相關部門的監督與管理。

最后，如果利用AI技術制作虛假圖像、音頻、視頻等進行詐騙，或竊取個人信息牟取不法利益或存在其他犯罪行為的，還將承擔相應的刑事責任。

案例 泉州女子接綁匪來電 竟是AI擬聲詐騙

AI技術的應用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉、擬聲來實施詐騙。去年，豐澤的張女士就遭遇到AI擬聲詐騙。

去年10月14日14時許，張女士接到在外地工作的“女兒”來電。“女兒”哭哭啼啼，說自己被人綁架了，要張女士向綁匪的賬戶中轉50萬元贖金，否則綁匪要撕票。來電號碼確實是女兒的號碼，聲音也是女兒的聲音，電話那頭傳來哭喊聲：“媽媽，救我!”張女士一下子慌了神。通話結束后，張女士又撥打了女兒的電話，但一直未能接通。又慌又急的張女士趕緊籌集資金，先往對方提供的賬戶匯款2.4萬元。此時，泉州市、豐澤區兩級反詐騙中心緊急發布預警指令給豐澤派出所。當張女士又要將她卡上剩余的11萬元轉出時，民警趕到張女士家門口。但她已把門反鎖，民警急忙讓她的丈夫開門，見她正在操作轉賬，民警立刻上前制止并告訴她遇到電信網絡詐騙了。張女士將信將疑地暫停轉賬，民警迅速聯系張女士女兒的好友前往其住處了解情況。經核實，張女士的女兒正在午休，并沒有被綁架。原來，詐騙分子利用虛擬號碼偽裝成張女士女兒的電話號碼，用AI合成的方式模擬張女士女兒的聲音實施詐騙。

此前，福州市某科技公司法人代表郭先生10分鐘內被騙走430萬元，也是一起使用智能AI技術進行電信詐騙的案件。郭先生的好友通過微信視頻聯系他，自稱在外地競標，需要430萬元保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。基于對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬元轉到好友的銀行卡上。過后，郭先生撥打好友電話，才知道被騙。騙子通過智能AI換臉和擬聲技術，佯裝好友對他實施了詐騙。

據介紹，利用AI新型技術實施詐騙，不法分子通常先以“網店客服”“營銷推廣”“招聘兼職”“婚戀交友”等為借口，通過微信、QQ、電話等方式聯系受害者，采集發音、語句或面部信息，再利用AI擬聲、換臉等技術合成虛假音頻、視頻、圖像，以借錢、投資、緊急救助等借口誘導受害者的親友轉賬匯款，或提供銀行賬戶密碼等敏感信息，隨后立即轉移資金。此外，不法分子還可能對明星、專家、官員等音視頻進行人工合成，假借其身份傳播虛假消息，從而實現詐騙目的。

部門 AI技術存在濫用風險

記者了解到，由國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》自2023年1月10日起施行。《規定》明確，提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能服務的，應當進行顯著標識。深度合成服務治理需要政府、企業、社會、網民等多方主體共同參與，推動深度合成技術的依法、合理、有效使用，積極防范化解深度合成技術帶來的風險，促進互聯網信息服務健康發展，維護網絡空間良好生態。

國家網信辦等七部門聯合公布《生成式人工智能服務管理暫行辦法》，自2023年8月15日起施行。國家網信辦表示，出臺《辦法》既是促進生成式人工智能健康發展的重要要求，也是防范生成式人工智能服務風險的現實需要。

近期，也有平臺發布了“關于人工智能生成內容的平臺規范暨行業倡議”，明確禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限于肖像權、知識產權等，一經發現，平臺將嚴格處罰。

警惕三類AI騙局

AI騙局主要有三類。1.AI換臉。人臉效果更易取得對方信任，騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。2.聲音合成。騙子通過騷擾電話等方式，錄音提取某人的聲音，并對素材進行合成，用偽造的聲音實施詐騙。3.轉發微信語音。騙子在盜取微信號后，向微信好友提出轉賬要求，盡管微信沒有語音轉發功能，但他們可以通過提取語音文件或安裝非官方版本(插件)實現語音轉發，進而騙取錢財。

那么，如何防止上當受騙呢?首先，要多重驗證，提高安全意識，涉及錢款時要通過電話+視頻等多種方式確認對方是否為本人;匯款時，一定要確認對方提供賬戶的信息，確保是本人名下賬戶，避免通過微信等社交軟件轉賬。其次，加強個人信息保護意識，不要輕易透露自己的身份證、銀行卡、驗證碼等信息，不要輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等，以防止騙子利用AI技術掌握大量個人信息，從而有針對性地實施詐騙。最后，不輕易點擊陌生人的短信鏈接，多提醒、告誡身邊的親友提高安全意識，拒絕誘惑，避免占便宜心理，警惕陌生人無端“獻殷勤”。如不慎被騙或遇可疑情形，注意保護證據，立即撥打96110報警。