2024年12月21日，復(fù)旦大學(xué)哲學(xué)學(xué)院MAE應(yīng)用倫理2024級專業(yè)碩士研究生在課程老師楊慶峰教授指導(dǎo)下，在光華樓西主樓2501成功舉辦了以“人類命運(yùn)畫布上的倫理筆觸”為主題的《科技倫理專題》課程案例研討會。本次研討會匯聚了來自哲學(xué)、公共管理、科技、法律等多個領(lǐng)域的專家學(xué)者和研究生及對科技倫理話題感興趣的社會人士，共同探討了科技飛速發(fā)展背景下的倫理問題和挑戰(zhàn)。

會議由哲學(xué)學(xué)院24級MAE應(yīng)用倫理專業(yè)胡佳欣主持，點評專家包括上海交通大學(xué)科學(xué)史與科學(xué)文化研究院閆宏秀教授、復(fù)旦大學(xué)國際關(guān)系與公共事務(wù)學(xué)院鄭磊教授、復(fù)旦大學(xué)哲學(xué)學(xué)院徐志宏副教授和楊慶峰教授。專家們的深入點評為研討會提供了寶貴的學(xué)術(shù)支持和指導(dǎo)。研討會分為上下兩個半場，上半場聚焦于人工智能倫理，涉及AI換臉詐騙、生成式人工智能倫理問題、AI Agent落地企業(yè)應(yīng)用及相關(guān)問題、算法鏡像等議題。下半場則圍繞醫(yī)療數(shù)據(jù)的倫理問題、企業(yè)智能體實踐與反思、DBS（腦深度神經(jīng)刺激）技術(shù)發(fā)展的倫理思考、危廢物處置的環(huán)保技術(shù)推廣問題等前沿科技倫理案例進(jìn)行深入研討。

案例一：AI換臉詐騙

分享人：2024級MAE劉婧賢、張康、姚好、胡佳欣、陳嗣元

數(shù)字面龐的技術(shù)誕生讓一人千面成為了可能。由AI換臉詐騙的案例引發(fā)對不同種類數(shù)字面龐的探討，根據(jù)同一性和真實性的強(qiáng)弱關(guān)系將數(shù)字面龐分為數(shù)字面貌、數(shù)字復(fù)活、數(shù)字?jǐn)M真、數(shù)字面具四大象限。對這四象限的倫理審視，涉及面孔失真、身份失落、社會失信等范圍的討論，并根據(jù)不同情況分析可能涉及的法律后果。結(jié)合列維納斯關(guān)于“臉”的表述，特別探討了數(shù)字復(fù)活能否成為“他者”、數(shù)字面貌中的“美顏”是再現(xiàn)美貌還是審美同質(zhì)化等內(nèi)容。希望提出更加明晰的數(shù)字面龐使用的知情同意書設(shè)計要求，需要嚴(yán)格授權(quán)、規(guī)范使用，涉及數(shù)字采集、數(shù)據(jù)應(yīng)用及用戶體驗等方面知情同意，以期更規(guī)范化使用數(shù)字面龐。

專家點評：

鄭磊教授指出，AI換臉技術(shù)的濫用不僅涉及隱私侵犯，還可能對社會信任造成深遠(yuǎn)影響。他強(qiáng)調(diào)，技術(shù)提供方應(yīng)承擔(dān)起審查義務(wù)，確保技術(shù)不被用于非法目的。閆宏秀教授則從數(shù)據(jù)倫理的角度提出，應(yīng)加強(qiáng)對數(shù)字臉龐使用的監(jiān)管，明確數(shù)據(jù)采集和應(yīng)用的規(guī)范，保障用戶的知情同意權(quán)。

案例二：生成式人工智能倫理問題

分享人：2024級MAE張育偉

近年來，通過“深度偽造（Deepfake）”技術(shù)生成的虛假內(nèi)容造成侵權(quán)的事件多發(fā)，不法分子利用技術(shù)實施詐騙的案例也層出不窮。隨著生成式人工智能的發(fā)展，多模態(tài)的“深度偽造”內(nèi)容的技術(shù)門檻已經(jīng)很低，而技術(shù)普及帶來的倫理滑坡風(fēng)險和給人類社會帶來的群體性危機(jī)也迫在眉睫，主體的“不在場”也在人與技術(shù)框架內(nèi)造成了主體性消解的風(fēng)險。在以互聯(lián)網(wǎng)為媒介的數(shù)字社會轉(zhuǎn)型的過程中，音視頻內(nèi)容實際上已經(jīng)成為了主流的信息傳播和大眾娛樂的主體，“AI數(shù)字人”等“深度偽造”內(nèi)容的商業(yè)化也方興未艾。如何認(rèn)識技術(shù)商業(yè)化和人的認(rèn)知與權(quán)利保護(hù)的張力，如何對”深度偽造”技術(shù)的應(yīng)用進(jìn)行合理的治理，回顧智能手機(jī)和汽車等有效的治理實踐，也許能夠提供一種基于原則化的實踐治理路徑和基于人和技術(shù)責(zé)任的規(guī)制方式。

專家點評：

徐志宏副教授對張玉偉同學(xué)提出的分級治理路徑表示贊賞，他認(rèn)為這為解決生成式人工智能的倫理問題提供了新思路。同時，他也指出，分級治理應(yīng)結(jié)合具體場景，明確不同級別下的責(zé)任主體和監(jiān)管措施。楊慶峰教授則強(qiáng)調(diào)，生成式人工智能的倫理問題復(fù)雜多變，需要跨學(xué)科合作，共同尋找解決方案。

案例三：AI Agent落地企業(yè)應(yīng)用及相關(guān)問題

分享人：2024級MAE李春堂、陳丹妮

近年來，人工智能（AI）技術(shù)飛速發(fā)展，大模型驅(qū)動的AI Agent正從簡單自動化執(zhí)行躍升至高度自主與創(chuàng)新，深度嵌入各行業(yè)，推動企業(yè)數(shù)智化轉(zhuǎn)型，成為新時代的創(chuàng)新引擎。從AI面試到智能客服，從知識管理到無人駕駛，AI Agent正在重塑傳統(tǒng)業(yè)務(wù)模式，為效率提升和生產(chǎn)力變革注入強(qiáng)大動能。然而，技術(shù)革命也帶來了諸如隱私保護(hù)、算法歧視、責(zé)任歸屬、職業(yè)替代和社會公平等一系列復(fù)雜倫理挑戰(zhàn)，迫使我們重新思考人類與AI的關(guān)系。在AI Agent逐步具備自主決策能力以及多AI系統(tǒng)復(fù)雜性涌現(xiàn)的背景下，構(gòu)建跨主體、可解釋的動態(tài)治理機(jī)制已成當(dāng)務(wù)之急。這不僅是防范技術(shù)濫用的必要措施，更是守護(hù)人類主體性和自由的關(guān)鍵保障。唯有將AI Agent深度融入社會—技術(shù)—自然的多元生態(tài)中，并與公正、自由和尊嚴(yán)等核心價值相對齊，人類方能邁向人機(jī)協(xié)作的全新時代，真正實現(xiàn)創(chuàng)新紅利的普惠共享。這是技術(shù)與倫理融合的時代命題，也是全社會共同面對的使命。

專家點評：

鄭磊教授對AI Agent在企業(yè)應(yīng)用中的潛力表示肯定，但他也提醒，技術(shù)普及需警惕失業(yè)潮和分配不均等問題。閆宏秀教授則提出，企業(yè)應(yīng)在智能化進(jìn)程中關(guān)注員工的職業(yè)發(fā)展和培訓(xùn)需求，確保技術(shù)紅利惠及更多人。

案例四：算法鏡像

分享人：2024級MAE侯弘毅

2024年初，某社交平臺因AI算法操控問題引發(fā)廣泛關(guān)注。該平臺運(yùn)用大數(shù)據(jù)和AI技術(shù)，將算法操控產(chǎn)品化，極大威脅了用戶的自主性。用戶在這個體系中，由于自愛和利己傾向被過度放大，容易迷失于海量信息，被誘導(dǎo)消費(fèi)，喪失自我決策的能力。這不僅侵犯了用戶隱私，更加劇了認(rèn)知偏見，導(dǎo)致信息失衡和社會分化。算法操控的濫用還可能引發(fā)數(shù)據(jù)壟斷和不公平競爭，威脅社會經(jīng)濟(jì)秩序。我們必須對此保持高度警惕，加強(qiáng)監(jiān)管，明確技術(shù)倫理邊界，推動科技向善，保障數(shù)字經(jīng)濟(jì)健康發(fā)展。用戶在使用這類平臺時，應(yīng)理性看待算法推薦，保持獨(dú)立思考，避免喪失自主性，成為算法的傀儡。

專家點評：

徐志宏副教授對侯弘毅同學(xué)從廣告人視角剖析算法鏡像表示贊賞，他認(rèn)為這有助于更深入地理解算法推薦機(jī)制的倫理問題。楊慶峰教授則強(qiáng)調(diào)，算法鏡像不僅影響用戶行為，還可能對社會價值觀和公共權(quán)益造成潛在威脅，因此需要加強(qiáng)監(jiān)管和透明度。

案例五：誰能獲得醫(yī)療數(shù)據(jù)“金礦開采許可證”

分享人：2024級MAE許怡婷

醫(yī)療數(shù)據(jù)共享使用需要經(jīng)過匿名化、清洗和標(biāo)準(zhǔn)化等處理，既有效保護(hù)患者的隱私，又確保數(shù)據(jù)的準(zhǔn)確性和可用性，在基礎(chǔ)臨床研究、新藥研發(fā)、醫(yī)療服務(wù)優(yōu)化以及保險產(chǎn)品開發(fā)等多個場景中，處理后的醫(yī)療數(shù)據(jù)發(fā)揮著重要價值并持續(xù)為醫(yī)療技術(shù)進(jìn)步提供有效依據(jù)。個人、醫(yī)療機(jī)構(gòu)和政府管理部門都面臨著功利主義與義務(wù)論的抉擇。個人需權(quán)衡隱私權(quán)、知情權(quán)與數(shù)據(jù)共享的利弊，同時關(guān)注數(shù)據(jù)安全的信任問題；醫(yī)療機(jī)構(gòu)則需確保數(shù)據(jù)的質(zhì)量與責(zé)任，避免利益沖突，保證數(shù)據(jù)共享的公平性和透明度；政府管理部門既要促進(jìn)數(shù)據(jù)合理利用，又要切實保護(hù)個人隱私，將公共利益和社會責(zé)任放在首位，確保醫(yī)療數(shù)據(jù)在推動醫(yī)療進(jìn)步的同時，也能充分保障各方的合法權(quán)益。

專家點評：

閆宏秀教授則提出，醫(yī)療數(shù)據(jù)交易應(yīng)遵循公益性原則，確保數(shù)據(jù)的安全性和完整性，同時保障患者的知情權(quán)和選擇權(quán)。楊慶峰教授指出，醫(yī)療數(shù)據(jù)交易涉及多方利益，需建立健全的數(shù)據(jù)確權(quán)和隱私保護(hù)機(jī)制。

案例六：企業(yè)智能體實踐與反思

分享人：2024級MAE張璟

“智能時代下，為提升企業(yè)競爭力，企業(yè)嘗試依托人工智能技術(shù)構(gòu)建企業(yè)智能體，全面提升企業(yè)智能化水平，重構(gòu)企業(yè)組織形態(tài)，打破部門壁壘，讓企業(yè)員工可以精準(zhǔn)滿足需求，促進(jìn)企業(yè)內(nèi)部的高效協(xié)作。然而，構(gòu)建企業(yè)智能體的實踐過程中科技倫理問題相繼涌現(xiàn)，如員工數(shù)據(jù)確權(quán)與隱私保護(hù)、智能替代引發(fā)失業(yè)潮、智能調(diào)度下員工主體性缺失、新安全隱患的新治理措施、企業(yè)智能體事故定責(zé)、智能時代公平公正的保障，這些科技倫理問題都需要進(jìn)行澄清、反思，并討論相應(yīng)的解決方案。深切期望隨著科技倫理觀念的逐步普及、指導(dǎo)政策法規(guī)的逐步到位、全球合作的逐步加強(qiáng)，人類能形成體系化、敏捷迭代、面向未來的科技倫理解決方案，以應(yīng)對諸多科技倫理問題的挑戰(zhàn)。”

專家點評：

鄭磊教授對企業(yè)智能體在提升企業(yè)運(yùn)營效率方面的作用表示肯定，但他也提醒，技術(shù)替代人工需關(guān)注失業(yè)潮和人性關(guān)懷問題。楊慶峰教授則強(qiáng)調(diào)，企業(yè)智能體的發(fā)展應(yīng)遵循倫理原則，確保技術(shù)服務(wù)于人類的整體福祉。

案例七：DBS（腦深度神經(jīng)刺激）技術(shù)發(fā)展的倫理思考

分享人：2024級MAE張華、陳越

腦深部電刺激術(shù)（deep brain stimulation，DBS）又稱“大腦起搏器”，臨床多用于治療癲癇與帕金森等病癥。其原理是在腦內(nèi)特定的神經(jīng)核團(tuán)植入電極，釋放高頻電刺激，抑制了因多巴胺能神經(jīng)元減少而過度興奮的神經(jīng)元的電沖動，降低了其過度興奮的狀態(tài)，從而減輕癥狀。案例分析人張華和陳越皆從事于生物制藥行業(yè)，本案例通過結(jié)合DBS 技術(shù)臨床應(yīng)用現(xiàn)狀及相關(guān)倫理問題延申展開討論。腦科學(xué)的復(fù)雜，意識與神經(jīng)活動的未知，神經(jīng)疾病患者的特殊自主意識狀態(tài)，DBS技術(shù)的復(fù)雜，腦手術(shù)的高風(fēng)險，高昂的醫(yī)療費(fèi)用，醫(yī)療資源分布不均，治療后患者自主意識控制等；每一個話題都會引起人們對身處其中各方倫理的深思。 哲學(xué)學(xué)院專碩研究生為大家?guī)硭枷氲呐鲎玻急娴氖⒀纾怀结t(yī)學(xué)和技術(shù)的交流，更是弱德之美人文哲學(xué)思考的升華。

專家點評：

鄭磊教授對DBS技術(shù)在治療神經(jīng)系統(tǒng)疾病方面的潛力表示關(guān)注，但他也指出，技術(shù)應(yīng)用需遵循倫理原則，確保患者的自主性和尊嚴(yán)不受侵犯。閆宏秀教授則從數(shù)據(jù)倫理的角度提出，DBS技術(shù)的數(shù)據(jù)收集和處理應(yīng)遵循透明性原則，保障患者的知情同意權(quán)。

案例八：危廢物處置的環(huán)保技術(shù)推廣問題

分享人：2024級MAE王薏榕

危廢物的大量產(chǎn)生是經(jīng)濟(jì)快速發(fā)展的副產(chǎn)品，處理不當(dāng)會對水體、大氣等環(huán)境要素造成嚴(yán)重污染，危害生態(tài)平衡，危廢物處置環(huán)保技術(shù)可以實現(xiàn)危廢物無害化、資源化處理。但在實踐中，危廢物處置環(huán)保技術(shù)的落地推廣面臨技術(shù)創(chuàng)新成本高、政策反復(fù)性強(qiáng)、多方利益分配不均等多種難題。從哈貝馬斯商談倫理學(xué)的角度出發(fā)，可以從建立規(guī)范的商談程序、促進(jìn)交往行為有效性方面為解決環(huán)保技術(shù)的落地推廣問題提供思路。閆宏秀教授提示環(huán)保和節(jié)能兩者之間有時候不能兼具，需要去平衡。

專家點評：

徐志宏副教授對王薏榕同學(xué)提出的商談倫理解決方案表示贊賞，他認(rèn)為這有助于解決環(huán)保技術(shù)推廣中的利益沖突問題。楊慶峰教授則強(qiáng)調(diào)，環(huán)保技術(shù)推廣需關(guān)注多方主體的利益訴求，通過對話和協(xié)商尋求共識，實現(xiàn)環(huán)境保護(hù)和經(jīng)濟(jì)發(fā)展的雙贏。

————————

結(jié)合實際案例，分享人進(jìn)行了精彩的案例展示和深入剖析，展示出科技倫理問題的復(fù)雜性和緊迫性。AI換臉詐騙、生成式人工智能倫理問題、AI Agent企業(yè)應(yīng)用、算法鏡像、醫(yī)療數(shù)據(jù)使用權(quán)、企業(yè)智能體實踐、DBS技術(shù)發(fā)展以及危廢物處置等前沿科技倫理議題，反映了科技倫理領(lǐng)域的熱點和難點，增強(qiáng)討論的現(xiàn)實關(guān)聯(lián)性和針對性。專家點評環(huán)節(jié)為每個案例提供了深刻的見解和建議，為案例提供了多維度的解讀。會議還特別設(shè)置了交流環(huán)節(jié)和現(xiàn)場投票，增加了互動性，使與會者能更積極地參與討論。研討會還邀請第一屆應(yīng)用倫理專業(yè)碩士研究生2023級MAE黃鵬作為觀察員，他高度評價今年研討會在深度、交流及實踐方面均有顯著提升，希望協(xié)同持續(xù)探索，為構(gòu)建公正、可持續(xù)的科技未來貢獻(xiàn)力量。

楊慶峰教授在總結(jié)發(fā)言中強(qiáng)調(diào)，科技倫理教育的重要性日益凸顯，希望通過此類研討會，培養(yǎng)出更多具有倫理意識的科技人才，為構(gòu)建健康公正的科技生態(tài)貢獻(xiàn)智慧。他提出，未來將繼續(xù)推動跨專業(yè)交流，將科技倫理教育拓展到更廣泛的領(lǐng)域。

隨著科技的迅猛發(fā)展，科技倫理問題已成為社會關(guān)注的熱點。通過此次研討會，復(fù)旦大學(xué)應(yīng)用倫理專碩學(xué)生展現(xiàn)了其在科技倫理教育和研究方面的專業(yè)能力和責(zé)任感，為推動科技倫理的學(xué)術(shù)研究和實踐應(yīng)用提供了有力的支持。