人類總選擇最安全、最中庸的道路前進(jìn)，群星就會變成遙不可及的幻夢。

艾薩克·阿西莫夫(Isaac Asimov)說。

但是，技術(shù)超前治理，技術(shù)會傷害社會；治理超前技術(shù)，治理成紙上談兵。技術(shù)和治理之間是不能拉開差距的“賽跑”關(guān)系。

2023年，前沿技術(shù)加速發(fā)展，各地密集發(fā)布各種未來產(chǎn)業(yè)支持政策。同時，科技倫理和數(shù)據(jù)安全管理也取得重要進(jìn)展。5月到9月，科技部印發(fā)《科技倫理審查辦法（試行）》和《人類遺傳資源管理條例實施細(xì)則》等重要文件。2024年會是地方落實科技部科技倫理政策的一年，也是未來技術(shù)將持續(xù)發(fā)展的一年。

哪些城市在發(fā)展未來產(chǎn)業(yè)時融入了治理的意識？哪些城市又出現(xiàn)了新的治理模式？澎湃研究所研究員以省會城市和2022年GDP達(dá)到萬億的40個中國城市為樣本[1]，通過分析這些城市未來產(chǎn)業(yè)的政策文本，試圖回答這兩個問題。

發(fā)展未來產(chǎn)業(yè)，哪些城市有治理意識？

衡量科技治理意識的方式之一，是看城市政府是否在產(chǎn)業(yè)政策中融入了與科技倫理、科技安全相關(guān)的內(nèi)容。

在40個樣本城市中，有14個城市專門發(fā)布了指導(dǎo)未來產(chǎn)業(yè)發(fā)展的政策。其中，僅有北京、上海、成都、蘇州4個城市的未來產(chǎn)業(yè)指導(dǎo)文件有涉及科技倫理治理水平提升的表述。另外，天津和南昌的未來產(chǎn)業(yè)政策由區(qū)級政府發(fā)布，也提到了科技倫理。

本表由作者通過手工搜索40個樣本城市的相關(guān)政策繪制而成

分析這6個關(guān)注科技倫理的城市的政策文本會發(fā)現(xiàn)，城市投入倫理建設(shè)的程度受到既有未來產(chǎn)業(yè)水平的影響。未來產(chǎn)業(yè)發(fā)展水平高的城市往往突出系統(tǒng)性建設(shè)，而未來產(chǎn)業(yè)還處于起步階段的城市則傾向于強調(diào)局部建設(shè)、提倡自覺自治。

未來產(chǎn)值已達(dá)千億的北京和上海，強調(diào)“將科技倫理貫穿產(chǎn)業(yè)發(fā)展全過程”和“數(shù)據(jù)安全、產(chǎn)業(yè)安全和倫理制度建設(shè)”。未來產(chǎn)業(yè)初具規(guī)模的成都和蘇州，點名建設(shè)服務(wù)機構(gòu)，要求加快專有領(lǐng)域的倫理研究。而未來產(chǎn)業(yè)還在起步的天津和南昌，更關(guān)注“加強倫理審查的創(chuàng)新力度”和“自覺自律”。

以上規(guī)律體現(xiàn)了治理未來產(chǎn)業(yè)“先發(fā)展、再治理”的總體思路。同樣體現(xiàn)這個思路的還有南京。《南京國家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)建設(shè)實施方案》提出“三步走”的目標(biāo)：2022年，啟動先導(dǎo)區(qū)建設(shè)；2023年，組織攻關(guān)關(guān)鍵項目；2024年，探索人工智能領(lǐng)域監(jiān)管政策、倫理道德、保障保險的研究。

當(dāng)然，產(chǎn)業(yè)政策中沒有涉及倫理表述的地區(qū)，不代表在科技治理方面毫無建樹。廣東省級層面發(fā)布了《廣東省關(guān)于加強科技倫理治理的實施方案》，深圳則推出了《深圳市關(guān)于加強科技倫理治理的落實方案》。在促進(jìn)科學(xué)技術(shù)發(fā)展的省級條例中，也有不少納入了與安全和倫理相關(guān)的條例。

城市科技治理聚焦生物醫(yī)藥和人工智能

科技治理應(yīng)面向所有可能會產(chǎn)生安全、倫理風(fēng)險的未來技術(shù)，而目前爭議主要存在于生物醫(yī)藥和人工智能兩個專業(yè)領(lǐng)域。

在40個樣本城市中，29個城市發(fā)布了針對生物醫(yī)藥的產(chǎn)業(yè)政策，其中12個（41.4%）提出加強倫理審查協(xié)作機制，建立倫理審查委員會，加快推進(jìn)醫(yī)院間和區(qū)域內(nèi)的倫理審查結(jié)果互認(rèn)等措施。另有21個城市推出了針對人工智能的產(chǎn)業(yè)政策，其中11個（52.4%）提出建設(shè)科技治理框架，從人才培訓(xùn)、法律研究等方面發(fā)揮治理作用。這些數(shù)據(jù)都顯著高于“科技倫理”在未來政策中被提及的比例，可見大部分城市級的科技治理還集中在專業(yè)領(lǐng)域。

和生物醫(yī)藥相比，人工智能領(lǐng)域的城市治理發(fā)展更顯著。以上海為例，2022年中國人工智能領(lǐng)域首部省級地方性法規(guī)《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》，有專門的一章談“產(chǎn)業(yè)治理與安全”，計劃探索“分級治理和沙盒監(jiān)管”，設(shè)立人工智能倫理專家委員會等。2023年，上海還提出針對大模型測試建立評估中心，并關(guān)注算法倫理問題。

城市科技治理模式：集中治理與敏捷治理

目前看來，中國科技治理呈現(xiàn)“從上到下”的模式——中央起頭，地方跟進(jìn)。但學(xué)者呼吁更多元化的治理模式，即城市應(yīng)有“從下至上”的創(chuàng)新意識，“社會”作為技術(shù)更新的一線，也應(yīng)主動參與城市科技治理。

人工智能領(lǐng)域?qū)＜摇⑶迦A大學(xué)中國科技政策研究中心主任薛瀾告訴澎湃新聞，在中國以AI領(lǐng)域為代表的技術(shù)治理分為三個階段：在回應(yīng)式治理模式階段（2017-2022年），國家本著包容審慎的態(tài)度，主要出臺針對具體問題的軟性規(guī)則；在集中治理模式階段（2022年至今），針對積累到一定程度的問題，采取政府多部門聯(lián)手集中解決的模式；在敏捷治理模式階段，應(yīng)由政府主導(dǎo)，同時多元治理主體協(xié)同互動，被治理對象“自下而上”地參與動態(tài)治理。

基因技術(shù)專家、浙江大學(xué)公共管理學(xué)院副教授俞晗之以基因等生物技術(shù)為例，也談到了多元治理：“中國的基因測序市場仍然需要規(guī)范。基因服務(wù)如何保障數(shù)據(jù)安全，數(shù)據(jù)交易如何規(guī)避倫理問題，如何保障基因數(shù)據(jù)解讀的科學(xué)性等問題亟待解決。而這些問題動態(tài)地發(fā)生在市場中。因此，相比單向地等待政府通知，市場根據(jù)技術(shù)更新的一線消息，主動參與治理是更有效的治理模式。”

市場和社會對多元治理也有所期待。不少科技公司成立倫理委員會，其中杭州和深圳的企業(yè)居多。2020年，商湯科技成立人工智能倫理與治理委員會。2022年，阿里巴巴成立科技倫理治理委員會，強調(diào)三方監(jiān)督。2023年，有報道稱螞蟻集團大模型研發(fā)團隊將投入 20% 左右的技術(shù)人員建設(shè)科技倫理，并將與高校合作打造科技倫理知識體系。

高校和研究機構(gòu)也積極參與城市科技治理。2022年中國科學(xué)技術(shù)協(xié)會與復(fù)旦大學(xué)成立科技倫理與人類未來研究院。2023年重慶市科學(xué)技術(shù)協(xié)會與西南大學(xué)成立了科技倫理學(xué)會。這一年，中國信通院還發(fā)布了《人工智能倫理治理研究報告（2023年）》，反思先進(jìn)技術(shù)的安全倫理隱患。

這些行動一定意義上代表了市場和社會參與科技治理的興趣，但這些“由下而上”的嘗試如何與各級政府形成有效的對話機制，從而有機融入政府主導(dǎo)的治理框架，還有待觀察。

一手技術(shù)一手治理，未來產(chǎn)業(yè)要健康發(fā)展，“兩手”準(zhǔn)備缺一不可。但無論是政府集約式的管理手段，還是社會高度參與的治理模式，都尚在發(fā)展之中。新年城市科技治理將有何新舉，拭目以待。

[1] 40個城市的名單：北京、天津、上海、重慶、石家莊、太原、西安、濟南、鄭州、沈陽、長春、哈爾濱、南京、杭州、合肥、南昌、福州、武漢、長沙、成都、貴陽、昆明、廣州、海口、蘭州、西寧、呼和浩特、烏魯木齊、拉薩、南寧、銀川、深圳、蘇州、寧波、青島、無錫、佛山、泉州、南通、東莞

--------

城市因集聚而誕生。

一座城市的公共政策、人居環(huán)境、習(xí)俗風(fēng)氣塑造了市民生活的底色。

澎湃城市觀察，聚焦公共政策，回應(yīng)大眾關(guān)切，探討城市議題。