·現(xiàn)代科技的自由是相對(duì)且有限度的，超越限度所獲得的將不是自由而可能是毀滅。在科學(xué)技術(shù)突飛猛進(jìn)的今天，特別要看到科學(xué)技術(shù)后果的不確定性。

克里斯托弗·諾蘭執(zhí)導(dǎo)的傳記電影《奧本海默》8月30日在中國(guó)大陸上映。

8月30日，著名導(dǎo)演克里斯托弗·諾蘭（Christopher Nolan）的傳記電影《奧本海默》終于在中國(guó)大陸與觀眾見(jiàn)面了。

羅伯特·奧本海默（J. Robert Oppenheimer）被稱為“原子彈之父”。他原本是美國(guó)加州大學(xué)的一位理論物理學(xué)家，在那個(gè)特定的年代，他接受了一項(xiàng)特定的任務(wù)：研制原子彈。

事情的緣由是這樣的：

1938年，德國(guó)化學(xué)家?jiàn)W托·哈恩（Otto Hahn）和弗里茲·施特拉斯曼（Fritz Strassmann）共同發(fā)現(xiàn)了核裂變現(xiàn)象，隨即又發(fā)現(xiàn)其背后的理論原理。這使得人們非常擔(dān)心納粹德國(guó)會(huì)先造出原子彈。1939年8月，匈牙利裔物理學(xué)家利奧·西拉德（Leo Szilard）和尤金·維格納（Eugene Wigner）聯(lián)合愛(ài)因斯坦（Albert Einstein），共同起草了致美國(guó)總統(tǒng)羅斯福（Franklin Delano Roosevelt）的信，史稱“愛(ài)因斯坦-西拉德信”，督促美國(guó)政府盡快開(kāi)展核武器的研究。羅斯福隨即命令國(guó)家標(biāo)準(zhǔn)局局長(zhǎng)萊曼·布里格斯組建鈾顧問(wèn)團(tuán)，詳議“愛(ài)因斯坦-西拉德信”提及的問(wèn)題。同年11月，這個(gè)顧問(wèn)團(tuán)回稟羅斯福稱，鈾“或可被制成炸彈，其破壞力將遠(yuǎn)大于目前所知的任何武器”。但是當(dāng)時(shí)即便是那些科學(xué)家，也并不完全了解鈾裂變的性質(zhì)，整個(gè)計(jì)劃充滿著未知數(shù)。1941年日本偷襲珍珠港之后，美國(guó)對(duì)日德宣戰(zhàn)，加速了整個(gè)原子彈研究計(jì)劃的進(jìn)行。1942年5月，加州大學(xué)理論物理學(xué)家羅伯特·奧本海默接手相關(guān)研究工作。同年8月，他被任命為研制原子彈的“曼哈頓計(jì)劃”（Manhattan Project）首席科學(xué)家。1945年7月，在奧本海默的主持下，世界上第一顆原子彈問(wèn)世。

當(dāng)原子彈變?yōu)楝F(xiàn)實(shí)，并投放成功的時(shí)候，奧本海默自己卻陷入了自我道德評(píng)價(jià)的糾結(jié)困境。在20世紀(jì)60年代的一次接受采訪中，奧本海默表示，在爆炸發(fā)生后的時(shí)刻里，他腦海中浮現(xiàn)出了印度教經(jīng)典《薄伽梵歌》中的一句話：“而今我成了死神，世界的毀滅者。”在1945年10月的一次會(huì)議上，他對(duì)美國(guó)總統(tǒng)杜魯門（Harry S.Truman）說(shuō)了這樣的話：“我覺(jué)得我的雙手沾滿了鮮血。”總統(tǒng)后來(lái)說(shuō)：“我告訴他，血在我手上——讓我來(lái)操心這個(gè)問(wèn)題。”在奧本海默生命的最后的時(shí)間里，他既對(duì)核彈的技術(shù)成就感到自豪，也對(duì)它的影響心懷愧疚。他后來(lái)也有一種認(rèn)命之情，他不止一次地表示，原子彈的發(fā)明是不可避免的，但他也非常清醒認(rèn)識(shí)到，科學(xué)不能僅僅是科學(xué)，科學(xué)需要更好地理解其自身的含義，為此，在他的團(tuán)隊(duì)里，還招募了一大批非科學(xué)專業(yè)人士，包括古典學(xué)家、詩(shī)人和心理學(xué)家。

不止奧本海默，最初建議制造原子彈的匈牙利裔物理學(xué)家利奧·西拉德，后來(lái)則與其他科學(xué)家一起試圖阻止美國(guó)使用核武器，簽署了著名的《弗蘭克報(bào)告》。愛(ài)因斯坦也因?yàn)槊绹?guó)發(fā)展出的原子彈導(dǎo)致了許多平民的死亡而感到后悔。愛(ài)因斯坦后來(lái)寫道：“在我們這個(gè)時(shí)代，科學(xué)家和工程師擔(dān)負(fù)著特別沉重的道義責(zé)任，因?yàn)榘l(fā)展大規(guī)模破壞性的戰(zhàn)爭(zhēng)手段有賴于他們的工作和活動(dòng)。”

“雖然我們贏得了戰(zhàn)爭(zhēng)，但是沒(méi)有贏得和平。”愛(ài)因斯坦的這句話非常值得人深思。我們知道制造原子彈最初的目的是為了和平，但是二戰(zhàn)以后的情況證明了愛(ài)因斯坦的洞見(jiàn)：原子彈的出現(xiàn)并沒(méi)有贏得和平，反而促使軍備競(jìng)賽不斷升級(jí)，戰(zhàn)爭(zhēng)的威脅越來(lái)越大。

奧本海默、原子彈，這是科學(xué)史甚至是人類歷史上的重大事件，但作為一個(gè)典型案例，它首先提醒我們，現(xiàn)代科學(xué)的性質(zhì)已經(jīng)發(fā)生了改變，與希臘科學(xué)作為無(wú)功利的、自由探索的知識(shí)體系相比，現(xiàn)代科學(xué)已經(jīng)成為一種力量，用培根的話來(lái)說(shuō)，知識(shí)就是權(quán)力，用海德格爾的話來(lái)說(shuō)，現(xiàn)代科學(xué)本質(zhì)上已經(jīng)成為一種Betrieb, 也就是一種有組織有計(jì)劃有目的有價(jià)值指向的活動(dòng)，原本相分離的科學(xué)和技術(shù)也越來(lái)越緊密地糾纏在一起，成為你中有我我中有你的科技或“技科學(xué)”。與此同時(shí)，它也向我們敲響了警鐘，越來(lái)越清晰地告訴人們：科學(xué)技術(shù)給人類帶來(lái)的不完全是福祉，科學(xué)技術(shù)也可能跟災(zāi)難、毀滅相伴隨。尤其是在科學(xué)技術(shù)突飛猛進(jìn)的今天，我們特別需要看到科學(xué)技術(shù)本身的“兩面性”，看到科學(xué)技術(shù)后果的不確定性。

科學(xué)技術(shù)帶來(lái)的不確定性體現(xiàn)在多個(gè)方面：首先，科學(xué)技術(shù)本身具有可塑造性，按照符合邏輯的方式，科學(xué)技術(shù)可能實(shí)現(xiàn)不同的功能。 其次，科學(xué)技術(shù)發(fā)展過(guò)程的復(fù)雜性所帶來(lái)的不確定性。現(xiàn)代科學(xué)技術(shù)是多元主體參與的活動(dòng)，不同學(xué)科背景、不同價(jià)值取向主體的介入，使得各個(gè)主體之間往往難以完全理解。第三，科學(xué)技術(shù)發(fā)展過(guò)程受到諸多因素影響，如政治、市場(chǎng)、政策等，這些因素的疊加使得科學(xué)技術(shù)創(chuàng)新獲得了空前的發(fā)展速度，承受著應(yīng)用的壓力。第四，科學(xué)技術(shù)發(fā)展的不確定性還與其發(fā)展的范圍有關(guān)，表現(xiàn)出全球化發(fā)展態(tài)勢(shì)與各國(guó)發(fā)展差異的共存，這種狀況又可能會(huì)引發(fā)人類的其他矛盾和沖突。

比爾·喬伊（Bill Joy），太陽(yáng)（Sun）微系統(tǒng)公司聯(lián)合創(chuàng)始人和首席科學(xué)家，他在 2000 年的時(shí)候就發(fā)出警告說(shuō)：“未來(lái)不需要我們。”那個(gè)時(shí)候，世界各國(guó)正在轟轟烈烈地開(kāi)展納米技術(shù)的競(jìng)爭(zhēng)。在他看來(lái)，用納米技術(shù)進(jìn)行破壞活動(dòng)要比進(jìn)行建設(shè)活動(dòng)容易得多，未來(lái)人將越來(lái)越依賴于機(jī)器，而控制大型機(jī)器系統(tǒng)的卻是極少數(shù)精英階層。從上世紀(jì) 50 年代開(kāi)始的核技術(shù)和生物技術(shù)對(duì)人類的深度干預(yù)，到近幾十年迅猛發(fā)展的納米技術(shù)和人工智能所展現(xiàn)的巨大威力，激發(fā)起人們對(duì)它的危害性的警覺(jué)和對(duì)“技術(shù)撬動(dòng)世界”的狂妄的批判，也成為科技倫理反思和治理的起點(diǎn)。

我們知道，科學(xué)技術(shù)活動(dòng)本質(zhì)上追求的是創(chuàng)造性。而創(chuàng)造性本身是一個(gè)帶有摧毀性甚至毀滅性的概念，只要我們仔細(xì)審視“創(chuàng)造性”這個(gè)概念的含義就會(huì)發(fā)現(xiàn)，創(chuàng)造性與我們所講的規(guī)范、秩序、先驗(yàn)規(guī)則等范疇是不相融合的。哲學(xué)家尼采就認(rèn)為，一個(gè)人想要成為創(chuàng)造者，那么他必須同時(shí)既是善的也是惡的：事實(shí)上，他必須首先是一個(gè)毀滅者并且是價(jià)值的摧毀者。

我們以合成生物學(xué)為例，合成生物學(xué)被看作是生命科學(xué)技術(shù)前沿的“黑科技”。如果說(shuō)傳統(tǒng)的生命科學(xué)技術(shù)還以“讀”懂生命的密碼為目的，那么，合成生物學(xué)則已經(jīng)開(kāi)啟了對(duì)生命這本神秘之書從“讀”到“寫”，再到“編輯”的新篇章。合成生物學(xué)的目的是設(shè)計(jì)生物系統(tǒng)和生命有機(jī)體。它具有工程學(xué)的特征：即“在人工設(shè)計(jì)的指導(dǎo)下，對(duì)生物元件進(jìn)行標(biāo)準(zhǔn)化的表征，建立通用型的模塊，在簡(jiǎn)約的‘細(xì)胞’或‘系統(tǒng)’底盤上，構(gòu)建人工生物系統(tǒng)并實(shí)現(xiàn)其運(yùn)行的優(yōu)化”，因此具有工程化、系統(tǒng)化和標(biāo)準(zhǔn)化的特征。這不僅在認(rèn)識(shí)論層面突破了“格物致知”的生命科學(xué)研究范式，而且開(kāi)啟了“構(gòu)物致知”的新的研究范式——邊改造、制造，邊認(rèn)識(shí)，甚至先改造、制造，后獲得知識(shí)。

這種先技術(shù)后科學(xué)的所謂“技科學(xué)”（technoscience）模式，雖然從知識(shí)的獲取上開(kāi)辟了新的途徑，具有重要的認(rèn)識(shí)論價(jià)值，但是對(duì)于風(fēng)險(xiǎn)的管控來(lái)說(shuō)，卻是異乎尋常的挑戰(zhàn)。數(shù)十億年演化而來(lái)的生命，可以在實(shí)驗(yàn)室通過(guò)人工的形式實(shí)現(xiàn)。在某種意義上，人從 Homo Faber（工匠人），變成了 Homo Creator， 成為生命的創(chuàng)造者或“造物主”，生命成為像機(jī)器一樣可以制造的人工物。這一過(guò)程的實(shí)現(xiàn)完全顛覆了我們對(duì)生命的理解，使得合成生物既具有人工物的特征，又具有生命系統(tǒng)的特征：一方面生命可以被看作是一架由各種生物元件組成的機(jī)器，是可以被設(shè)計(jì)、可以標(biāo)準(zhǔn)化復(fù)制并批量生產(chǎn)的人工系統(tǒng)；另一方面，合成的生物（或生物元件）保留了生命的自我分裂和自我繁殖的特征——這也就意味著，作為人工物的輸入——輸出和反饋的循環(huán)將被打破。如此一來(lái)，它又不是人類可以隨心所欲控制的。因此，一旦我們?cè)O(shè)計(jì)錯(cuò)了，或者編輯錯(cuò)了，其過(guò)程就是不可逆的，極有可能對(duì)人類的存在構(gòu)成威脅。

2022 年 11 月 30 日，美國(guó)OpenAI 推出的全新的對(duì)話式通用人工智能工具ChatGPT 上線后，立即驚艷全球，展現(xiàn)了驚人的應(yīng)用場(chǎng)景和前途。一方面是大語(yǔ)言模型的巨大能力，另一方面這一巨大能力也可能轉(zhuǎn)化成巨大風(fēng)險(xiǎn)。ChatGPT具有可泛化性，即由于其參數(shù)量極大，模型的能力可以惠及諸多領(lǐng)域，當(dāng)然其問(wèn)題也會(huì)被下游模型所繼承，帶來(lái)“一榮俱榮，一損俱損”的效果；而ChatGPT的泛在性，特別是與移動(dòng)終端連接后，用戶可以時(shí)時(shí)處處自由地與ChatGPT聊天互動(dòng)，獲取各類信息與知識(shí)，完成各類任務(wù)。如果治理不到位，數(shù)據(jù)泄露，功能僭變，身份冒用、偽造詐騙等問(wèn)題，有可能會(huì)以更加隱蔽的方式出現(xiàn)，什么是真的什么是假的、什么是我們可以相信的會(huì)變得更難以辨別。而這樣的結(jié)果必然是對(duì)我們生活方式、存在方式，我們的真理觀、世界觀的改變甚至顛覆。也就是說(shuō)大模型所突破的絕不僅僅是以往的技術(shù)框架，也終將改變?nèi)祟惡褪澜绲年P(guān)系。

許多科技巨頭也看到了大語(yǔ)言模型的顛覆性力量，認(rèn)為大模型存在著大風(fēng)險(xiǎn)，于是千人聯(lián)名提出要 “暫停高級(jí)AI研發(fā)”。然而，必須注意到的是，科學(xué)技術(shù)發(fā)展本身具有強(qiáng)勁的“動(dòng)力源”，人類對(duì)自然的無(wú)窮無(wú)盡的探索精神，經(jīng)濟(jì)賦予它的永不停息的推動(dòng)力，都是這種“動(dòng)力源”的重要組成部分。而另一方面，一項(xiàng)技術(shù)的社會(huì)后果不能在技術(shù)生命的早期被準(zhǔn)確預(yù)見(jiàn)，當(dāng)不希望的后果被發(fā)現(xiàn)時(shí)，技術(shù)卻往往已經(jīng)成為整個(gè)經(jīng)濟(jì)和社會(huì)結(jié)構(gòu)的一部分，以至于對(duì)它的控制十分困難。這就是我們常說(shuō)的“科林克里奇困境”。

正因?yàn)槿绱耍澜绺鲊?guó)都越來(lái)越多地重視科技倫理。“解放了的普羅米修斯正在呼喚一種能夠通過(guò)自愿節(jié)制而使其權(quán)力不會(huì)導(dǎo)致人類災(zāi)難的倫理”。 “預(yù)防原則”、“負(fù)責(zé)任創(chuàng)新”、“倫理先行”等概念或原則的提出，都是希望能夠盡可能地從源頭上加強(qiáng)對(duì)科學(xué)技術(shù)發(fā)展方向的把控。一方面要推動(dòng)科學(xué)技術(shù)造福于人類社會(huì)，另一方面要避免科學(xué)技術(shù)帶來(lái)的“福音”走向其反面。我們不僅要仰望星空，還要心懷道德律、敬畏感。科學(xué)技術(shù)的自由是相對(duì)的、有限度的，超越了這一限度我們所獲得的將不是自由而是毀滅。

（作者王國(guó)豫，系復(fù)旦大學(xué)哲學(xué)學(xué)院教授，中國(guó)科協(xié)-復(fù)旦大學(xué)科技倫理與人類未來(lái)研究院院長(zhǎng)。兼任上海市自然辯證法研究會(huì)理事長(zhǎng)，中國(guó)倫理學(xué)會(huì)科技倫理專業(yè)委員會(huì)副主任，中國(guó)計(jì)算機(jī)學(xué)會(huì)職業(yè)倫理與學(xué)術(shù)道德委員會(huì)共同主席等。研究方向?yàn)閼?yīng)用倫理學(xué)，科技倫理、生物醫(yī)學(xué)倫理等。）