在喜歡以末日思維思考的人看來(lái)，技術(shù)必將給文明帶來(lái)災(zāi)難。誠(chéng)然，我們也許永遠(yuǎn)看不到通過(guò)CRISPR基因編輯技術(shù)出生的嬰兒、失去控制的自動(dòng)駕駛汽車(chē)、或者想殺害人類的人工智能。但隨著技術(shù)加速進(jìn)步，萬(wàn)一這一天真的到來(lái)，事態(tài)可能遠(yuǎn)超我們的想象。但與此同時(shí)，有一個(gè)問(wèn)題值得思考：最危險(xiǎn)的新興技術(shù)是什么？讓我們看看專家們對(duì)此怎么說(shuō)吧。

澤菲爾·蒂喬特 （福特漢姆大學(xué)法學(xué)副教授）

辦公室監(jiān)控。這種技術(shù)會(huì)造成嚴(yán)重的信息不對(duì)稱，讓雇主可以像對(duì)待實(shí)驗(yàn)室小白鼠一樣監(jiān)視自己的員工，使本就惡劣的上下級(jí)關(guān)系進(jìn)一步惡化。雇主們深知如何以不健康的方式刺激員工工作，也知道如何用更少的工資榨取更多的價(jià)值。這讓他們可以排除異己，還能通過(guò)區(qū)別對(duì)待離間員工。這種技術(shù)如今在職場(chǎng)中已經(jīng)隨處可見(jiàn)，假如不加以制止，很快就會(huì)泛濫成災(zāi)。

邁克爾·利特曼 （布朗大學(xué)計(jì)算機(jī)科學(xué)教授）

在2021 AI100報(bào)告中，有一章描述了人工智能當(dāng)前對(duì)我們最緊迫的威脅有哪些。這支包含17人的專家團(tuán)隊(duì)認(rèn)為，雖然人工智能系統(tǒng)在現(xiàn)實(shí)世界中的應(yīng)用可以造福人類，但隨著其應(yīng)用范圍的擴(kuò)大，誤用、過(guò)度使用、以及濫用的風(fēng)險(xiǎn)也將激增。

專家團(tuán)隊(duì)對(duì)人工智能最大的擔(dān)憂在于所謂的“技術(shù)解決主義”，即“認(rèn)為像人工智能這樣的技術(shù)可以用來(lái)解決任何問(wèn)題”的心態(tài)。許多人都認(rèn)為，人工智能所做的決策客觀中立、不偏不倚，但這些決策結(jié)果可能得到不恰當(dāng)?shù)膽?yīng)用，也可能基于歷史偏見(jiàn)、甚至明晃晃的歧視。如果數(shù)據(jù)或數(shù)據(jù)解讀算法不夠透明，公眾就可能被蒙在鼓里，根本不清楚這些決策會(huì)對(duì)自己的生活造成怎樣的影響。

人工智能系統(tǒng)目前已經(jīng)被用來(lái)在網(wǎng)上發(fā)布虛假信息了，因此很可能對(duì)民主造成威脅，被用作散播法西斯主義的工具。另外，如果對(duì)人工智能中的人為因素考慮不夠充分，就會(huì)導(dǎo)致人們?cè)凇安恍湃稳斯ぶ悄芟到y(tǒng)”和“過(guò)度依賴這些系統(tǒng)”之間來(lái)回?fù)u擺。人工智能算法也在涉及器官分配、疫苗等醫(yī)療問(wèn)題的決策制定中起到了一定作用，很可能導(dǎo)致生死攸關(guān)的后果。

如果在出現(xiàn)問(wèn)題時(shí)，對(duì)系統(tǒng)效果負(fù)責(zé)的個(gè)人或組織可以負(fù)起主要責(zé)任，人工智能的危險(xiǎn)性或許能得到緩解。將所有利益相關(guān)方牽涉進(jìn)來(lái)，雖然會(huì)大大減慢人工智能解決困難問(wèn)題的速度，但卻是不可或缺的一步，因?yàn)榧夹g(shù)濫用的負(fù)面后果實(shí)在過(guò)于嚴(yán)重。技術(shù)專家也應(yīng)當(dāng)像醫(yī)療行業(yè)一樣，堅(jiān)決遵守“不傷害”原則。

戴維·沙姆韋·瓊斯（哈佛大學(xué)流行病學(xué)教授）

至于誰(shuí)能擔(dān)得起“最危險(xiǎn)的新興技術(shù)”這一頭銜，候選人顯然有很多。例如，CRISPR等基因編輯技術(shù)的效果不一定有支持者們宣稱的那樣強(qiáng)大，反而有可能造成嚴(yán)重破壞。此外，社交媒體也展現(xiàn)出了造成大范圍傷害的威力。但最令我擔(dān)心的，還是人臉識(shí)別技術(shù)在監(jiān)控領(lǐng)域的大規(guī)模應(yīng)用。從很多方面來(lái)說(shuō)，這項(xiàng)技術(shù)都是一項(xiàng)重要的社會(huì)資產(chǎn)。例如，人臉識(shí)別可以提高交易效率，登機(jī)時(shí)無(wú)需出示身份證或登機(jī)牌，在商店買(mǎi)東西時(shí)也可以直接刷臉付賬。人臉識(shí)別也可以加強(qiáng)社會(huì)治安，更容易找到和逮捕犯罪分子。

所以這種技術(shù)危險(xiǎn)在哪里呢？首先，我們的一舉一動(dòng)都將不再隱私，總有人能知道我們?cè)谀?、我們?nèi)ミ^(guò)哪里。就算這些個(gè)人信息沒(méi)有被濫用，隱私感和匿名感的喪失也會(huì)讓人感覺(jué)不適。此外還有信息濫用問(wèn)題，并且這種風(fēng)險(xiǎn)是真實(shí)存在的。任何有途徑拿到這些信息的人都有可能將其用于不法目的。從心理扭曲的追求者到政府部門(mén)，都有可能對(duì)我們?nèi)サ牡胤胶鸵?jiàn)的人進(jìn)行監(jiān)視，甚至預(yù)測(cè)我們的下一步行動(dòng)。并且我還懷疑，這種技術(shù)的危害也許遠(yuǎn)超我們的想象。

瑞安·卡羅（華盛頓大學(xué)法學(xué)教授）

我認(rèn)為最危險(xiǎn)的信息技術(shù)當(dāng)屬量子計(jì)算機(jī)。除了加密破解之外，量子計(jì)算的危險(xiǎn)性其實(shí)已經(jīng)不是什么新鮮事了。早從超級(jí)計(jì)算機(jī)時(shí)代開(kāi)始，量子計(jì)算對(duì)個(gè)人隱私的威脅就已有加速增長(zhǎng)之勢(shì)。如今有了足夠的數(shù)據(jù)和處理能力，當(dāng)今的計(jì)算機(jī)系統(tǒng)抓取私人信息的能力更是在不斷增強(qiáng)。我擔(dān)心的是，利用量子計(jì)算技術(shù)，政府和企業(yè)都將變成“福爾摩斯”，從公開(kāi)信息中猜出我們的所有秘密。

艾米·韋伯 （前景、趨勢(shì)及情境規(guī)劃公司Future Today Institute首席執(zhí)行官）

最危險(xiǎn)的新型技術(shù)應(yīng)該是生物學(xué)，或者說(shuō)得更準(zhǔn)確些，合成生物學(xué)。這門(mén)技術(shù)的目標(biāo)只有一個(gè)：利用細(xì)胞編寫(xiě)全新的（或者更好的）遺傳編碼。合成生物學(xué)運(yùn)用工程學(xué)、人工智能、遺傳學(xué)和化學(xué)方法，對(duì)生物身體部件或生物體進(jìn)行重新設(shè)計(jì)，從而加強(qiáng)特定能力或創(chuàng)造新功能。利用一系列最新合成生物學(xué)技術(shù)，我們不僅能讀取和編輯DNA編碼，還能編寫(xiě)出新的編碼。這就意味著，我們很快就能給生物體編程了，就好像它們是微型電腦一樣。

合成生物學(xué)讓我們可以將DNA序列變?yōu)檐浖ぞ?，就像Word一樣，只不過(guò)編輯的對(duì)象是DNA編碼而已。研究者按自己的想法完成DNA編寫(xiě)或編輯后，新的DNA分子就可以借助3D打印機(jī)之類的技術(shù)憑空“打印”出來(lái)。這種DNA合成技術(shù)正在飛速進(jìn)步中。如今的技術(shù)已經(jīng)能常規(guī)打印出包含幾千個(gè)堿基對(duì)的DNA鏈了，可用于建立新的細(xì)胞代謝通路、甚至足以構(gòu)成一個(gè)完整的細(xì)胞基因組。

這樣可能會(huì)造成什么問(wèn)題呢？用不了多久，我們就能編寫(xiě)出任何病毒的基因組。想到新冠病毒，這種設(shè)想似乎很?chē)樔耍《静灰欢ǘ际菈氖?。事?shí)上，病毒只是盛放遺傳編碼的容器而已。未來(lái)我們也許可以創(chuàng)造出對(duì)人體有益的病毒，用于治療癌癥等特定疾病。

合成生物學(xué)將在氣候危機(jī)和食物及水資源短缺中發(fā)揮重要作用。它將減少我們對(duì)動(dòng)物蛋白質(zhì)的依賴，最終還能實(shí)現(xiàn)藥品定制化，人們的身體將成為自己的“藥房”。

但合成生物學(xué)之所以是最危險(xiǎn)的新興技術(shù)，原因并不在科學(xué)本身，而是出在我們?nèi)祟惿砩?。這要求我們挑戰(zhàn)現(xiàn)有的心智模式，提出一系列復(fù)雜艱深的問(wèn)題，還要對(duì)生命的起源展開(kāi)理性討論，否則我們就會(huì)制造風(fēng)險(xiǎn)、錯(cuò)失機(jī)會(huì)。在接下來(lái)10年里，我們要充分利用數(shù)據(jù)、證據(jù)及科學(xué)精神來(lái)制定關(guān)鍵決策，比如制造哪些治病專用的新病毒、基因隱私是什么樣的概念、以及誰(shuí)擁有“生物體”的所有權(quán)等等。監(jiān)管機(jī)構(gòu)也要確定企業(yè)應(yīng)如何從人工編輯細(xì)胞中盈利、以及在實(shí)驗(yàn)室中保存合成生物體需遵守什么流程。

我們本身在合成生物學(xué)中也扮演了重要的角色。如果你可以重新編輯自己的身體，你會(huì)做出什么選擇？如果可以對(duì)你未來(lái)的子女進(jìn)行編輯，你會(huì)不會(huì)對(duì)此感到困擾？如果食用合成生物可以緩解氣候變化，你會(huì)接受嗎？合成生物學(xué)將成為人類有史以來(lái)打造過(guò)最強(qiáng)大、最可持續(xù)的制造平臺(tái)。我們?nèi)缃裾幱谶@場(chǎng)工業(yè)革命的風(fēng)口浪尖。

杰倫·范登霍文（代爾夫特理工大學(xué)倫理與技術(shù)教授）

我認(rèn)為最危險(xiǎn)的技術(shù)是那些阻擋人們了解世界和他人需求的社會(huì)或認(rèn)知技術(shù)。這些技術(shù)容易導(dǎo)致人性的泯滅，使人們變得自私自戀、不為他人考慮。這些技術(shù)就像造霧機(jī)一樣蒙住了我們的雙眼，讓我們對(duì)人類共同體和人類的責(zé)任視而不見(jiàn)。這些技術(shù)完全沒(méi)有信仰可言。研發(fā)它們的人要么是被別人當(dāng)成工具利用，要么極其天真幼稚，要么是同謀，要么就是偽造假象的大師、堅(jiān)決否認(rèn)人類未來(lái)可能遭遇的一切苦痛。

所以我認(rèn)為，這些助長(zhǎng)認(rèn)知混亂的數(shù)字技術(shù)是我們面臨的最大威脅。這些技術(shù)的危險(xiǎn)性很容易被遮蔽或否認(rèn)，因此大多數(shù)人都覺(jué)得沒(méi)什么不對(duì)。而與此同時(shí)，其它真正能造福人類的技術(shù)反而會(huì)被污名化。暴君和惡棍飽受贊譽(yù)，英雄和救世主卻被肆意抹黑。

有的人還未放棄抵抗氣候變化、尋找抗疫方法、阻止醫(yī)院利用人工智能分診、揭露深層騙局等等。但這些人如今已難以辨明哪些才是真相、哪些做法在道義上可以接受。而多數(shù)人恐怕都早已放棄了對(duì)真相的追尋，變得溫馴順從、洋洋自滿。

希德·約翰遜 （紐約州立上州醫(yī)科大學(xué)生物倫理與人類學(xué)副教授）

異種移植（即將一種動(dòng)物的器官和組織移植到另一種動(dòng)物體內(nèi)）一直被視作移植器官短缺的解決方案之一。有成千上萬(wàn)人在苦苦等待救命的器官，有些人最終熬不過(guò)漫長(zhǎng)的等待、在這個(gè)過(guò)程中不幸逝世。從上世紀(jì)60年代到90年代，研究人員做了無(wú)數(shù)次將靈長(zhǎng)動(dòng)物器官移植給人類的嘗試。但到目前為止，還沒(méi)有患者在接受異種器官后存活下來(lái)。有人只活了短短幾小時(shí)，有人堅(jiān)持了幾天活幾周，原因之一在于免疫系統(tǒng)對(duì)新器官產(chǎn)生的排異反應(yīng)、甚至可怕的超急性排異反應(yīng)。

物種之間差異越大，排異風(fēng)險(xiǎn)越大，就像人類和豬一樣，畢竟兩個(gè)物種之間隔了8000萬(wàn)年的進(jìn)化差異。但豬目前被我們視作較為理想的器官來(lái)源，因?yàn)轱曫B(yǎng)難度低，器官大小適合人類使用，并且每年被屠宰的豬本就達(dá)到了數(shù)億頭之多，所以為了器官殺死它們似乎也不存在太大的倫理道德問(wèn)題。

靈長(zhǎng)類動(dòng)物與人類之間的遺傳相似性會(huì)增加人畜共患病的感染風(fēng)險(xiǎn)。美國(guó)食藥監(jiān)局就明確禁止了將靈長(zhǎng)類動(dòng)物的器官用于異種移植。但豬也可能感染與人類相似的病毒，也可能傳播人畜共患病。1998和1999年，馬來(lái)西亞的養(yǎng)豬戶中就爆發(fā)了一次因豬傳播的尼帕病毒導(dǎo)致的病毒性腦炎，導(dǎo)致100人死亡、超過(guò)1百萬(wàn)頭豬被撲殺。

新冠也是一種人畜共患病，可能先后跨越了好幾個(gè)物種、最終才傳播到人類身上，引發(fā)了這起已奪走數(shù)百萬(wàn)條生命的全球大流行，給醫(yī)療體系造成了重?fù)?，引發(fā)了一系列全球性社會(huì)經(jīng)濟(jì)動(dòng)亂。目前，我們已在狗、貓、雪貂、黑猩猩、大猩猩、水獺、大型貓科動(dòng)物、歐洲的人工養(yǎng)殖貂、以及美國(guó)的野生白尾鹿身上都發(fā)現(xiàn)了新冠病毒。

人畜共患病通過(guò)異種器官移植傳播的風(fēng)險(xiǎn)是個(gè)十分嚴(yán)肅的話題，許多組織都建議對(duì)器官接受者、其密切接觸者、以及參與移植過(guò)程的醫(yī)療工作者進(jìn)行終生觀察。觀察的目的倒不是保護(hù)器官接受者本身，而是出于公共衛(wèi)生考慮。因此異種移植是一項(xiàng)極其危險(xiǎn)的新興技術(shù)。在最糟糕的情況下，也許會(huì)爆發(fā)另一場(chǎng)全球性大流行病，造成災(zāi)難性后果。

除了異種移植之外，器官短缺其實(shí)還有其它解決方案，并且有些已經(jīng)可以投入應(yīng)用了，例如增加人類捐贈(zèng)者的數(shù)量。還有些正在研發(fā)中（例如：體外培育人體器官，利用3D生物打印技術(shù)實(shí)現(xiàn)受損器官的體內(nèi)修復(fù)和再生等等）。這些技術(shù)都沒(méi)有造成全球大流行病的風(fēng)險(xiǎn)。而異種移植技術(shù)在經(jīng)歷了數(shù)十年的研究、以及無(wú)數(shù)次失敗后，仍存在諸多疑點(diǎn)。如今新冠疫情已進(jìn)入第三個(gè)年頭，異種移植的疾病傳染風(fēng)險(xiǎn)已經(jīng)成為了一個(gè)重點(diǎn)問(wèn)題，其危險(xiǎn)性再怎么高估也不為過(guò)。

約翰娜·布萊森 （柏林赫爾蒂行政學(xué)院倫理與技術(shù)教授）

我認(rèn)為最危險(xiǎn)的新興技術(shù)其實(shí)是各種國(guó)家治理形式。我們對(duì)社會(huì)控制已經(jīng)有了充分的了解。有些國(guó)家對(duì)這些信息的使用主要出于好意，但有些則用其壓迫和操縱少數(shù)群體、甚至削弱占多數(shù)群體的權(quán)力，無(wú)論是哪種方式，結(jié)果都很殘酷。我們還要意識(shí)到，這種暴行也包括“文化種族屠殺”，即抹去人們留下的所有記錄和歷史、否認(rèn)其祖先的存在和身份。這種做法雖然不一定會(huì)真的殺死這些人，但也會(huì)嚴(yán)重打擊其蓬勃發(fā)展的能力。

要想解決這些問(wèn)題，唯一的辦法就是創(chuàng)新治理形式，鼓勵(lì)合作行為，尊重基本權(quán)利。很多技術(shù)事實(shí)上都有“雙重用途”。我們不能選擇躺平、認(rèn)為解決方案不在自己掌控范圍內(nèi)。在任何社會(huì)層級(jí)上，政治覺(jué)醒度和參與度都十分重要。而且有趣的是，我們利用社交媒體等工具，已經(jīng)在很大程度上提高了人們的政治意識(shí)。所以我認(rèn)為還是有希望的，只不過(guò)要做的工作還有很多。

伊麗莎白·希爾特 （伊利諾伊理工學(xué)院哲學(xué)教授）

最危險(xiǎn)的新興技術(shù)應(yīng)該是某種能夠脫離人類控制和監(jiān)管的技術(shù)。技術(shù)不會(huì)奇跡般地憑空出現(xiàn)，本身也并不危險(xiǎn)，危險(xiǎn)之處其實(shí)在于設(shè)計(jì)、改造和部署它們的人類。

雖然有很多人猜測(cè)，未來(lái)可能會(huì)出現(xiàn)超級(jí)人工智能、對(duì)人類進(jìn)行統(tǒng)治和支配，但我認(rèn)為，新興技術(shù)有很多更加實(shí)際的方法逃離人類掌控。

例如，技術(shù)的作用原理若不夠透明，就很容易脫離我們的控制。此外，針對(duì)某一技術(shù)的功能和影響，制造商或企業(yè)也許會(huì)對(duì)公眾歪曲事實(shí)、或有所隱瞞。

人類的情感投入也可能導(dǎo)致失去對(duì)技術(shù)的掌控。我們與技術(shù)開(kāi)展互動(dòng)時(shí)，越是符合自己的直覺(jué)和情感，就越容易掌握這門(mén)技術(shù)。因此類人機(jī)器人常常會(huì)模仿人與人之間的互動(dòng)方式。但如果賦予技術(shù)情緒等人類特征，可能會(huì)導(dǎo)致人類單方面的情感投入，使得人與技術(shù)之間的互動(dòng)不再受理性主導(dǎo)、而是受感性因素驅(qū)使。在這類互動(dòng)關(guān)系中，人類將成為更容易受傷害的一方。

本文來(lái)自“新浪科技”，作者：葉子，36氪經(jīng)授權(quán)發(fā)布。