人工智能正深刻改變世界。但它如一把“雙刃劍”，既帶來巨大機遇，也引發諸多挑戰——在醫療、教育、交通等領域，人工智能提升了效率，改善了生活質量﹔然而，它也可能沖擊就業、侵犯隱私、引發算法偏見等。如何握好這把“雙刃劍”，讓人工智能真正成為推動人類進步的力量。

當下的選擇決定未來的走向。本期我們邀請兩位專家，共同探討如何避免風險，引導技術向善。

人工智能在提高生產效率、降低成本、優化資源配置和提高生活質量等方面，發揮著越來越重要的作用。但無疑，人工智能發展中技術紅利與倫理風險並存。為此，亟須給擁有無限潛力的人工智能系上倫理“缰繩”，為其提供動態調適的倫理“導航儀”，讓人工智能的發展始終行進在人類倫理文明指引的正確航道之上。

人工智能提供巨大便利，也引發倫理風險

越來越多的人體驗到了人工智能對經濟社會和個人生活帶來的積極影響。

而在享受它提供的巨大便利的同時，我們不得不正視人工智能引發的多方面倫理風險：

購物App通過心率數據推測消費者的健康隱私，電商平台通過用戶瀏覽記錄、語音交互等方式精准預判用戶購買行為。個人在應用軟件上的零散數據經人工智能重組可生成“數字克隆人”，人工智能系統可通過海量數據拼接出比你更了解你自己的人生檔案。

人工智能顛覆了傳統的“行為—責任”，即“誰犯錯誰擔責”的責任倫理觀念。例如，在不同級別的自動駕駛故障中，難以確切判斷是哪個具體技術環節出現故障或過錯，確定承擔責任的主體存在困難。

人工智能的算法偏見損害公平正義。例如，由於外賣平台算法的運行邏輯、決策依據及影響機制的不透明，使得依托互聯網平台就業的網約配送員、網約車駕駛員等新就業形態勞動者，一定程度上陷入“數據迷宮”“隱形牢籠”，他們的權益保障可能面臨系統性風險。根據“用戶畫像”量身定制的差異化、動態化定價機制，形成了所謂的“大數據殺熟”現象，這是算法決策的“隱性偏見”。

此外，在生命科學領域，人工智能驅動的基因編輯技術，正在突破自然進化倫理法則。在人類情感方面，生成式人工智能創造的“虛擬伴侶”將重塑人際倫理關系，一些年輕人更願意與人工智能對話，而疏離了身邊真實的親朋好友。這種情感替代不僅改變著人類的情感模式，也消解了社會倫理聯系的生物學基礎。

用科技倫理預防技術失控風險

人工智能發展的終極目標是增強人類能力、促進社會公平、提升生活質量，而不是單純追求技術突破或商業利益。科技倫理是人工智能發展的“導航儀”，能夠為其研發、應用和治理提供明確的方向性指引和價值約束，確保人工智能技術發展始終服務於人類社會的福祉，防止人工智能失控或偏離道德軌道，實現人工智能技術與人類福祉的協同共進。

科技倫理提出“以人為本”的價值觀，要求人工智能技術必須尊重人類的尊嚴、保障人類的自由和權利，避免技術異化為壓迫工具。如果出現人工智能算法因數據偏見而損害相關群體權利的情形，必須根據科技倫理原則修正算法設計，確保對所有人的公平正義。

同時，科技倫理的作用還在於——預防技術失控風險。人工智能技術具有自主性、不可解釋性和廣泛影響力等特征，如果缺乏倫理約束，就可能引發隱私侵犯、算法歧視等。以科技倫理對人工智能發展進行治理的作用在於，通過制定“預防性倫理原則”，在設計階段預判風險，例如對自動駕駛制定倫理決策指引、限制深度偽造技術的使用等。

奠定社會信任基礎。公眾對人工智能的接受度直接影響技術落地。如果人工智能系統缺乏透明性和可解釋性，或存在數據濫用等問題，必然導致公眾對人工智能的信任危機。科技倫理強調透明性、可問責性等原則，要求人工智能系統公開決策邏輯，明確開發者的倫理和法律責任邊界，以此贏得公眾的信任。

平衡多方利益與權力。人工智能技術可能加劇數據資源的壟斷。科技倫理通過倡導公平、包容和民主參與等價值理念，防止技術成為少數群體或組織的利益工具。在使用人臉識別等技術時，需要平衡公共安全與個人隱私的關系，盡可能保護公眾的隱私權。

應對未來的不確定性。強人工智能（AGI）、腦機接口等前沿技術有可能徹底改變人類社會的存在方式和人的生活方式。科技倫理通過前瞻性討論，諸如“人工智能是否應具備道德主體地位”等難題，為未來立法和政策制定提供有效依據。如果人工智能發展到具備自主意識的程度，就需要提前研究人類如何界定人工智能的權利與責任等問題，提出解決問題的科技倫理治理建議，劃定人工智能技術發展的禁區。

建設“人機共生”新文明形態

1942年，科幻作家艾薩克·阿西莫夫提出了機器人三定律：一是機器人不得傷害人類，也不得因不作為而使人類受到傷害﹔二是機器人必須服從人類給予它的命令，除非這些命令與第一法則相沖突﹔三是機器人必須保護自己的存在，除非這種保護與以上兩條相矛盾。這為人工智能倫理提供了基礎性框架，但其個體中心主義、靜態規則設定，以及“人類傷害”“服從命令”等模糊表述不能適應當代人工智能的復雜性，不能解決人工智能系統可能通過算法歧視、數據濫用等方式損害群體利益，如就業公平、隱私權等宏觀層面的倫理風險 ﹔無法有效約束動態演化的人工智能行為 ，不能提供明確的權責劃分機制 。當前亟須通過多種路徑校准人工智能發展的航道，構建適應人工智能迭代升級的倫理安全網 。

首先是明確人工智能開發與運用的倫理底線。一是生命安全優先 。任何人工智能系統必須以保障人類生命為最高准則，尤其在自動駕駛、醫療決策等高風險場景中，通過預設算法優先級，避免直接或間接傷害人類。二是 責任可追溯性 。人工智能開發者和運營方需對系統行為承擔法律責任，包括算法設計缺陷、數據濫用或決策失控等場景，建立從研發到應用的全鏈條責任追溯倫理機制，明確技術提供方與使用方的義務邊界 。三是 數據隱私與公平性 。人工智能系統必須遵循數據最小化原則，實施嚴格的數據保護，採用先進的加密技術和匿名化處理，禁止採集與使用未經授權的個人信息。

其次是推動人工智能系統的預防性倫理設計。在技術層面，新一代“道德嵌入式人工智能”已進入試驗階段。這類人工智能系統內置“倫理沖突解決協議”，當醫療人工智能發現治療方案存在資源分配不公時，系統將自動觸發倫理預警。這種預防性的倫理設計，將“倫理優先”和“智能向善”的道德要求嵌入到技術架構之中。

再次要制定相關的倫理准則或法規。這方面的工作已取得明顯成效。歐盟通過的《通用數據保護條例》《人工智能倫理准則》《人工智能法》等倫理准則或法規，用於指導企業和政府部門未來在人工智能領域的開發和應用，並將高風險人工智能應用，如社會信用評分等直接納入禁令。我國出台的《新一代人工智能倫理規范》，將倫理道德融入人工智能全生命周期，為從事人工智能相關活動的自然人、法人和其他相關機構等提供倫理指引。當然，為應對人工智能技術運用中的問題，構建全球協同的人工智能倫理治理體系勢在必行。近年來，我國已發布《全球人工智能治理倡議》等，與各國一起共同推進全球人工智能倫理治理。

必須說明，為人工智能安裝倫理“導航儀”，不是阻礙人工智能技術創新和進步的絆腳石，它既應保持對人工智能技術創新的包容，又應守住人類的價值底線。當人類做到在數字技術洪流中堅守倫理價值，當人工智能能夠從人類倫理視角理解並堅持“有所為有所不為”時，才能確保人工智能技術革命真正服務於人類。當更聰明的人工智能帶著人性的溫度與人類友好相處時，那便是“人機共生”新文明形態的到來。

（作者：陳偉宏，系上海對外經貿大學馬克思主義研究院首席專家、馬克思主義學院教授，上海高校智庫國際經貿治理研究中心研究員）

分享讓更多人看到