財經網訊 “現在前沿科技將給人類生活帶來巨大的收益和便利，但科技發展同時還要有人文關懷，去主動解決新興技術研發與應用帶來的風險與挑戰。”11月28日，清華大學蘇世民書院院長薛瀾在第十九屆《財經》(博客,微博)年會“《財經》年會2022：預測與戰略”上表示。
清華大學蘇世民書院院長 薛瀾
薛瀾表示，人工智能已經在各個應用領域有很廣的拓展，包括智能機器人新冠期間在醫院的應用、人工智能用于新冠診斷。但人工智能的發展不僅僅是這些應用，也意味著科研范式和業態的重塑，大大節約了人力物力，大大提高了科研和生產效率。
在生命科學領域，他指出，人類對生命的認識也在經歷著從解讀、修飾到創造的過程。并列舉幾個例子，如首個單條染色體酵母人工合成，以及今年研究人員首次合成可正常分裂的細胞、最新的日本研究人員用3D生物打壓技術打造出人造和牛等等。
從可能的風險來看，從具體技術應用來看，如人臉識別技術在高通量檢查，社區治理等方面給我們帶來巨大的便利，但社會上也有一些擔心，對個人數據的收集會不會有其他負面的影響。從更加宏觀的角度看，新興科技的廣泛應用長遠是否會對人類帶來積累性風險，如就業問題，世界經濟論壇近期的一份報告就提到近年來我們首次看到新興科技創造就業落后于消除就業，這是必須高度關注的。
他強調，新興技術治理背后有一個生成邏輯和治理實踐。從結構上來看應該有四個層面，首先是核心驅動層，所有的新興技術在初期的時候背后有知識的重大發現或技術上的關鍵創新導致新產品的產生，形成核心驅動；第二是環境變革層，新技術的應用必須跟應用環境不斷交流互動，找到新的應用場景和新的需求，形成技術的應用領域和范式；第三是認知適配層，這是一個技術的社會認知過程；最后就是治理范式層，明確價值導向，參與主體及治理工具。
最后談人工智能的治理，薛瀾提出“敏捷治理模式”。從基本的框架來講，要識別治理對象，就是數據的問題、算法的問題、平臺企業的問題。治理理念是在效率公平安全自由等基本理念上做出平衡。參與的主體不但是政府、企業、公眾，很多的社會組織等都是我們需要依靠的治理主體。治理工具的應用要靠法律法規、行業標準、各種技術手段、社會的共識。
在具體實踐過程中價值觀非常關鍵，在確保人工智能安全和平等的底線上推進創新驅動，鼓勵企業創新，利用人工智能賦能經濟社會的發展，來服務于我們的可持續發展目標的實現。同時要及時識別人工智能帶來的風險，在適當的時候給予規制，從治理的基本價值理念上說，創新驅動和敏捷治理要并駕齊驅。
以下為部分發言實錄：
薛瀾：非常高興參加今天的論壇，前面幾位院士已經進行了非常精彩的演講，包括基礎研究和幾個方面的應用，遙感和智能汽車，非常精彩，陳院士講到了人文在科技發展中的重要性，怎么樣在科技發展過程中把人文的思考、倫理的思考帶到創新治理過程中，使得科技能夠為人類社會做更好的服務。新興科技前沿有很多新的非常重要的趨勢，我下面關于科技發展PPT中有幾張是借用中科院副院長周琪前段演講中用的，我覺得非常棒。
首先是人工智能，大家知道人工智能從2017年AlphaGo戰勝了柯潔，之后不斷發展演變，到2020年AlphaFold解決了國際生物學界預測蛋白質折疊的結構問題，超出人類科學家的水平。當然，人工智能還在其它應用領域有很廣的拓展，包括新冠期間在醫院的應用、提高對新冠的診斷。但是它不僅僅是這些應用，也意味著科研范式和業態的重塑，人工智能機器人化學家每天工作21.5小時，不需要人類指導，很多實驗室的工作都可以由機器人幫助完成。8天催化效率提高10倍，在10維參數空間，有1億多個候選實驗方案中可以確定668個實驗搜索，大大節約了人力物力，大大提高了科研效率。
在生命科學領域，人類對生命的認識也在經歷著從解讀、修飾到創造的過程，這一點大家都知道，我們從世紀之交破譯人類的基因密碼之后，現在的發展日新月異。舉幾個例子，首先是改造，原來是異養的大腸桿菌，現在可以改造成自養型生物，是這兩年的新成果；人類歷史上首個單條染色體酵母人工合成，還有今年研究人員首次合成可正常分裂的細胞。最近大家也看到中科院天津工業生物技術研究所的科學家發表了顛覆性成果人工合成淀粉，有可能會帶來人類食物的革命。現在這方面已經有很多創新，把傳統的從飼養到生產到消費的過程變成在實驗室培養讓纖維生長成人造肉，已經有各種各樣的創新，像美國企業的人造肉產品已經在新加坡獲得批準上市，日本的研究人員也用3D生物打壓技術打造出人造和牛。
還有很多領域互相交叉，如生命科學與計算機技術交叉產生的腦機結合，馬斯克的公司實現了猴子用“意念控制”光標打游戲；美國的FDA2019年已經發布了腦機接口設備指南；2020年8月份還批準了腦機接口產品的臨床研究性器械豁免申請。這些工作的不斷開展對人類生活各方面的影響是巨大的。當然，科技發展同時還要有人文關懷，新興技術研發與應用也會帶來風險與挑戰，如人工智能在人臉識別方面給我們帶來巨大的便利，另外也有很多擔心，對個人數據的收集會不會有其他負面的影響。
剛才是局部的，另外科技的應用從長遠的考慮會不會對人類帶來積累性風險，比如關于就業的問題，世界經濟論壇近期的一份報告就提到近年來我們首次看到新興科技創造就業落后于消除就業，這是必須高度關注的。還有一些技術可能改變我們人類自身，像基因編輯技術的應用，最近我們剛有一篇發表在PNAS的文章談到當前關于基因編輯技術的全球治理，這方面的治理機制需要進行新的改變。
剛才是把新興技術可能帶來的巨大收益和潛在的風險做了簡單的介紹，下面談談新興技術怎么去治理，新興技術治理背后有其生成的邏輯和治理的實踐。如果我們看所有的技術、不管是現代科技還是傳統科技，幾百年前當時的新興技術在現在來講是傳統技術，但它背后都有一個治理體系形成的過程。從結構上來看應該有四個層面，首先是核心驅動層，所有的新興技術在初期的時候背后有知識的重大發現或技術上的關鍵創新導致新產品的產生，形成核心驅動；第二是環境變革層，新技術的應用必須跟應用環境不斷交流互動，找到新的應用場景和新的需求，形成技術的應用領域和范式；如電動汽車在上世紀初汽車剛興起的時候也是當時的新產品，但當時因為其他條件因素，燃油汽車被市場選擇。第三是認知適配層，這是一個技術的社會認知過程；社會怎么認識新興的技術，背后的制度邏輯、技術邏輯、文化邏輯、資本邏輯使得社會認為這個技術對于社會是友好的還是帶來風險的，我們必須得服從這個技術還是技術服從人類，這也是在技術發展尤其在應用過程中有這樣一個認知適配過程，我們曾經有一些技術在發展過程中在社會認知方面產生了問題，最后導致這個技術的應用產生了很大困難。最后就是治理范式層，在社會認知過程中不同的治理模式逐漸在形成，在社會認知過程中形成的議題跟人類的價值導向、治理的主體、路徑選擇、工具依賴的過程就是新興技術的治理范式。
為什么以前我們并沒有感到背后這樣的過程，應該說前幾次的工業革命過程中中國直接享受到最后這一層，因為最核心的技術產生、應用過程、社會認知都是在其他發達國家產生的，我們落后了，但我們可以享受技術的應用，同時，我們也把相關的治理模式接受下來。但是在第四次工業革命新一波浪潮中，中國本身也在頭班車上，所以很多新興技術我們也是開發者，是最先的應用者，同樣我們在社會認知、治理范式方面也必須得盡快跟上來。
具體有很多問題都可以討論，以人工智能作為一個技術來考慮，這也是最近這些年大家討論的比較多的。人工智能的治理，我們提出敏捷治理的模式，怎么樣能夠讓我們的治理模式有重大的改變改革去適應人工智能技術的高速發展，因為，中國對新興技術的治理從根本上說是要促進新興技術更加健康的發展。從基本的框架來講，首先要識別治理對象，對人工智能來說就是數據的問題、算法的問題、平臺企業的問題，這是治理的對象。治理理念是在效率公平安全自由等基本價值目標上做出平衡。參與的主體不但是政府、企業、公眾，還有很多的社會組織等都是我們需要依靠的治理主體。治理工具的應用要靠法律法規、行業標準、各種技術手段、社會的共識。把這個框架建立起來之后我們就可以推動敏捷治理的運行機制，研究在新技術帶動下的新經濟特征，跟蹤市場的發展，加強監管跟市場的溝通，靈活運用多元工具。
在具體實踐過程中，剛才談到我們的價值觀念是非常關鍵的，所以我們在確保人工智能安全和平等的底線上創新導向，這點是需要堅持、毫不動搖的。我們要鼓勵企業創新，利用人工智能賦能經濟社會的發展，服務于可持續發展目標的實現。同時我們要及時識別人工智能帶來的風險，在適當的時候給予規制，從基本價值理念上，創新驅動和敏捷治理兩個輪子要并駕齊驅。
治理主體要積極參與到協同互動的過程中，在傳統治理過程中政府跟企業相當于貓和老鼠的關系，但在新興技術的發展過程中，企業和政府應該坐到同一個桌子上大家進行有效的對話，讓政府更好的了解技術發展的過程和走向，政府要讓企業了解政府代表公眾有什么樣的擔心，從而找到更好的治理方式。治理對象也有一個分層，對應用場景對不同類型的問題有不同方式的治理。最后治理工具要靈活運用剛柔并濟。從宏觀層面要有一些原則性普適性的法律法規。國家最近出臺了個人信息保護法，中觀層面要有行為準則等軟法，國家新一代人工智能治理專家委員會2019年出臺的人工智能治理準則就屬于這一類。微觀層面也需要有相應的技術標準和監管技術，在這些工具的綜合運用下為我們的新興技術更好的發展、更健康的應用提供更好的治理。
我的發言就到這里，謝謝大家。
由《財經》雜志、財經網(博客,微博)、《財經》智庫主辦的“《財經》年會2022：預測與戰略”11月27日-28日在北京召開，論壇聚焦“巨變下的共識重建”。
（嘉賓觀點據現場發言整理，未經發言人本人確認）
最新評論