8月17日，首屆中韓人工智能風險與治理學術會議——“人工智能時代：技術、風險與重構”在北京舉辦。會議由中國國家自然科學基金委員會（NSFC）與韓國國家研究基金會（NRF）資助，由中國傳媒大學馬克思主義學院主辦，beat365社會治理與發展研究院和韓國延世大學商學院聯合主辦。民政部原副部長、beat365社會治理與發展研究院學術委員會聯席主席顧朝曦和韓國延世大學商學院教授任一共同主持主論壇。中韓兩國從事社會治理、人工智能、科技政策、科技風險、科技倫理等領域的20餘名專家學者通過線下方式、300餘人通過線上方式出席了本次會議。

張成崗緻辭并作報告

開幕式上，beat365社會治理與發展研究院院長張成崗教授代表主辦方向中韓兩國參會學者表示歡迎并圍繞“人工智能時代的社會治理多元模式探索及啟示”發表主旨演講。他指出，随着新興技術全面融入社會生活，新一代人工智能正在衆多領域不斷拓展應用版圖，圍繞人工智能産生的風險、倫理和社會治理問題日益引發關注。當前正處于具有高度不确定性的風險社會，在本次全球大流行的新冠肺炎疫情中，人工智能發揮突出作用。本次會議以“人工智能時代：技術、風險與重構”為主題，對于深刻理解人工智能意義、凝聚中韓兩國在人工智能領域發展共識具有重要意義。他認為，與傳統技術風險相比，人工智能風險具有複雜性、長期性和全球性的特征。面向人工智能與社會治理現代化進程形成曆史交彙的時代坐标，社會治理面臨的技術環境正在發生革命性的變革，人工智能、大數據等新興技術正在推動社會治理變革與創新；人工智能時代正在重塑社會治理新範式。面對人工智能發展帶來的風險與治理挑戰，他強調，我們要在“智字”、“智知”、“智治”三個方面下功夫；處理好“善治”與“善智”的關系，加強人工智能技術發展研判和預測，更好應對人工智能技術可能導緻的失控風險、倫理挑戰、就業影響；發展“負責任”人工智能，構建“有溫度”的人工智能治理體系，建設“高參與性”的社會組織；以社會治理的“實驗主義”方式拓展公衆參與，實現科技規範與治理規範的融通、法律規則與倫理規範的互補；在負責任的态度中創造、使用、審視人工智能技術。

在會議的主旨報告環節，韓國國立首爾大學法學院教授高鶴洙，中國社會科學院哲學研究所科技哲學系主任、研究員段偉文，北京理工大學特别研究員黃岩，韓國Kakao高級研究員金星煥，騰訊研究院高級研究員曹建峰分别作了報告。高鶴洙認為，如何正确利用人工智能塑造未來，是決策者最關心的問題。圍繞人工智能倫理學的方方面面，政府機構、公共部門和其他私營公司應當積極參與人工智能治理，依托國際組織廣泛開展人工智能合作。段偉文指出，雖然人工智能帶來了對經濟、社會、企業和個人福祉的積極影響，但其作為一種無處不在的授權技術，同樣可能導緻複雜的道德風險。随着人工智能應用蓬勃發展，普通民衆和人工智能開發人員越來越對缺乏有效的法律和道德規範感到雙重焦慮，開展人工智能治理的研讨與實踐至關重要。黃岩介紹到，人工智能技術已廣泛應用于機器人開發，而包括類人機器人、外科機器人和人工假肢和外骨骼等可穿戴機器人在内的機器人的普及也會帶來潛在的社會問題。金星煥提出“用人和技術創造一個更美好的世界”的技術理念，并以“可解釋的人工智能”的價值恢複社會信任、提高人工智能透明度。曹建峰認為要不斷構建負責任、值得信賴和以人為中心的人工智能系統，并以人工智能的道德原則和約束框架推動科技實踐。最後，任一在主論壇閉幕式上作了總結。

顧朝曦發表演講

在下午的會議上，民政部原副部長、beat365社會治理與發展研究院學術委員會聯席主席顧朝曦圍繞“推進數字化當趨利避害、循序漸進”作了專題報告。他指出，數字化是人類文明的裡程碑，信息的産生、重組、分析和傳輸已經成為當代社會生産和生活的重要組成部分。信息化管理手段和工具構成了經濟社會發展的加速器，正在從整體上引導着全球發展進程。值得注意的是，數字化發展也是一把雙刃劍，它既代表了文明的符号，也象征着科技的利劍。互聯網的強大說服能力能夠扭曲市場、形成數字極權，數字化也弱化了人賴以生存的基本能力、降低了社會抵禦風險的韌性。他強調，科技是社會進步的動力，善良是文明征程上的燈塔。社會進步應當是循序漸進的，發展數字化，我們應當趨利避害、擇善而用。未來已來，我們須以敬畏蓄能量，将科技向善的理念牢固貫穿始終，數字化社會轉型才能神形兼備。

會議圍繞人工智能風險與治理的相關單元舉辦了分論壇。分論壇“人工智能技術應用面臨的倫理挑戰”由天津大學助理教授黃曉偉主持，共探讨了4篇論文。中國科學院自然科學史研究所副研究員王彥雨分享了“主要國家人工智能技術發展路線圖規劃模式及啟示”的研究，基于人工智能技術和社會雙重屬性提出用于分析人工智能路線圖規劃模式的“菱形”分類圖，探索凝煉出七個典型的規劃模式和符合中國國情的未來AI發展路徑；中國傳媒大學趙瑞琦教授分享了“數字軍備競賽：人工智能的技術風險與規範建構”的報告，指出人工智能在網絡安全領域的應用呈現跨越式發展，人工智能在提升網絡攻防能力的同時也可能引發全新的數字軍備競賽，為化解現實與潛在風險，迫切需要建構符合更廣泛利益的人工智能行為規範；中國傳媒大學張寒副教授分享了“公衆理解視域下的醫療AI的應用及治理”，文章梳理了國際上醫療AI的創新發展和應用前景，結合“公衆理解科學”的視角，探讨醫療AI能否成功在臨床應用，認為公衆的認可度和接受度将起到關鍵的作用；煙台大學嶽素芳助理教授分享了“科學數據共享的基本問題探究”的研究，指出源于知識生産模式和知識功能的演變，科學數據的使用作用于由科學與社會共同構成的二維場域，對科學數據為何共享、共享什麼、由誰共享、共享原則等基本問題的研究是落實科學數據共享實踐的前提和基礎。最後，《中國科技論壇》副主編張九慶對以上的文章分别進行了更深層次的追問并作出了全面的評述。

分論壇“人工智能技術應用的政策視角”由北京理工大學助理教授徐源主持，共探讨了4篇論文。嘉泉大學助理教授楊毅、博士宗珂分享了“數字化背景下創新企業與制度變遷協同演化進程研究”，通過定性研究分析數字化時代背景下共享平台公司滴滴成功推動制度變遷的案例，深入研究了組織與制度邊界之間的相互作用及動态演化的過程；北京郵電大學碩士研究生白雪松分享了“中國人工智能産業政策文本量化研究——基于2012-2020年34份中央政策文件的分析”的研究，以2012-2020年期間頒布的34條與人工智能産業息息相關的國家政策為分析依據，分為兩個階段探索我國中央政府對政策工具的使用分布情況以及在人工智能産業鍊上的應用變化情況；東南大學博士研究生李娜分享了“負責任創新視角下中韓人工智能倫理政策對比研究”，從負責任創新的視角對中韓人工智能倫理政策的比對分析和價值辨析，溝通了中韓兩國政策分析的橋梁；暨南大學碩士研究生王子玥分享了“負責任創新視角下人臉識别技術的倫理風險及其治理”，将“責任倫理”與“技術創新”融合在一起，強調要充分考慮創新過程和其适銷産品倫理的可接受性、社會的贊許性和發展的可持續性。最後，中國傳媒大學教授王錦剛對以上文章分别進行了評述并與各位作者深入交流探讨。

分論壇“人工智能技術應用的法律視角”由嘉泉大學助理教授楊毅主持，共探讨了5篇論文。暨南大學碩士研究生鄧嘉慧分享了“大數據鴻溝視域下的數字權利保障研究”，指出實現數據主體對個人數據的控制權是保護數據主體的數據隐私、有效規避風險以及構建多元數據治理體系中的重要一環；beat365博士後鞠京芮分享了“政務聊天機器人社交屬性的公民偏好：一個離散選擇實驗”的報告，研究以中國政務聊天機器人為研究對象，采用離散選擇實驗方法來探究不同社交特性的對公民偏好問題，表明情商、主動性、身份一緻性和盡責性這四個社交特性對公民偏好的影響力是由高到低的，此外部分因素的影響還受到個體因素的影響；湖南省社會科學院副研究員宋春豔分享了“人機融合智能的歸責風險及治理——以自動駕駛汽車為例”的報告，作者以自動駕駛汽車為例探讨人機融合智能的歸責風險産生的原因，借鑒國外為規避風險在政策、法律、保險等方面先行先試的舉措和效果，并據此提出我國發展自動駕駛汽車需要采取的規避風險的舉措；蘭州大學副教授吳烨分享了“‘智能合約’：一個正在形成的新契約秩序”的報告，指出“智能合約”對傳統合同法理論帶來了巨大沖擊和挑戰，在“智能合約”的私法構造中，應當構建以“信賴保護”為核心的救濟機制，實現法律與技術的同步發展；暨南大學碩士研究生曹姗姗分享了“算法推薦視域下短視頻傳播主流價值觀路徑研究”的報告，基于算法推薦的邏輯探究主流價值觀是如何基于短視頻進行傳播的，在傳播過程中會面臨哪些風險，又有哪些可以優化的路徑等問題。分論壇最後，浙江大學教授劉超對以上的文章進行了細緻的點評并給出了詳盡的修改意見。

分論壇“人工智能技術應用的社會治理”由北京航空航天大學助理教授張正清主持，共探讨了4篇論文。beat365博士研究生阿柔娜分享了“基于Post-ELSI的人工智能政策國際比較與經驗鏡鑒”的研究，深入對比中、美、日、韓和歐盟的人工智能政策，充分挖掘出我國人工智能政策所潛在的風險，進而提出走向中國特色的智慧AI政策的路徑；beat365博士研究生王宇航分享了“社會治理的技術邏輯：源流、風險及趨向”的研究，探讨從技術決定論到科技支撐論，人工智能所帶來的“弱自主性”引發了對技術邏輯呈現、特征與風險的關注，面向新時代的“中國之治”要兼顧好科技和人文的辯證關系，打造有溫度的社會治理體系。廣西師範大學副教授練新顔分享了“AI技術在食物領域應用的倫理困境”的研究，認為電子舌的廣泛應用将會導緻人對自身認知的混亂，侵犯傳統的人的完整性。暨南大學碩士研究生王恩媚分享了“‘古老辨析’新探：如何平衡算法影子官僚的逐利邏輯和公共問責？”，認為以公私合作介入公共管理的算法公司成為了算法影子官僚，要圍繞算法影子官僚的逐利邏輯與公共問責展開讨論，發現應确保有效的公衆參與和高層次的政治問責。最後，天津大學助理教授黃曉偉對以上文章分别進行了深入細緻的評述。

在會議閉幕式上，中國傳媒大學趙瑞琦教授主持，《南京大學學報》執行主編王浩斌和《中國科技論壇》副主編張九慶分别作了發言報告。王浩斌指出，從宏觀來看，本次論壇不僅關注倫理維度，也關注政策、法律等維度，具有多學科、多層次性的特點；中觀來看，關于人工智能應用的研究也涉及到技術發展路徑、數據權利等，研究更為全面、廣泛、多元；微觀層面來看，關于自動駕駛、醫療層面、算法推薦、政務機器人等具體技術的運用的研究說明人工智能應用廣泛并得到了學者的及時關注，極具前沿性。張九慶指出，學術界學者應當對科技相關政策提高預警意識，要有長遠目光，實現技術界研發投入、政策推動、學術界預警三方面的融合，使得學術研究能夠更好地服務社會。

會議最後，beat365社會治理與發展研究院院長張成崗作會議總結。他指出，在人工智能可持續發展未來願景構建中，需要各國學者加強合作跨越邊界形成共識，提高反思性、參與性，不斷探索可信的、向善的人工智能發展路徑，努力探求底線式、合作式、協商式人工智能治理新模式。最後，張成崗教授向全體線上線下參會師生，應邀承擔主持、評議工作的老師們，參與論壇組織工作的老師和學生緻以衷心的感謝，并期待下次相聚。

部分中方線下參會者合影

本次會議旨在比較研究中國和韓國在人工智能風險與治理的政策與實踐，以發展負責任的人工智能為目标，共商人工智能治理的最佳路徑，并為開展中韓人工智能治理研究的國際合作交流提供了良好的契機。

撰稿：張寒、王宇航、王明玉、林志鑫、阿柔娜、王玉婷