收藏！2024中關村論壇——數(shù)據(jù)安全治理與發(fā)展論壇精彩觀點

發(fā)布者: 麗江同城網(wǎng) | 發(fā)布時間: 2024-5-14 14:35| 查看數(shù): 12387| 評論數(shù): 0|IP：中國云南麗江

近日，2024中關村論壇——數(shù)據(jù)安全治理與發(fā)展論壇在中關村國際創(chuàng)新中心成功舉辦。會上，國內外科研院所專家學者交流前沿理念、分享研究成果。

精彩觀點碰撞

柳俊泓

新加坡資訊通信媒體發(fā)展局局長

數(shù)據(jù)雖然看不見摸不著，但它推動著數(shù)字經(jīng)濟的發(fā)展。如何在數(shù)據(jù)安全保護和創(chuàng)新發(fā)展之間取得平衡？大多數(shù)國家和地區(qū)都有著相似的處理方式。首先，獲得用戶授權同意，是使用個人數(shù)據(jù)非常重要的環(huán)節(jié)；第二，數(shù)據(jù)機制需要明確數(shù)據(jù)不可用的領域；第三，頂層設計要審慎，數(shù)據(jù)可用的領域應占大多數(shù)；第四，要建立協(xié)調機制，通過標準合同條款進行協(xié)調，有助于實現(xiàn)一定程度的全球一致性。

數(shù)據(jù)是人工智能的核心，一些新服務、新解決方案由傳統(tǒng)人工智能和生成式人工智能創(chuàng)造出來。我們需要對數(shù)據(jù)和人工智能建立信任，要真正聚焦共性的人工智能測試方法，促進人與人之間的交流。人工智能發(fā)展凸顯出數(shù)據(jù)的重要性，同時也在創(chuàng)造一個全球性的治理框架，其中建立互信是最重要的因素。

沈昌祥

中國工程院院士

大數(shù)據(jù)具有多源異構、非結構化、低價值度、快速處理等特點。隨著信息技術發(fā)展和海量數(shù)據(jù)爆發(fā)，安全成為支撐大數(shù)據(jù)健康發(fā)展的關鍵。我們要打造數(shù)據(jù)治理安全可信的新生態(tài)，構建數(shù)字經(jīng)濟主動免疫保障體系，實現(xiàn)“六不”防護效果，使數(shù)據(jù)安全治理達到有效的目標：一是“進不去”，即攻擊者進不去；二是“拿不到”，即非授權者重要信息拿不到；三是“看不懂”，即竊取保密信息看不懂；四是“改不了”，即系統(tǒng)和信息改不了；五是“癱不成”，即系統(tǒng)工作癱不成；六是“賴不掉”，即攻擊行為賴不掉。

郭毅可

香港科技大學首席副校長

在人工智能和大語言模型為各行業(yè)帶來變革的時代，數(shù)據(jù)安全治理顯得尤為重要。為防止未經(jīng)授權訪問和數(shù)據(jù)泄露，要采取嚴格的安全措施，通過數(shù)據(jù)匿名化技術、用戶同意和隱私設計原則以及實施數(shù)據(jù)分類、訪問控制和加密方法等，保護知識產權和防止未經(jīng)授權的披露。除了制定明確的政策和框架，以及有效的數(shù)據(jù)分類和歸類以外，訪問控制和權限管理也是確保數(shù)據(jù)安全的關鍵因素。

此外，我們需要在保護數(shù)據(jù)隱私和敏感信息的同時，建立國際機構框架和制定法規(guī)來確保數(shù)據(jù)安全。通過建立健全法規(guī)，應用先進技術，加強國際合作，推動人工智能規(guī)范發(fā)展，確保數(shù)據(jù)安全治理有效實施。

孫茂松

清華大學人工智能研究院常務副院長

生成式人工智能帶來很多挑戰(zhàn)。我們發(fā)現(xiàn)，機器翻譯產生的雙語質量并不高，用這些數(shù)據(jù)訓練機器翻譯系統(tǒng)，反而會造成損害。隨著其生成能力的增強，如果放任不管，機器生成的內容很快就會超過人類創(chuàng)作的內容，而且其中很多內容可能與事實不符，用這些內容來訓練大模型，可能會帶來隱患。因此，這一領域確實面臨著許多挑戰(zhàn)，需要全球各國政府和學者共同努力，從技術上解決這些問題。同時，生成式人工智能也為數(shù)據(jù)治理提供了非常重要的正面推動作用。我們可以通過為大模型增加某些條件，如特定提示詞（Prompt）或標簽（Tag），讓它生成尚未遇到過的情景數(shù)據(jù)，從而幫助我們進行預判。

七大成果發(fā)布

北京市數(shù)據(jù)跨境便利化實踐

繼全國首個數(shù)據(jù)出境安全評估項目、首個通過訂立標準合同實現(xiàn)個人信息合規(guī)出境案例“兩個全國第一”在北京落地后，北京市政產學研聯(lián)合打造數(shù)據(jù)出境“綠色通道”機制，覆蓋汽車、醫(yī)藥、民航、零售、人工智能五大行業(yè)百余家企業(yè)，通過政策咨詢、宣講解讀、靠前指導、材料預審等一系列便利化舉措服務企業(yè)主體超4000家；設立數(shù)據(jù)跨境服務中心，搭建全國首個數(shù)據(jù)托管服務平臺、數(shù)據(jù)安全與治理公共服務平臺，數(shù)據(jù)跨境高質量社會化服務能力大幅提升。近一年，北京市數(shù)據(jù)出境安全評估通過企業(yè)增長650%，個人信息出境標準合同備案通過企業(yè)實現(xiàn)破百，出境數(shù)據(jù)多樣性和通過率穩(wěn)居全國前列，為加快發(fā)展新質生產力、推動數(shù)字經(jīng)濟高質量發(fā)展提供有力保障。

中文互聯(lián)網(wǎng)語料庫CCI 2.0

北京智源人工智能研究院發(fā)布中文互聯(lián)網(wǎng)語料庫CCI 2.0，規(guī)模約500G，是經(jīng)過嚴格清洗過濾的中文數(shù)據(jù)集。CCI 2.0在1.0版本基礎上，進一步擴充數(shù)據(jù)來源、完善數(shù)據(jù)處理流程、提升數(shù)據(jù)規(guī)模和質量，并通過數(shù)據(jù)集“共建-共享”合作運營機制，持續(xù)推動迭代更新，為大模型技術發(fā)展提供高質量、高可信的數(shù)據(jù)資源支撐。

北京人工智能數(shù)據(jù)訓練基地監(jiān)管沙盒

北京市經(jīng)信局、北京市網(wǎng)信辦組織相關單位建立北京人工智能數(shù)據(jù)訓練基地監(jiān)管沙盒機制，依托北京數(shù)據(jù)基礎制度先行區(qū)、北京人工智能數(shù)據(jù)訓練基地提供的可信空間和強大智算資源，形成多項人工智能訓練數(shù)據(jù)應用創(chuàng)新機制，向大模型企業(yè)模型訓練提供“強大算力+海量數(shù)據(jù)+監(jiān)管合規(guī)”的完整訓練要素，成為我國首個將監(jiān)管沙盒機制應用于人工智能領域的案例。

北京市高級別自動駕駛示范區(qū)數(shù)據(jù)安全治理白皮書

北京市高級別自動駕駛示范區(qū)辦公室發(fā)布《北京市高級別自動駕駛示范區(qū)數(shù)據(jù)安全治理白皮書》，基于示范區(qū)海量自動駕駛產業(yè)數(shù)據(jù)，以“保障示范區(qū)數(shù)據(jù)全過程安全合規(guī)，促進車路云一體化數(shù)據(jù)價值挖掘”為目標，率先開展數(shù)據(jù)分級分類、實時感知安全態(tài)勢、定期進行風險評估、推動應用技術創(chuàng)新等專項工作，為解決產業(yè)數(shù)據(jù)安全治理共性需求打造標桿實踐指南。

生成式人工智能安全風險測評平臺及大賽

中科院信息工程研究所創(chuàng)新構建大模型安全技術測評體系，研究開發(fā)生成式人工智能安全風險測評平臺，并依托該平臺舉辦首屆生成式人工智能安全大賽，設置安全攻擊、安全檢測、對齊防護三大賽道，構建“眾研、眾用、眾創(chuàng)”的中文大模型安全評估模式，促進人工智能底層技術和基礎底座的安全可控水平不斷提升。

國家網(wǎng)絡安全融合發(fā)展試驗區(qū)（北京市海淀區(qū)）網(wǎng)絡安全公共服務平臺

北京市海淀區(qū)依托國家網(wǎng)絡安全教育技術產業(yè)融合發(fā)展試驗區(qū)建設，創(chuàng)新打造網(wǎng)絡安全公共服務平臺，立足“政府主導、企業(yè)經(jīng)營、市場運作、社會參與”的工作思路，開通“網(wǎng)安120”24小時公共服務熱線，匯集頭部網(wǎng)絡安全資源，面向社會公眾、企業(yè)提供網(wǎng)絡安全應急處置、溯源分析、整改加固等全棧服務。

此外，在圓桌論壇環(huán)節(jié)，來自清華大學、劍橋大學、香港科技大學、IBM、華為、奇安信的數(shù)據(jù)安全專家，聚焦生成式人工智能數(shù)據(jù)安全治理熱點問題，從理論研究、技術應用、產業(yè)實踐、國際合作等方面分享實踐經(jīng)驗、研討發(fā)展路徑，推動人工智能技術賦能產業(yè)健康發(fā)展。

本次論壇由國家互聯(lián)網(wǎng)信息辦公室、北京市人民政府主辦，國家互聯(lián)網(wǎng)信息辦公室網(wǎng)絡數(shù)據(jù)管理局、北京市互聯(lián)網(wǎng)信息辦公室、北京市經(jīng)濟和信息化局、北京市政務服務和數(shù)據(jù)管理局、北京市商務局、海淀區(qū)人民政府、大興國際機場臨空經(jīng)濟區(qū)（大興）管理委員會承辦，清華大學人工智能國際治理研究院、國家互聯(lián)網(wǎng)應急中心北京分中心協(xié)辦。