全國咨詢熱線:010-67877741/42/43

促進人工智能安全發(fā)展 首個生成式AI監(jiān)管文件出臺

發(fā)布時間:2023-07-27 09:25:00 人氣:562 來源:中國安全防范產品行業(yè)協(xié)會

  7月24日,中共中央政治局召開會議,分析研究當前經濟形勢,部署下半年經濟工作。
  會議指出,要大力推動現代化產業(yè)體系建設,加快培育壯大戰(zhàn)略性新興產業(yè)、打造更多支柱產業(yè)。要推動數字經濟與先進制造業(yè)、現代服務業(yè)深度融合,促進人工智能安全發(fā)展。要推動平臺企業(yè)規(guī)范健康持續(xù)發(fā)展。
   專家、機構解讀
  中國宏觀經濟研究院戰(zhàn)略政策室主任、研究員盛朝迅表示:當前我國正處在轉變發(fā)展方式、優(yōu)化經濟結構、轉換增長動力的攻關期,同時又遭遇嚴峻復雜的國際環(huán)境,迫切需要加快戰(zhàn)略性新興產業(yè)發(fā)展,優(yōu)化產業(yè)結構,構建現代化產業(yè)體系,促進數字經濟、生物經濟、低碳經濟發(fā)展,提高全要素生產率,培育形成經濟發(fā)展新動能。下一步要堅持創(chuàng)新驅動、需求拉動、國際化帶動,加大企業(yè)技術創(chuàng)新支持力度,鼓勵場景創(chuàng)新和高技術產品市場應用拓展,促進企業(yè)國際化發(fā)展,提升競爭力。要加快實施產業(yè)基礎再造工程,聚焦新一代信息技術、人工智能、生物技術、高端裝備等戰(zhàn)略性新興產業(yè)升級發(fā)展所需的高端基礎元器件、核心零部件、基礎裝備、關鍵基礎材料等,努力補短鍛長,增強戰(zhàn)略性新興產業(yè)發(fā)展的韌性、可持續(xù)性和競爭力。
  北京交通大學中國高端制造業(yè)研究中心執(zhí)行主任朱明皓表示:當前數字經濟已成為推動我國經濟穩(wěn)增長的重要引擎,但數字經濟與先進制造業(yè)、現代服務業(yè)的融合寬而不深,例如,由制造業(yè)和服務業(yè)產生所采集的數據沒有充分發(fā)揮其應有價值,數據價值對于經濟增長的貢獻還不高;數字賦能產業(yè)升級還停留在采集存儲和傳輸,數字經濟與先進制造業(yè)、現代服務業(yè)融合深度不夠。下一步需加快推進數字經濟與實體經濟深度融合,協(xié)同推進數字產業(yè)化和產業(yè)數字化,使數字經濟更好賦能實體、服務社會、造福百姓。充分運用人工智能等數字技術,通過大數據挖掘制造業(yè)、服務業(yè)的潛在聯(lián)系,通過全產業(yè)鏈數據融合,打通不同環(huán)節(jié)間的信息孤島。同時,要強化人工智能安全治理工作,從數據安全、網絡安全、算法安全、算力安全等多方面入手,實現人工智能對于經濟的良性促進作用,發(fā)展負責任的人工智能產業(yè)。
  東吳證券指出,不同于4月政治局會議,此次會議將產業(yè)政策的相關表述后置,但“科技”的含量依然很高:“數字經濟”、“先進制造業(yè)”、“人工智能”等方面均與今年領導人的調研方向不謀而合。而“平臺企業(yè)”的相關表述又與本次政治局會議活躍資本市場、提振投資者信心的議題相吻合。不過值得注意的是本次會議特別強調了人工智能的“安全”發(fā)展,這可能意味著之后對于AI面臨的監(jiān)管會有所加強。
  招商證券則表示,相較于4月政治局會議提到的新能源汽車及人工智能,本次政治局會議明確提到數字經濟、人工智能以及平臺經濟。根據該機構追蹤發(fā)現,4月政治局會議之后,共有4部委表態(tài)支持人工智能發(fā)展,共有北京、上海、廣東、蘇州、杭州、成都、深圳等7個城市發(fā)布促進人工智能發(fā)展政策。該機構認為,根據本次政治局會議的部署,未來一段時間,各地及部位級支撐數字經濟的政策將出臺的更加密集,人工智能及平臺經濟相關政策的出臺節(jié)奏也有望保持較高的頻率。
   中國首個生成式AI監(jiān)管文件出臺
  今年4月28日,中共中央政治局會議提出,要重視通用人工智能發(fā)展,營造創(chuàng)新生態(tài),重視防范風險。
  要求人工智能“安全發(fā)展”,此前在多個監(jiān)管政策中早有提及。
  7月6日,在2023世界人工智能大會上,科技部戰(zhàn)略規(guī)劃司司長梁穎達則表示,人工智能法草案已被列入國務院2023年立法工作計劃,提請全國人大常委會審議。要鼓勵人工智能前沿研究和原始創(chuàng)新,鼓勵人工智能技術開源發(fā)展,堅持科技向善的理念,發(fā)展負責任的人工智能。
  7月13日,國家網信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、國家廣電總局公布《生成式人工智能服務管理暫行辦法》(以下稱《辦法》),自2023年8月15日起施行。這也是中國首次對生成式AI研發(fā)及服務作出明確規(guī)定。
  國家互聯(lián)網信息辦公室有關負責人表示,出臺《辦法》,旨在促進生成式人工智能健康發(fā)展和規(guī)范應用,維護國家安全和社會公共利益,保護公民、法人和其他組織的合法權益。
  生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內容的技術。以OpenAI發(fā)布的ChatGPT為代表的生成式人工智能,正在激發(fā)包括微軟、谷歌、Meta、百度、阿里巴巴等國內外科技巨頭以及創(chuàng)業(yè)者的新一輪“AI軍備競賽”。
  最新出臺的《辦法》共24條,從生成式人工智能服務提供者的算法設計與備案、訓練數據、模型,到用戶隱私、商業(yè)秘密的保護,監(jiān)督檢查和法律責任等方面提出了相關要求。同時《辦法》中明確了對生成式AI產業(yè)的支持和鼓勵態(tài)度。
   多國宣布AI監(jiān)管計劃
  不只在中國,隨著聊天機器人ChatGPT等人工智能(AI)應用快速發(fā)展,各國監(jiān)管機構也在加快探索如何妥善進行監(jiān)管,在鼓勵技術創(chuàng)新的同時保護公眾利益。
  愛爾蘭數據保護負責機構今年4月表示,生成式人工智能需要受到監(jiān)管,但管理機構必須在倉促實施“確實站不住腳”的禁令之前弄清楚如何正確監(jiān)管。
  據路透社消息,在英國有幾家國家監(jiān)管機構負責起草內容涵蓋人工智能的監(jiān)管規(guī)則,這些機構中就包括金融行為監(jiān)管局。目前,該機構正在與艾倫?圖靈研究所和其他法律與學術機構協(xié)商,提高其對人工智能技術的理解。
  據《日本時報》報道,由于對生成式AI日益擔憂,G7領導人5月在廣島召開峰會,同意成立一個工作組,以加強合作,解決與新技術相關的各種問題。他們還表示,將創(chuàng)建一個名為“廣島AI進程”的部長級論壇,在今年底前針對生成式AI導致的版權、虛假信息等問題展開討論。
  當地時間6月14日,歐洲議會以499票贊成、28票反對和93票棄權的壓倒性結果通過了《AI法案》草案。若最終法案獲得通過,這將成為全球首個關于AI的法案。美國有線電視新聞網報道稱,一旦獲得通過,該法案將適用于在歐盟開發(fā)和部署AI系統(tǒng)的任何人,包括位于歐盟以外的公司。
  日本隱私監(jiān)管機構6月表示,已警告OpenAI不得在未經公眾許可的情況下收集敏感數據。日本預計將在2023年底之前出臺監(jiān)管措施,這些監(jiān)管措施可能更接近美國的態(tài)度,而不是歐盟計劃的嚴格監(jiān)管措施,因為日本希望這項技術能夠促進經濟增長,并使其成為先進芯片的領導者。
  美國也加入了這場生成式AI的監(jiān)管風暴。當地時間5月23日,美國政府宣布了一系列圍繞美國AI使用和發(fā)展的新舉措,希望全面了解并捕捉到快速發(fā)展的AI技術所蘊含的風險和機遇。7月21日,包括谷歌、微軟、OpenAI、亞馬遜、Meta、Anthropic、Inflection在內的七家頂級人工智能公司在美國白宮召開會議。這些企業(yè)的高管承諾,將為消費者創(chuàng)建識別生成式人工智能的方法,并確保在生成式人工智能工具發(fā)布前,會測試其安全性。具體而言一共涉及八項措施:在音頻和視頻內容上使用水印來幫助識別人工智能生成的內容;在向公眾發(fā)布工具之前,請獨立專家評估其工具的安全性;與其他行業(yè)參與者、政府和外部專家分享有關最佳實踐和規(guī)避安全措施的嘗試的信息;投資網絡安全措施;鼓勵第三方發(fā)現安全漏洞;報告技術的局限性并指導適當使用人工智能工具;優(yōu)先研究人工智能的社會風險,包括歧視和隱私問題;使用最前沿的人工智能系統(tǒng)(前沿模型)來解決社會最嚴重的問題,例如緩解氣候變化和疾病等社會挑戰(zhàn)。
  近日,澳大利亞政府表示,將彌補現有法律漏洞,對新形式的人工智能技術采取“保障措施”。澳大利亞聯(lián)邦工業(yè)、創(chuàng)新和科學部部長埃德?胡斯克(EdHusic)發(fā)布了澳大利亞國家科學技術委員會的建議,以及一份關于人工智能的討論文件,其主旨是考慮有針對性的監(jiān)管措施。
  聯(lián)合國也正在呼吁采用人工智能“全球監(jiān)管標準”。聯(lián)合國秘書長安東尼奧?古特雷斯6月12日支持一些人工智能高管提出的建立像國際原子能機構這樣的人工智能監(jiān)管機構的提議。古特雷斯還宣布計劃在今年年底前啟動高級別人工智能咨詢機構的工作,定期審查人工智能治理安排并提出建議。
  事實上,人工智能是一把雙刃劍早已成為全球共識。在斯坦福大學發(fā)布的《2023年人工智能指數報告》中提到,對127個國家的立法記錄調研的結果顯示,包含“人工智能”的法案被通過成為法律的數量,從2016年的僅1個增長到2022年的37個。報告還對81個國家2016年以來的人工智能議會記錄的分析也同樣表明,全球立法程序中提及人工智能的次數增加了近6.5倍。
  隨著生成式人工智能研究和使用規(guī)模逐漸增長,建立新型的人工智能監(jiān)管框架十分必要。
聯(lián)系我們
聯(lián)系方式

熱線電話

13910555092

上班時間

周一到周五

公司電話

010-67877741/42/43

二維碼
聯(lián)