2023中國互聯(lián)網(wǎng)大會 | AI安全論壇舉辦,業(yè)界首個《共建安全大模型高質量數(shù)據(jù)集倡議書》發(fā)布
2023年07月21日 14:12
7月18日,由中國互聯(lián)網(wǎng)協(xié)會主辦,北京經濟技術開發(fā)區(qū)管委會、北京市通信管理局、工業(yè)和信息化部新聞宣傳中心聯(lián)合主辦的2023(第二十二屆)中國互聯(lián)網(wǎng)大會在京開幕,本屆大會主題為“促進數(shù)實融合 賦能千行百業(yè)”。
AI安全論壇作為本屆大會的分論壇之一,以“AI重鑄安全,護航數(shù)字世界”為主題。會上,天翼安全科技有限公司(以下簡稱“電信安全”)發(fā)布了業(yè)界首個《共建安全大模型高質量數(shù)據(jù)集倡議書》,推出了“阡陌安全數(shù)據(jù)集”,旨在與業(yè)內伙伴共同探索人工智能時代下的安全行業(yè)健康發(fā)展新理念、新思路。
中國互聯(lián)網(wǎng)協(xié)會副理事長黃澄清,北京市通信管理局黨組成員、副局長王暉,中國電信集團網(wǎng)絡和信息安全管理部總經理谷紅勛出席會議并致辭。
黃澄清表示,未來的世界應該是一個人工智能驅動的世界,我們要統(tǒng)籌發(fā)展和安全牢牢抓住新一輪科技革命和產業(yè)變革的歷史機遇,加快人工智能產業(yè)創(chuàng)新發(fā)展的步伐,推動與實體經濟深度融合,達到新水平,推動行業(yè)規(guī)范發(fā)展,實現(xiàn)新突破。
中國互聯(lián)網(wǎng)協(xié)會副理事長黃澄清
王暉強調,人工智能技術的開發(fā)和應用必須要考慮到安全問題,應堅持發(fā)展與安全并重、堅持權利和義務并重、堅持自主與協(xié)作并重,助推人工智能產業(yè)未來的發(fā)展。
北京市通信管理局黨組成員、副局長王暉
谷紅勛指出,中國電信的網(wǎng)信安全工作緊密圍繞建設網(wǎng)絡強國、數(shù)字中國,維護網(wǎng)信安全的初心使命,秉持中國電信的紅色基因,將安全作為企業(yè)云轉、數(shù)轉的底座,中國電信將持續(xù)致力于為國家、社會提供數(shù)字化轉型的安全屏障。
中國電信集團網(wǎng)絡和信息安全管理部總經理 谷紅勛
本次論壇發(fā)起了業(yè)界首個共建安全大模型高質量數(shù)據(jù)集的倡議儀式,天翼安全科技有限公司總經理劉紫千作為代表宣讀了《共建安全大模型高質量數(shù)據(jù)集倡議書》,北京市通信管理局黨組成員、副局長王暉,中國互聯(lián)網(wǎng)協(xié)會副秘書長戴煒等九位領導嘉賓出席儀式并共同簽署了倡議書。
倡議儀式
當前,人工智能產業(yè)呈現(xiàn)蓬勃發(fā)展勢頭,通用人工智能產業(yè)的爆發(fā)給安全領域帶來機遇和挑戰(zhàn)。圍繞人工智能在安全行業(yè)應用的發(fā)展情況和研究應用,中關村國家實驗室、清華大學教授李丹,國家計算機網(wǎng)絡入侵防范中心主任、中國科學院大學教授張玉清,天翼安全科技有限公司總經理劉紫千,天翼安全科技有限公司高級安全研究員危嘉祺發(fā)表主旨報告。
劉紫千從AI for Security和Security for AI兩個方面,分享了AI與安全產業(yè)的融合方向以及行業(yè)發(fā)展現(xiàn)狀。他指出,這一輪AI革命的本質是數(shù)據(jù)驅動安全,海量數(shù)據(jù)中蘊含的能量轉化為生產力成為了可能,大大提升安全運營效能,這是此次AI革命的破局之道。
結合安全運營領域存在的痛點,劉紫千強調,大模型應用到安全領域,主要面臨準確性、專業(yè)性和時效性三方面的難點問題,電信安全當前的愿景是推出及持續(xù)運營一個安全領域的ImageNet——“阡陌安全數(shù)據(jù)集”,其提供統(tǒng)一平臺,匯集行業(yè)專家,共筑安全語料,服務國家安全。危嘉祺指出,“阡陌安全數(shù)據(jù)集”重視數(shù)據(jù)標準及體系構建,通過數(shù)據(jù)標注眾采平臺、模型評測 Benchmark、AI安全攻防練兵場和制定安全數(shù)據(jù)流通準則,使得數(shù)據(jù)可以流通統(tǒng)一。
電信安全旨在通過與業(yè)內伙伴一起解決數(shù)據(jù)難題,共同探索人工智能時代下的安全行業(yè)健康發(fā)展新理念、新思路。
天翼安全科技有限公司總經理劉紫千
天翼安全科技有限公司高級安全研究員危嘉祺
李丹圍繞“大語言模型在網(wǎng)絡安全領域的能力評測研究”的主題,深入評估了當前通用大語言模型在網(wǎng)絡安全領域的能力,分析了大語言模型在安全領域的應用場景。
張玉清進行了題為《ChatGPT與安全》的主旨報告,通過介紹ChatGPT在安全領域的應用,他指出人工智能當前面臨失控的風險,我們既要順應AI的發(fā)展,也應該控制將AI控制在不危害人類利益的范圍內使用。
左為中關村國家實驗室、清華大學教授李丹;右為國家計算機網(wǎng)絡入侵防范中心主任、中國科學院大學教授張玉清
在生態(tài)伙伴合作分享環(huán)節(jié),華為計算首席安全專家TCG董事張瑞,安恒信息高級副總裁王欣,深信服科技股份有限公司安全BG副總裁、安全業(yè)務規(guī)劃總監(jiān)訾然等嘉賓,結合當前人工智能發(fā)展趨勢和挑戰(zhàn),分別介紹了各自的實踐經驗和進展成效。
從上至下為:華為計算首席安全專家TCG董事張瑞、安恒信息高級副總裁王欣、深信服科技股份有限公司安全BG副總裁兼安全業(yè)務規(guī)劃總監(jiān)訾然