智能如何向善而行？代表委員熱議“AI向善”
2026-03-11 11:35:44
來源：新華每日電訊
分享到
一張貼在手機背后的卡片，能進行錄音和多語種翻譯；一只感音空氣架子鼓，只需敲擊空氣就能發(fā)出美妙聲音：一款“AI莊稼醫(yī)院”，只需拍照就能識別莊稼病蟲害，并精確開出處方……
人工智能（AI）不斷與時代同頻共振，在技術(shù)演進與商業(yè)化落地雙輪驅(qū)動下，正展現(xiàn)出前所未有的發(fā)展?jié)摿?，同時也引發(fā)了人們對未來趨勢的更多思考。工業(yè)和信息化部部長李樂成5日在十四屆全國人大四次會議首場“部長通道”上表示，“要努力推動AI電腦、AI手機、智能家居更好滿足人民群眾對美好生活的需求。”
技術(shù)創(chuàng)新步履不停，智能如何向善而行？從今年政府工作報告中明確部署“完善人工智能治理”，到兩會會場內(nèi)外關(guān)于“AI+教育”“AI+安全”的熱烈討論，“AI向善”成為今年全國兩會科技領(lǐng)域的高頻詞。
法治筑基：劃定AI發(fā)展清晰邊界
去年10月中旬，不少愛茶人士刷到一條視頻，鏡頭里的老人自稱“活到108歲，試茶80多年”，傾情推薦一款茶葉，吸引了眾多茶友下單。殊不知，視頻中的老人是畢生推廣茶學的專家張?zhí)旄?，早已?017年離世。企業(yè)這一不當行為引發(fā)廣泛爭議，逝者親屬也已通過法律途徑介入。今年3月，某社交平臺發(fā)布打擊利用AI仿冒名人引流虛假宣傳的公告，處置違規(guī)賬號1200余個。
這些案例正是AI技術(shù)快速發(fā)展下，各類風險問題的縮影。全國人大代表、海爾集團董事局主席周云杰認為，AI技術(shù)爆發(fā)式增長伴生的安全、隱私與倫理挑戰(zhàn)日益凸顯，已成為制約人工智能健康發(fā)展的關(guān)鍵瓶頸。
當前，我國已出臺網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法等法律，還頒布了《人工智能科技倫理管理服務(wù)辦法（試行）》等針對性舉措，但如何在進一步提升社會生產(chǎn)效率的同時降低風險，成為鞏固AI產(chǎn)業(yè)先發(fā)優(yōu)勢、提升國際競爭力的必經(jīng)之路。
“AI合成名人虛假音視頻進行虛假宣傳等現(xiàn)象，嚴重侵犯了公民的肖像權(quán)、名譽權(quán)?！比珖f(xié)委員、中國地震局原黨組書記閔宜仁在小組討論中直言，針對此類亂象，應(yīng)當及時完善政策規(guī)范和監(jiān)管體系。
周云杰代表認為，除了技術(shù)濫用，還有責任主體缺失的問題。比如在自動駕駛、醫(yī)療機器人等物理交互場景，算法的安全容錯率極低，事故發(fā)生后的責任歸屬如何在開發(fā)者、部署者、使用者之間界定，目前還是法律與倫理的真空地帶。
全國人大代表、中國工程院院士張伯禮對此深有同感，他表示：“一旦AI形成自主編程、修改程序的能力，更將帶來不可預(yù)估的安全隱患?！睆埐Y代表建議，要加快推動國家層面人工智能綜合性立法，構(gòu)建以相關(guān)法律為統(tǒng)領(lǐng)，部門規(guī)章、技術(shù)標準、倫理指南相互支撐的制度體系；針對使用人工智能的侵權(quán)行為，強化流程追溯，盡快出臺認定標準和賠償細則，凝聚社會共治合力。
技術(shù)賦能：筑牢AI安全防控防線
AI風險的技術(shù)屬性，決定了技術(shù)創(chuàng)新是防控工作的核心支撐。
“沒有安全的創(chuàng)新走不遠、也走不穩(wěn)。從這兩年大模型、智能體、具身智能等各類AI形態(tài)遭受網(wǎng)絡(luò)攻擊的情況來看，為AI預(yù)設(shè)‘安全護欄’十分必要?！比珖f(xié)委員、奇安信科技集團董事長齊向東表示，其帶領(lǐng)的團隊圍繞AI安全防范形成了大模型衛(wèi)士、大模型安全護欄等創(chuàng)新成果，還探索構(gòu)建了“端-網(wǎng)-云-機”一體化的防御體系。
齊向東委員建議，要將安全能力嵌入AI應(yīng)用的全生命周期，實現(xiàn)縱深防御；明確合規(guī)紅線，壓實安全主體責任，強化權(quán)限與內(nèi)容管控；堅持用AI對抗AI，讓安全能力始終領(lǐng)先于安全風險。
如今，“用AI對抗AI”已在多地落地實踐。上海外灘舉辦的Deepfake攻防挑戰(zhàn)賽，聚焦AI換臉問題，匯聚了一群年輕的“AI打假師”；世界互聯(lián)網(wǎng)大會上的AI大模型攻防賽，通過雙向競技的模式，讓“漏洞窮盡式發(fā)現(xiàn)”成為可能。
關(guān)于數(shù)據(jù)安全與保護問題，全國政協(xié)委員、中國市場主體研究院院長屈慶超認為，在行業(yè)尚未成熟的早期探索階段，不應(yīng)過早鎖定或限制特定技術(shù)路線，應(yīng)鼓勵企業(yè)開展差異化探索。但無論如何選擇，隱私、合規(guī)和責任都是不可逾越的底線。
當前，國內(nèi)已有多個“用AI對抗AI”的成熟案例落地，尤其在金融風控、身份核驗、內(nèi)容鑒偽三大領(lǐng)域形成了技術(shù)閉環(huán)，還持續(xù)推動著行業(yè)標準完善與監(jiān)管協(xié)同發(fā)展。圍繞這一思路，齊向東委員還建議大力發(fā)展安全大模型與安全智能體，將稀缺的專家經(jīng)驗轉(zhuǎn)化為可復制的數(shù)字能力，實現(xiàn)7×24小時自動化防護，全方位筑牢AI安全防線。
素養(yǎng)培育：夯實AI向善人才根基
“技術(shù)都是雙刃劍，重要的是引導好使用它們的人?！薄拔覀兛茀f(xié)界別可以和教育界別等聯(lián)合開展調(diào)研。”在北京會議中心，政協(xié)委員們圍繞AI的使用與引導展開熱烈討論。
全國政協(xié)委員、360集團創(chuàng)始人周鴻祎表示，人工智能本質(zhì)是人類智能的延伸，是工具而非主體?！癆I向善”，就是要在人的指導下，讓人工智能的設(shè)計、開發(fā)與應(yīng)用全過程，始終堅守服務(wù)社會公共利益的導向，確保技術(shù)發(fā)展方向與人類福祉保持一致。
周鴻祎委員以視頻制作為例，生動闡釋了人工智能與人的關(guān)系：AI只是創(chuàng)作者能力的“放大器”，創(chuàng)作者依然主導創(chuàng)意和藝術(shù)表達，AI則協(xié)助完成大量技術(shù)性工作，讓創(chuàng)意更快轉(zhuǎn)化為作品。當技術(shù)與人的智慧協(xié)同發(fā)力，人工智能不僅能提升生產(chǎn)效率，更在不斷拓展人類創(chuàng)造力的邊界。
而實現(xiàn)“AI向善”，全民AI安全素養(yǎng)的系統(tǒng)提升是重要基礎(chǔ)。全國人大代表、天津職業(yè)技術(shù)師范大學副校長王勁松表示，提升全民AI安全素養(yǎng)，需要從三個層面系統(tǒng)推進。
面向公職人員，作為政策制定、實施與落地的核心主體，必須具備扎實的AI安全意識與素養(yǎng)，既要為技術(shù)創(chuàng)新留出包容的試錯空間，又能敏銳識別、有效防范AI帶來的各類風險；面向技術(shù)人員，要引導AI領(lǐng)域從業(yè)者正向運用技術(shù)，倡導“技術(shù)向上”的理念，確保技術(shù)研發(fā)與應(yīng)用始終沿著服務(wù)經(jīng)濟社會發(fā)展的正向軌道前行，平衡好技術(shù)發(fā)展與行業(yè)規(guī)制的關(guān)系；面向廣大公眾，每一位AI使用者都要建立對應(yīng)的安全素養(yǎng)，清醒認識AI個性化服務(wù)背后的數(shù)據(jù)隱私風險，增強個人信息保護意識與自我防護能力，守住AI使用的安全底線。
平衡發(fā)展：讓AI在正軌釋放核心價值
如今，腦機接口、具身智能、AI教育、AI手機……一批優(yōu)秀的AI應(yīng)用切實改變著人們的生活，帶來可喜變化。AI的終極價值，在于服務(wù)實體經(jīng)濟、改善民生福祉、推動社會進步。為AI劃底線、立規(guī)矩，引導技術(shù)在合規(guī)中落地、在規(guī)范中創(chuàng)新，才能讓其真正成為“十五五”時期高質(zhì)量發(fā)展的新動能。
如何平衡AI發(fā)展與安全的關(guān)系？全國人大代表、招商局資本投資有限責任公司董事李引泉說：“監(jiān)管政策要平衡好規(guī)范安全和創(chuàng)新發(fā)展的關(guān)系，管得過嚴可能不利于新技術(shù)的發(fā)展，對于在人工智能技術(shù)方面具備趕超國外能力的企業(yè)，應(yīng)予以保護和扶持?！?/p>
齊向東委員則認為：“安全和創(chuàng)新是一體兩翼。安全從來不是約束，而是助力新技術(shù)走向成熟的重要標志?！彼灾悄芫W(wǎng)聯(lián)車為例，作為具身智能的重要形態(tài)，為保障其安全發(fā)展，我國已形成涵蓋法律法規(guī)、路政設(shè)施等方面的全面安全體系，如今智能網(wǎng)聯(lián)汽車發(fā)展迅速、市場份額持續(xù)擴大。“AI時代，我們勢必要建立同樣完善的體系和機制?！踩珟А嚼慰浚珹I這輛‘疾馳的快車’跑得就越穩(wěn)健。”
政府工作報告提出深化拓展“人工智能+”，促進新一代智能終端和智能體加快推廣。對此，工信部部長李樂成在接受采訪時表示，要努力推動AI電腦、AI手機、智能家居等產(chǎn)品發(fā)展，更好滿足人民群眾對美好生活的需求。
周鴻祎委員建議，要加快出臺行業(yè)統(tǒng)一標準，明確數(shù)據(jù)采集、模型調(diào)用、內(nèi)容生成的合規(guī)邊界，強化算法透明度與可解釋性；將安全智能體嵌入終端，主動防御AI化攻擊、惡意利用等新型風險，讓安全成為AI終端的標配，讓AI手機真正服務(wù)于民，成為智能經(jīng)濟新形態(tài)下可靠的普惠終端。
作為終端智能體的代表性應(yīng)用，AI手機助手的安全實踐為行業(yè)提供了可參考的范本。據(jù)悉，AI手機助手嚴格遵循用戶授權(quán)與合規(guī)原則，僅在用戶明確授權(quán)下調(diào)用必要能力；云端處理屏幕內(nèi)容嚴格執(zhí)行“不存儲、不訓練”準則，數(shù)據(jù)全程加密傳輸；涉及支付、密碼等高危操作，采用用戶授權(quán)+手動確認的雙重機制，從制度設(shè)計與技術(shù)實現(xiàn)上，牢牢守住用戶權(quán)益與安全底線。
今年的政府工作報告，首次寫入“完善適應(yīng)人工智能技術(shù)發(fā)展促進就業(yè)創(chuàng)業(yè)的措施”。全國政協(xié)委員、中國民營經(jīng)濟研究會副會長李連祥說，目前AI手機等行業(yè)處于發(fā)展初期，對于新技術(shù)形態(tài)，應(yīng)重視人才培養(yǎng)，秉持寬容的態(tài)度，但在監(jiān)管和法律保障上，更要精準防控風險，為技術(shù)創(chuàng)新預(yù)留足夠的空間。
AI越來越聰明的時代，更應(yīng)是制度有溫度、技術(shù)有邊界、公眾有判斷的時代?！叭斯ぶ悄艿奈磥恚瑲w根結(jié)底取決于人類如何使用它。”周鴻祎委員表示，只有堅持以人為本、智能向善，讓技術(shù)創(chuàng)新與倫理治理同步推進，人工智能才能真正成為推動社會進步、增進人類福祉的重要力量。（記者 劉婧宇 陳改 參與記者：白佳麗 宋瑞 張漫子）
返回頂部