在2020年CCF-GAIR（全球人工智能與機(jī)器人峰會(huì)）上，浙江大學(xué)任奎教授針對(duì)人工智能與物聯(lián)網(wǎng)（AIoT）融合系統(tǒng)的安全問(wèn)題，提出了其全生命周期的保護(hù)框架。隨著AIoT系統(tǒng)在智能家居、工業(yè)互聯(lián)網(wǎng)、智慧城市等領(lǐng)域的廣泛應(yīng)用，其安全問(wèn)題日益凸顯，從硬件到軟件，從數(shù)據(jù)采集到智能決策，每個(gè)環(huán)節(jié)都可能成為攻擊者的突破口。

任奎教授指出，AIoT系統(tǒng)的全生命周期保護(hù)需要貫穿“感知-傳輸-計(jì)算-應(yīng)用-銷毀”的每一個(gè)階段。在感知層，需確保物理傳感器與執(zhí)行器的安全，防止物理篡改和側(cè)信道攻擊，并利用輕量級(jí)密碼技術(shù)保障數(shù)據(jù)采集的機(jī)密性與完整性。在傳輸層，需構(gòu)建安全的通信協(xié)議，抵御中間人攻擊和數(shù)據(jù)竊聽(tīng)，尤其是在資源受限的設(shè)備上實(shí)現(xiàn)高效的安全傳輸。

在計(jì)算層（邊緣與云端），保護(hù)重點(diǎn)轉(zhuǎn)向AI模型本身。這包括：1) 訓(xùn)練數(shù)據(jù)安全：防止數(shù)據(jù)投毒攻擊，確保訓(xùn)練數(shù)據(jù)的質(zhì)量與隱私；2) 模型安全：防御對(duì)抗樣本攻擊，通過(guò)模型魯棒性增強(qiáng)、可解釋性分析及模型水印等技術(shù)保護(hù)知識(shí)產(chǎn)權(quán)；3) 推理安全：在邊緣或云端執(zhí)行推理時(shí)，保障計(jì)算過(guò)程的機(jī)密性，防止模型竊取。

在應(yīng)用層，需確保AIoT服務(wù)的訪問(wèn)控制與隱私保護(hù)。通過(guò)動(dòng)態(tài)信任管理、細(xì)粒度權(quán)限控制和隱私計(jì)算（如聯(lián)邦學(xué)習(xí)、安全多方計(jì)算）技術(shù)，在提供智能服務(wù)的最小化用戶隱私數(shù)據(jù)的暴露風(fēng)險(xiǎn)。在設(shè)備退役與銷毀階段，必須安全擦除敏感數(shù)據(jù)和模型參數(shù)，防止信息殘留導(dǎo)致的數(shù)據(jù)泄露。

任奎教授強(qiáng)調(diào)，實(shí)現(xiàn)這種跨軟硬件的全棧保護(hù)，需要硬件安全原語(yǔ)（如可信執(zhí)行環(huán)境TEE）、安全的操作系統(tǒng)、輕量級(jí)密碼協(xié)議與AI安全技術(shù)的協(xié)同創(chuàng)新。建立貫穿系統(tǒng)生命周期的動(dòng)態(tài)安全評(píng)估與更新機(jī)制也至關(guān)重要。

在CCF-GAIR 2020的分享中，任奎教授團(tuán)隊(duì)展示的成果為構(gòu)建下一代安全、可信的AIoT系統(tǒng)提供了重要的理論框架與實(shí)踐方向，推動(dòng)了學(xué)術(shù)界與產(chǎn)業(yè)界對(duì)智能系統(tǒng)深層安全挑戰(zhàn)的重視與協(xié)同攻關(guān)。