課程描述INTRODUCTION
培訓(xùn)講師：高老師
課程價格：￥元/人
培訓(xùn)天數(shù)：3天
日程安排SCHEDULE
課程大綱Syllabus
AI安全培訓(xùn)
各有關(guān)單位：
為應(yīng)對人工智能技術(shù)快速發(fā)展帶來的新型安全威脅，提升企業(yè)AI系統(tǒng)防御能力，培養(yǎng)兼具AI技術(shù)與安全攻防技能的復(fù)合型人才，特推出“AI安全攻防實戰(zhàn)”課程。本課程聚焦大模型漏洞挖掘、數(shù)據(jù)隱私保護(hù)、對抗攻擊防御等前沿領(lǐng)域，結(jié)合真實案例與實驗演練，助力學(xué)員構(gòu)建AI安全全棧能力。誠邀您的參與，有關(guān)事項如下：
培訓(xùn)背景
隨著AI技術(shù)深度融入各行業(yè)，大模型、智能識別系統(tǒng)、AI供應(yīng)鏈等面臨對抗樣本攻擊、數(shù)據(jù)泄露、模型劫持等新型安全風(fēng)險。傳統(tǒng)安全防護(hù)手段已無法應(yīng)對AI特有的攻擊路徑，亟需掌握AI安全攻防核心技能的專業(yè)人才。
本課程通過“理論+實驗+對抗”模式，系統(tǒng)性講解AI安全漏洞原理、攻擊手法及防御策略，覆蓋從模型開發(fā)到部署的全生命周期安全防護(hù)，幫助學(xué)員實現(xiàn)從“被動防御”到“主動對抗”的能力躍遷。
培訓(xùn)對象
網(wǎng)絡(luò)安全專業(yè)人員、滲透測試人員、安全運維人員、安全顧問和管理人員、學(xué)生和研究人員、AI研發(fā)工程師、算法工程師、數(shù)據(jù)科學(xué)家、AI系統(tǒng)運維人員。
培訓(xùn)收益
掌握AI安全核心漏洞：
深入理解大模型提示詞注入、梯度泄露、供應(yīng)鏈攻擊等前沿風(fēng)險。
攻防實戰(zhàn)能力提升：
通過實驗復(fù)現(xiàn)主流攻擊（如對抗樣本生成、模型逆向工程），設(shè)計針對性防御方案。
合規(guī)與隱私保護(hù)：
學(xué)習(xí)AI數(shù)據(jù)脫敏、聯(lián)邦學(xué)習(xí)、差分隱私等技術(shù)，滿足GDPR等法規(guī)要求。
紅藍(lán)對抗思維：
通過分組演練，模擬真實場景下AI系統(tǒng)攻防對抗，提升應(yīng)急響應(yīng)能力。
課程大綱
第一天AI安全基礎(chǔ)攻防
第一章 大模型提示詞漏洞攻防
理論：Prompt Injection分類（直接/間接/多模態(tài)）
實驗：構(gòu)造惡意提示詞注入，觸發(fā)模型輸出敏感內(nèi)容
實驗：多模態(tài)提示詞（文本+圖像）繞過OCR檢測
第二章 敏感信息泄露與防護(hù)
理論：模型元數(shù)據(jù)泄露原理（gguf/metadata解析）
案例：System Prompt Leakage復(fù)現(xiàn)
實驗：利用工具提取模型元數(shù)據(jù)
實驗：設(shè)計防護(hù)策略封堵泄露漏洞
第二天供應(yīng)鏈漏洞與進(jìn)階攻擊
第一章 大模型供應(yīng)鏈漏洞分析
理論：供應(yīng)鏈攻擊路徑（Ollama/Ray/Deepseek）
案例：開源框架未授權(quán)漏洞導(dǎo)致模型劫持
實驗：利用Ollama漏洞植入后門模型
實驗：Deepseek未授權(quán)訪問漏洞復(fù)現(xiàn)
第二章 梯度泄露與對抗防御
理論：梯度反推攻擊原理與數(shù)據(jù)逆向工程
案例：通過訓(xùn)練梯度泄露用戶隱私數(shù)據(jù)
實驗：生成對抗樣本繞過AI檢測系統(tǒng)
實驗：設(shè)計梯度噪聲干擾防御方案
第三天綜合攻防與真實場景實戰(zhàn)
第一章 RealWorld偽造攻擊
理論：DeepFace/DeepVoice偽造技術(shù)原理
案例：生成*真人臉/語音欺騙身份驗證系統(tǒng)
實驗：使用DeepFace生成虛假人臉
實驗：合成語音繞過聲紋識別系統(tǒng)
第二章IoT與AI融合漏洞利用
理論：智能設(shè)備固件漏洞與AI模型聯(lián)動風(fēng)險
案例：通過OCR漏洞劫持IoT設(shè)備控制權(quán)
第三章 紅藍(lán)對抗演練
綜合實驗：分組模擬攻擊鏈（如多模態(tài)注入+供應(yīng)鏈投毒）
防御設(shè)計：制定全鏈路防護(hù)方案并驗證有效性
專家講師
高老師 | CTO/資深技術(shù)顧問/信息安全專家
近十年IT互聯(lián)網(wǎng)運維服務(wù)管理與信息安全領(lǐng)域研究與從業(yè)經(jīng)驗，主要從事運維服務(wù)管理規(guī)劃、運維架構(gòu)、自動化體系建立和實施、信息安全風(fēng)險評估、信息安全管理體系建立和實施等方面工作，具備豐富的IT服務(wù)管理和信息安全管理咨詢實踐經(jīng)驗，尤其在金融、運營商、政府行業(yè)有豐富的項目實施經(jīng)驗。
目前主要專業(yè)領(lǐng)域集中于IT服務(wù)管理、IT風(fēng)險管理與控制、信息安全等方面，曾服務(wù)的主要客戶有：中國金幣總公司、千方集團(tuán)、行園汽車、德法利集團(tuán)、中彩網(wǎng)等。
專業(yè)資質(zhì)：
CISP 注冊信息安全專業(yè)人員—系國家對信息安全人員資質(zhì)的最高認(rèn)可
CISP-PTE 注冊信息安全專業(yè)人員—滲透測試工程師
ISO27001 Foundation 國際信息安全管理體系標(biāo)準(zhǔn)
ITLE 信息技術(shù)基礎(chǔ)架構(gòu)庫認(rèn)證—項目管理專家
OSTA 全國計算機(jī)信息高新技術(shù)人員
AI安全培訓(xùn)
轉(zhuǎn)載：http://www.caprane.cn/gkk_detail/319415.html