人工智能與安全

人工智能與安全

課程背景：

2017年3月，人工智能首次被寫入《政府工作報告》，同年7月，國務(wù)院頒發(fā)《新一代人工智能發(fā)展規(guī)劃》，提出了“三步走”的戰(zhàn)略目標，宣布舉全國之力在2030年搶占人工智能全球制高點。今天的中國社會，智能應(yīng)用已經(jīng)隨處可見，我們正處在智能化的社會之中。

當今人工智能科學更準確的是指數(shù)據(jù)智能，在大數(shù)據(jù)時代人工智能技術(shù)應(yīng)用得到了非速發(fā)展，無論是計算智能，還是感知智能，都已為產(chǎn)業(yè)界各類創(chuàng)新提供主要技術(shù)支撐，甚至出現(xiàn)認知智能技術(shù)的初級嘗試應(yīng)用。所以可以斷定，在當今的中國產(chǎn)業(yè)界，不了解大數(shù)據(jù)與人工智能的科技應(yīng)用，大概率會在競爭中處于劣勢。

但是，我們也常常聽身邊的企業(yè)家員表示出對智能類應(yīng)用的安全性擔憂，比較有代表性的埃隆·馬斯克（Elon Musk）、史蒂芬·霍金（Stephen Hawking）和比爾·蓋茨（Bill Gates）都忌憚人工智能（以下簡稱“AI”），并憂心忡忡地表示在不久的將來，AI會對人類的生存構(gòu)成威脅。埃隆·馬斯克曾宣稱人工智能是人類文明持續(xù)存在所面臨的重大危機。而為什么另一個同樣杰出的群體，包括馬克·扎克伯格（Mark Zuckerberg）、吳恩達（Andrew Ng）和佩德羅·多明戈斯（Pedro Domingos）在內(nèi)，又認為“人工智能威脅論”給的理由太過牽強，幾乎不攻自破。扎克伯格甚至稱那些鼓吹末日將至的人相當不負責，當今人工智能領(lǐng)域最偉大的人物之一吳恩達亦表示，這種焦慮就像是擔憂“火星上的人口過?！?，完全沒有必要……

本課程開課的主要目的是面向非專業(yè)人士，尤其是產(chǎn)業(yè)界，從人工智能產(chǎn)生的背景、基本原理、技術(shù)體系入手，摒棄社會上流行的各類帶有商業(yè)引導(dǎo)目的的內(nèi)容，通過大量豐富案例作證，系統(tǒng)性講授人工智能及人工智能安全問題，對非專業(yè)技術(shù)人員，能夠聽得明、學得會、用得好。在深度推進產(chǎn)業(yè)智能化與企業(yè)智能化應(yīng)用的同時，對人工智能技術(shù)應(yīng)用帶來的一系列安全問題有更為全面的認知與理解。本課程作為提升企業(yè)家數(shù)字化生存能力素質(zhì)的重要組成部分。

課程收益：

● 厘清大數(shù)據(jù)、人工智能體系中的關(guān)鍵問題；

● 熟悉人工智能行為體的分類及對應(yīng)安全問題；

● 了解世界各國人工智能發(fā)展戰(zhàn)略規(guī)劃與安全倫理準則；

● 熟悉社會常見的人工智能應(yīng)用，強化對智能的認知；

● 熟悉掌握新興技術(shù)成熟度曲線，把握未來技術(shù)發(fā)展趨勢；

● 了解人工智能主要流派與基本原理、主流神經(jīng)網(wǎng)絡(luò)模型；

● 熟悉人工智能安體系與架構(gòu)及通用人工智能的發(fā)展趨勢。

課程時間：2天，6小時/天

課程對象：

● 創(chuàng)業(yè)者、企業(yè)負責人、企業(yè)創(chuàng)始團隊、董事會成員

● 企業(yè)高級管理人員，總經(jīng)理、總工程師、副總經(jīng)理等；

● 渴望掌握新興技術(shù)價值落地的企業(yè)中層以上管理人員及工程師；

● 高校MBA、EMBA、DBA專業(yè)研究生；

● 地方政府中、高級管理干部及相關(guān)領(lǐng)域公務(wù)員；

● 國家“十四五”規(guī)劃中智能制造及戰(zhàn)略新興產(chǎn)業(yè)中相關(guān)人士。

課程方式：理論+案例+實操+演練

課程風格：

源于實戰(zhàn)：以客戶需求驅(qū)動的咨詢引導(dǎo)型培訓，以最前沿科技和典型案例演練啟迪學員；

邏輯性強：理論、實踐、研究成果高度結(jié)合，用通俗易懂的語言使各類學員聽懂并掌握；

深入淺出：現(xiàn)場教學既幽默風趣又富有哲理，結(jié)合研究成果和實踐經(jīng)驗進行現(xiàn)身說法；

價值度高：課程內(nèi)容經(jīng)過市場實戰(zhàn)打磨，是學員由外行變成內(nèi)行的知識利器；

方法論新：經(jīng)過專門面向非專業(yè)人士設(shè)計,專業(yè)知識+刻意練習+行動學習+問題改善工作坊,對不同學員的訴求一律耐心互動，并能夠為大客戶實現(xiàn)授課與顧問、工程服務(wù)相結(jié)合。

課程大綱

導(dǎo)入1：現(xiàn)在是大數(shù)據(jù)時代，現(xiàn)在是人工智能時代

案例：“我的一天”

研討：(GP-分組對抗記分點)感受智能化，分組討論描述“你的一天”，并指出哪些應(yīng)用或名詞是和人工智能緊密相關(guān)？（除老師事先講過的，答對一條記1分）

導(dǎo)入2：“人工智能威脅論”

案例：人工智能的技術(shù)發(fā)展，對人類來說到底是生存還是毀滅？

研討：(GP-分組對抗記分點)分組匯總每位同學的觀點，提交給老師。

備注：GP-為短時時間討論，一般不超過5分鐘，LGP為長時間討論，一般在5-20分鐘；GP活動由老師根據(jù)現(xiàn)場情況發(fā)起或不發(fā)起，非固定活動。下同。

第一講：大數(shù)據(jù)時代特征與人工智能國家戰(zhàn)略

一、從互聯(lián)網(wǎng)到大數(shù)據(jù)時代的演變過程

1. 從互聯(lián)網(wǎng)、Web2.0、移動互聯(lián)網(wǎng)看人類在線化過程

2. 人類在線化過程與行為數(shù)據(jù)的關(guān)系

案例分析：以商業(yè)購物場景為例，分析人類活動的在線變化及其產(chǎn)生的行為數(shù)據(jù)

小組研討：(GP)分組設(shè)計其他場景,延伸到物聯(lián)傳感網(wǎng)，并總結(jié)，老師點評并打分

3. 大數(shù)據(jù)的來源與全球數(shù)增長情況分析

4. 數(shù)據(jù)計量單位的換算

5. 5G的戰(zhàn)略地位與價值

6. 大數(shù)據(jù)的兩個重要特征

7. 大數(shù)據(jù)價值的現(xiàn)狀

二、國際與中國人工智能發(fā)展

1. 中國：人工智能的國家戰(zhàn)略與“智能+”

2. 世界各國人工智能發(fā)展對比分析

3. 解讀“十四五”規(guī)劃給我們的啟示

小組研討：(LGP)找出所在行業(yè)的有關(guān)人工智能方面的國家或地方政策規(guī)劃，分析原因與機會

第二講：人工智能發(fā)展史

一、人工智能的起源

1. 人工智能產(chǎn)生的背景

2. 圖靈與圖靈測試

3. 達特茅斯會議與“人工智能”

二、人工智能的三次浪潮

1. 第一次人工智能浪潮：推理與探索

案例分析：計算機在使用“推理和探索”的興起與沒落

2. 第二次人工智能浪潮：知識工程

案例分析：專家系統(tǒng)的窘境與問題

3. 我們正在第三次人工智能浪尖上：大數(shù)據(jù)與深度學習

案例分析：人工智能發(fā)展歷程中的里程碑事件

第三講：人工智能原理

一、人工智能定義與分類

1. 人工智能的定義與正確理解

2. 計算智能、感知智能與認知智能

3. 人工智能的幾大門派其及技術(shù)發(fā)展方向

二、人工智能人才與知識體系

1. 學科領(lǐng)域交叉與滲透下的人工智能創(chuàng)新協(xié)同

2. 世界及中國人工智能類人才培養(yǎng)現(xiàn)狀

案例分析：中國某頂尖大學人工智能研究院體系及研究領(lǐng)域

3. 把握與跟蹤人工智能技術(shù)發(fā)展趨勢的方法

案例分析：深度分析Gartner曲線

實操演練：(LGP)依據(jù)現(xiàn)場給出的某人工智能應(yīng)用,依據(jù)Gartner曲線分析其技術(shù)發(fā)展規(guī)律與特點

三、數(shù)據(jù)智能平臺技術(shù)體系

1. 大數(shù)據(jù)技術(shù)平臺架構(gòu)

2. 人工智能技術(shù)平臺架構(gòu)

3. 通用深度學習開源框架與特點

第四講：常見深度學習模型與應(yīng)用

一、傳統(tǒng)數(shù)據(jù)模型與應(yīng)用

1. 常見傳統(tǒng)數(shù)據(jù)算法與模型

2. 常見傳統(tǒng)數(shù)據(jù)算法的應(yīng)用

二、深度神經(jīng)網(wǎng)絡(luò)(DNN)模型與應(yīng)用

1. DNN模型

2. DNN應(yīng)用場景：搜索排序、推薦排序

三、卷積神經(jīng)網(wǎng)絡(luò)(CNN)模型與應(yīng)用

1. CNN模型

2. CNN應(yīng)用場景：圖像識別、視頻分析

四、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)模型與應(yīng)用

1. RNN模型

2. RNN應(yīng)用場景：語音識別、自然語言處理

案例分析：人機智力大戰(zhàn)的巔峰——阿爾法狗

第五講：機器人技術(shù)及其應(yīng)用原理（選講課程）

一、機器人概述

1. “robot”一詞的來源

2. 機器人定義與相關(guān)概念

3. 機器人發(fā)展歷程

4. 機器人分類

二、機器人基本原理及應(yīng)用

1. 機器人控制系統(tǒng)的基本結(jié)構(gòu)

2. 工業(yè)機器人

3. 農(nóng)業(yè)機器人

4. 醫(yī)療機器人

5. 服務(wù)機器人

6. 特種機器人

案例分析：機器人在工業(yè)、農(nóng)業(yè)、醫(yī)療等領(lǐng)域的應(yīng)用

第六講：人工智能與安全哲學

一、安全

1. 人類社會對安全的認知與理解

2. 人工智能安全、人工智能與安全

二、通用人工智能安全的哲學命題

1. 技術(shù)革命視角下的人類四次紀元

2. 第四次紀元的不可控因素

3. 人工智能的安全命題

4．通用人工智能的三個哲學命題

小組研討：（LGP）基于哲學上的命題，分組討論形成各自主張。

第七講：人工智能產(chǎn)業(yè)生態(tài)與安全

一、人工智能產(chǎn)業(yè)生態(tài)

1. 人工智能應(yīng)用領(lǐng)域

2. AI芯片與視覺傳感器

3. AI通用技術(shù)

案例分析：主流機器視覺、語音識別、自然語言、知識圖譜應(yīng)用的市場與趨勢

二、狹義人工智能安全

1. 人工智能的安全體系

2. 人工智能的安全倫理概要

3. 人工智能安全對社會的沖擊

4. 人工智能安全VS網(wǎng)絡(luò)安全VS信息安全

案例分析1：全球首例自動駕駛車輛撞死行人的案件

案例分析2：《2020年度全球十大人工智能治理事件》

第八講：人工智能內(nèi)生安全

一、數(shù)據(jù)安全

1. 數(shù)據(jù)投毒與反制

2. 對抗樣本攻擊與反制措施

3. 數(shù)據(jù)質(zhì)量與數(shù)據(jù)安全之間的管理問題

4. 對產(chǎn)業(yè)界及管理者的啟示

案例分析1：深網(wǎng)視界曝出數(shù)據(jù)泄露事件

案例分析2：地下產(chǎn)業(yè)鏈之數(shù)據(jù)隱私市場

案例分析3：網(wǎng)上熱傳的幾家著名科技公司的安全事件解讀

二、算法與模式安全

1. 算法的可解釋性與安全

2. 模型存儲與管理的安全問題

3. 開源模型的安全問題

4. 對產(chǎn)業(yè)界及管理者的啟示

案例分析1：一支激光筆是如何打敗了自動駕駛？

案例分析2：醫(yī)療領(lǐng)域人工智能診斷技術(shù)應(yīng)用的尷尬

三、框架與運行安全

1. 架框安全問題

2. 主觀與客觀原因上的運行安全與保障問題

3. 對產(chǎn)業(yè)界及管理者的啟示

案例分析：幾起自動駕駛車禍背后的安全分析

小組研討：（LGP）結(jié)合分組學員企業(yè)的情景，研討應(yīng)用人工智能內(nèi)生安全的思路。

第九講：人工智能衍生安全與倫理

一、人工智能衍生安全

1. 智能系統(tǒng)失誤引發(fā)的安全事故

案例分析1：當自動駕駛、智能機器人、智能音箱、醫(yī)療機器人失效后……

案例分析2：聊天機器人的偏激言論引發(fā)的群體影響

2. 人工智能行為體失控要素分析

案例分析：“機器人三定律”

3. 國際上預(yù)防人工智能技術(shù)失控的舉措

二、人工智能倫理

1. 人工智能體是否應(yīng)該賦予“人權(quán)”？

2. 通過使用人工智能的人權(quán)侵犯問題

3. 人工智能是否能成為倫理主體

4. 人工智能的倫理責任問題

案例分析：幾起自動駕駛案件的責任追究

小組研討：(GP)現(xiàn)實生活或科幻電影中的“智能人”，及其引發(fā)倫理的故事關(guān)鍵詞。

三、人工智能倫理準則

1. 世界各國關(guān)于人工智能技術(shù)發(fā)展的倫理準則

2. 人工智能技術(shù)倫理準則的共識性與爭議性

3. 我國專門提出人工智能倫理與法律的“三步走”規(guī)劃

案例分析：解讀《2020年度全球十大人工智能治理事件》的處理結(jié)果

結(jié)束語：人工智能安全的未來展望!

趙志強老師   企業(yè)數(shù)字化轉(zhuǎn)型領(lǐng)航人

20+年大數(shù)據(jù)與人工智能應(yīng)用實踐經(jīng)驗

哈爾濱工業(yè)大學軟件工程碩士/企業(yè)管理博士

哈爾濱工業(yè)大學、東北林業(yè)大學校外碩士導(dǎo)師

曾任：哈工大大數(shù)據(jù)（江蘇）研究院（產(chǎn)學研機構(gòu)）|院長

曾任：珠海金山軟件公司（上市互聯(lián)網(wǎng)企業(yè)）|高級軟件工程師

曾任：哈工大大數(shù)據(jù)集團（高校背景）|高級副總裁兼CTO

曾任：新中新集團（大型民營科技企業(yè)）|總經(jīng)理

曾任：億陽信通（上市高新科技企業(yè)）|副總經(jīng)理/智慧城市研究院執(zhí)行院長

擅長領(lǐng)域：IT、大數(shù)據(jù)、人工智能、區(qū)塊鏈、金融科技、智能制造、轉(zhuǎn)型升級、元宇宙。

城市的“智慧大腦”——

※ 中國大數(shù)據(jù)產(chǎn)業(yè)聯(lián)盟專家委員/黑龍江省智慧城市建設(shè)專家委員會專家/黑龍江人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新聯(lián)盟副理事長/黑龍江省數(shù)據(jù)科學與大數(shù)據(jù)技術(shù)專委會委員

※ 賦能（省/市/區(qū)）政府的戰(zhàn)略規(guī)劃項目，引領(lǐng)推動城市高質(zhì)量發(fā)展：黑龍江農(nóng)委農(nóng)業(yè)大數(shù)據(jù)平臺規(guī)劃、山東省榮成市智慧城市項目、哈爾濱平房區(qū)城市運營中心……

企業(yè)的“智囊高參”——

※ 擁有豐富的創(chuàng)業(yè)、投資經(jīng)驗，曾投資5+家高新科技企業(yè)，主導(dǎo)創(chuàng)業(yè)融資超億元

※ 主持多個大、中型集團管理咨詢與信息化工程項目，主導(dǎo)實施的企業(yè)信息化項目曾獲黑龍江省“管理創(chuàng)新”一等獎，且服務(wù)過的客戶多次成為行業(yè)或省級標桿。

行業(yè)的“風向標桿”——

※ 國家出版基金管理委員會評審專家（大數(shù)據(jù)、人工智能類原創(chuàng)國家級精品圖書）

※ 全國信標委大數(shù)據(jù)標準工作組成員，參與制定多項大數(shù)據(jù)國家標準，并連續(xù)3年編寫工信部《工業(yè)大數(shù)據(jù)白皮書》

實戰(zhàn)經(jīng)驗：

☆ 科研成果豐碩，擅長構(gòu)建產(chǎn)、學、研一體化的教學運行和管理機制 ☆

→ 主持研發(fā)大數(shù)據(jù)通用技術(shù)平臺并擁有10+項大數(shù)據(jù)人工智能領(lǐng)域發(fā)明專利

→ 主持并參與多項縱向、橫向科研項目，并且獲得黑龍江省科技進步一等獎

→ 教育部考試中心指定輔導(dǎo)教材出版作者，包含《數(shù)據(jù)庫技術(shù)》、《網(wǎng)絡(luò)技術(shù)》等20+本專業(yè)書籍，其專著曾獲得全國暢銷書獎，且被哈爾濱工業(yè)大學出版社授予“暢銷圖書作者獎”

☆ 受邀出席10+場高峰論壇并發(fā)表演講，為大數(shù)據(jù)產(chǎn)業(yè)發(fā)展貢獻智慧 ☆

→ 2017年中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會：《中國大數(shù)據(jù)、人工智能的發(fā)展方向》

→ 浙江溫州市國家大院名校大數(shù)據(jù)技術(shù)及應(yīng)用專場推介會：《大數(shù)據(jù)技術(shù)到大數(shù)據(jù)產(chǎn)業(yè)》

→ 東北經(jīng)濟產(chǎn)業(yè)新趨勢發(fā)展論壇：《跨界·激活增長——新技術(shù)、新模式、新機遇》

→太陽島論壇暨第二屆東北振興論壇、中國·哈爾濱大數(shù)據(jù)產(chǎn)業(yè)推介大會：《驅(qū)動大數(shù)據(jù)提升洞察力   助推城市和產(chǎn)業(yè)價值創(chuàng)新》

→ 2020年世界青年科學家峰會泰順分會暨泰順縣第二屆科技成果推介會：《數(shù)據(jù)智能技術(shù)推動產(chǎn)業(yè)模式創(chuàng)新——在智能制造、生態(tài)農(nóng)業(yè)領(lǐng)域的應(yīng)用》

→ 江蘇省無錫市工信局智能制造論壇：《工業(yè)大數(shù)據(jù)理論、技術(shù)與實踐——面向智能制造的探索與思考》

→ 2021溫州蒼南縣首屆科技成果推介會：《數(shù)據(jù)智能技術(shù)推動產(chǎn)業(yè)模式創(chuàng)新——在智能制造領(lǐng)域的應(yīng)用》

→ 黑龍江省計算學會、數(shù)據(jù)科學與大數(shù)據(jù)技術(shù)專業(yè)委員會、ACM SIGMOD China、ACM SIGCSE China、中國計算機協(xié)會、青年計算機論壇（CCF YOCSEF）哈爾濱“如何全面培養(yǎng)數(shù)據(jù)科學與大數(shù)據(jù)技術(shù)人才”：《從企業(yè)的視角看大數(shù)據(jù)人才需求與培訓》

近期部分授課案例：定制化課程滿足客戶個性化需求

主講課程：

企業(yè)數(shù)字化轉(zhuǎn)型系列：

《面向企業(yè)數(shù)字化轉(zhuǎn)型的大數(shù)據(jù)頂層設(shè)計實踐》

《現(xiàn)代金融科技驅(qū)動商業(yè)銀行智能化轉(zhuǎn)型》

《人工智能與安全》

《工業(yè)互聯(lián)網(wǎng)：智能制造與數(shù)字化平臺建設(shè)》

大數(shù)據(jù)價值創(chuàng)新系列：

《大數(shù)據(jù)應(yīng)用：從認知、實踐到價值創(chuàng)造》

《區(qū)塊鏈技術(shù)、原理與商業(yè)價值創(chuàng)新》

《大數(shù)據(jù)時代人工智能應(yīng)用與創(chuàng)新》

授課風格：

源于實戰(zhàn)：以客戶需求驅(qū)動的咨詢引導(dǎo)型培訓，以最前沿科技和典型案例演練來啟迪學員；

邏輯性強：理論、實踐、研究成果高度結(jié)合，用非常通俗易懂的語言使各類學員聽懂并掌握；

深入淺出：現(xiàn)場教學風格既幽默風趣又富有哲理，結(jié)合研究成果和實踐經(jīng)驗進行現(xiàn)身說法；

價值度高：課程內(nèi)容經(jīng)過市場實戰(zhàn)打磨，使學員由外行變成內(nèi)行的知識利器；

方法論新：經(jīng)過專門面向非專業(yè)人士設(shè)計,專業(yè)知識+刻意練習+行動學習+問題改善工作坊,對不同學員的訴求一律耐心互動，并能夠為大客戶實現(xiàn)授課與顧問、工程服務(wù)相結(jié)合。

部分客戶評價：

您高度洞察適合中國產(chǎn)業(yè)環(huán)境下的科技戰(zhàn)略規(guī)劃路徑，并能提供可操作實施方案，這足以使我們企業(yè)在未來國際競爭格局中領(lǐng)先一步。真誠邀請您能作我集團的科技戰(zhàn)略顧問，把您的實踐經(jīng)驗也帶到我們集團。

——中國某科技集團總經(jīng)理

今天聽了您的課我終于弄明白智能制造具體是怎么回事了，您在制造企業(yè)的實踐經(jīng)驗分享對我很有啟發(fā)，現(xiàn)在看我集團只是完成了信息化及部分智能功能，要智能化還有很長的路要走。

——中國某制造企業(yè)集團董事長

您的課程專業(yè)理論性較強，您講的既有理論深度又有現(xiàn)實理解，大數(shù)據(jù)創(chuàng)新模式案例很多是老師自己的參與的項目，所以課程邏輯清晰，環(huán)環(huán)相扣，非常落地有干貨。

——華聯(lián)商學院DBA學生

您講的內(nèi)容非常深入而且非常實用，對我的研究很有啟發(fā)，這么專業(yè)深邃的科技問題很通俗亦透徹地把它講明白實屬難得。

——成都信息工程大學副校長

今天真是太榮幸了，有這么好的機會能聽到您講的課，我收獲非常大，接下來我很有信心把我的農(nóng)場用科技武裝起來，盡快實現(xiàn)真正的智能農(nóng)業(yè)。

——黑龍江某農(nóng)場主

您的課結(jié)合了最前沿的理論與研究內(nèi)容，產(chǎn)業(yè)實踐很務(wù)實落地性好，即有成功的經(jīng)驗也有失敗的體悟，我聽完后認真溫習并總結(jié)了，這對我們下一步進行的十四五規(guī)劃有很好的啟發(fā)，也真誠邀請您作為我們的顧問，參與我們的工作。

——某省民營經(jīng)濟研究院院長