黃仁 @ 第11屆第2會期外交及國防委員會第14次全體委員會議

時間: 0
Start Time End Time Text
00:00:00,129 00:00:03,672 有請我們蔡局長請蔡局長好 謝主席 黃委員早早
00:00:11,876 00:00:31,591 有關於日前《華爾街日報》曾報導一款名為TOKIT的AI聊天機器人,成為美國最受歡迎的APP之一。這個APP不只是美國受到歡迎,連菲律賓、英國、加拿大
00:00:32,732 00:00:59,444 的下載次數的非常多而這個軟體背後的母公司就是大陸的大陸制所以本身想要了解一下就是說發現這個軟體在台灣也可以下載得到局長你認為這樣的一個會不會對國安產生一個非常大的一個威脅那這類AI聊天軟體構成的威脅為何你來回答一下好不好
00:01:00,284 00:01:14,070 對,大概我們一再再提醒對於中共製作的這些APEC的軟體它可能潛存了資安的風險那這個TOKI的流通主要是在英語系的國家目前用戶大概有1100萬人那對於
00:01:16,971 00:01:20,473 好 等一下我們要往下延伸本席所知道的這個AI軟體的特色在於學習意思就是在當我們越使用它它就會
00:01:45,226 00:01:48,207 所以本席看了今天的報導我們發現比較有意思的是在深層
00:02:13,573 00:02:24,895 那時候構思的威脅大家都在重視AI製造出的一個假訊息它也是提供反制的想法但是比較忽略收集的部分
00:02:26,899 00:02:51,378 對 這確實是一個威脅那也謝謝委員利用這個質詢的機會提出這個非常重要的問題來因為就AI的一個聊天的軟體因為它是聯網的所以變成是它可以即時的去掌搜那使用者他相關使用軟體的一個習性那這是為什麼我們一再的在提醒使用這種AI生成式的AI一定要特別注意我們局裡面是一定是要落地的
00:02:51,678 00:02:54,519 所以因為有這樣的一個信息所以我們加以來做一個反制或反犯那不管是無論是中國大陸的一個TOTIP
00:03:15,903 00:03:44,675 還是美國的這個CHAT的一個GPT都在收集使用媒體的信息這就是AI發展的條件之一但不可避免但政府不能單純以開發國家區分威脅性而是針對個別軟體區分它的一個威脅的程度那政府是否有這個做這樣的一個工作並且是否能有能力的到個別檢視
00:03:46,416 00:04:11,799 這部分就國安局的立場來講我們會針對這些可能的中置的APP的資安風險我們會提供業管單位來做參考那因為主要的業管可能還是在書發部這邊針對相關的一個APP要不要提出警示的一個公告但這部分我們也跟書發部有做過一些討論也就是說在公告的名單上可能比較有可能的做法是朝向限制使用
00:04:12,139 00:04:15,903 就是哪些APP是比較有風水的,來先跟蘇拉夫講一下,短程、近程、遠程的一個,好不好,你們在討論的過程裡面,能不能給我一份簡單的一個說明報告,好不好。
00:04:27,096 00:04:50,121 那第二個就是指導美國國家安全及情報部門使用的人工智慧AI新規定的備忘錄裡面局長你認為AI錯假的信息正威脅除了來自中國大陸政府之外有沒有可能來自盟友甚至我們自己的政府那今天出席的各部會報告中提到
00:04:51,141 00:05:01,988 以AI反制AI本席首先想要請教國安局長政府要具體要如何以AI反制AI政府又如何應用AI的技術
00:05:03,238 00:05:24,455 對,因為AI它可以運用到像我們今天報告的主題用到錯假訊息或是用到資安的攻擊那因為它發動的攻擊的能量會非常的龐大所以我們必須要用AI的技術來做反制我們要是依照傳統的人力來講我們會非常的吃力那在這部分我們的努力大概分兩個部分第一個部分是運用AI來查找資安上
00:05:25,936 00:05:26,096 韓國瑜委員
00:05:45,003 00:05:52,408 希望你們能夠精準,今年的10月份美國發布指導美國國家安全與情報部門使用人工智慧這新規定的備忘錄裡面,我們目前有類似指導規範嗎?還有局長是否確確的知道美國這一份備忘錄的目的的規範是什麼?
00:06:10,241 00:06:28,469 對,美國這份備忘錄主要提到的是AI未來發展技術的主要的一個方向那另外也提到了可能帶來的一個風險那再來另外一個重點部分就在於說跟國際連結的部分哪一些是可以連結的但哪一些可能要注意的這大概是這次公布的備忘錄其實備忘錄裡面當然你剛剛講的是對的但是我要再加上
00:06:33,451 00:06:55,486 我本席的個人的看法有兩個部分一鼓勵使用AI強調國安和情報不能不能利用AI壓迫言論自由以公民的權利因為這是明確明定確定政府不能用這個來做一個壓迫言論的一個自由那第二個是
00:06:56,286 00:07:12,980 禁止濫用AI強調國安局和情報部不能利用AI壓迫政府的言論自由那當然我們在報告中以AI反制AI這本來就是你們要做的事情那當然我們情事單位強調以AI反制
00:07:16,565 00:07:26,180 指導規範很可能會被濫用在自己國人的身上就算在政府非常喜歡對於不利的消息認知作戰這個
00:07:29,764 00:07:54,475 此於遭政府不斷的濫用後,國人根本無法確定到底是中共還是現在執政黨在混淆民眾的認知。謝偉文提到這問題,事實上剛剛我們在口頭報告的時候也特別提到這一點,也就是說對於AI的使用跟管理還是應該要有法規的法尊的規範,那這部分因為業管單位書發部已經在研擬人工智慧基本法,
00:07:54,815 00:08:11,333 所以本局會針對相關國外發展的趨勢提供給業管單位來做參考另外本局內部對於使用AI也有我們自己的作業規範避免到使用AI被濫用以便來一方面保障我們國人的權益一方面保障國家安全所以我們本席各部會強調政府應用AI以反以AI反制AI
00:08:16,438 00:08:42,926 但這個都是要告訴國人如何使用使用時是否受到規範和限制你們這一點一定要告訴給國人知道那使用過程是否侵害到國人自由或隱私這讓本席非常擔心政府會濫用我們會持續跟相關單位包括國科會跟書發部來交代我們聯繫跟我們習巧欣委員所講的高嘉義
00:08:44,506 00:09:01,694 深偽的一個部分我請教一下我們的警政署在今日網路流傳了一段民進黨前立委高嘉宜遭AI變造的假政論節目抖音影片影片中高嘉宜說我對民進黨沒有什麼好感這個爛黨真的糟糕
00:09:05,416 00:09:21,348 從賴清的開始就歪瓜這個內軸那這個影片雖然仔細看了還是能夠辨別某些地方嘴形不一樣但反正的程度不低影片大約在一週前流傳雖然不少
00:09:23,309 00:09:41,927 觀看能夠區別的真偽甚至留言取笑影片是偽造但講的內容是真實的還是為了避免誤會高嘉宜在4天前提告本席特別確認這個影片目前網路上仍然沒有刪除請問一下警政署
00:09:47,601 00:10:16,482 跟委員報告有關於高教育委員的影片的部分因為他本身抖音有分國際版跟中國大陸版如果是屬於國際版的TikTok的部分我們目前行事警察局這邊是有聯繫管道但是對於他本身中國大陸版的抖音的部分因為我們並沒有辦法去跟他們做相關聯繫所以在下屆的部分我們沒辦法直接來做處理
00:10:17,898 00:10:43,217 所以這個對於很明確高嘉義也是對媒體的對公開的解釋就是說這是一個偽造的一個AI那你們應該查查之後應該就要下架不過還是要流傳到在社會的層面裡面讓別人誤會到他的本尊我想這個警政署你們應該就要精準趕快查查這樣的一個訊息才對啊對不對
00:10:45,731 00:11:07,417 跟委員報告剛剛有提到是說他抖音本身是中國大陸他本身的這些網際公司我們對於這部分我們並沒辦法去要求他們這公司來進行下架當然國內部分也可以做進行網域封鎖的部分不過這不涉及到警政署的權責有提到Link的部分那邊是可以來做處理
00:11:08,977 00:11:34,128 這個是要提示警政署包含警調在處理深偽影片的反應動作遲軟顯然政府對於如何處理AI造成的信息危害根本沒有一個的確的一個切切的一個SOP啊對不對所以你們未來可能會更多更多會發生這種不管在座的各位可能會被偽造偽曾偽的部分
00:11:34,628 00:11:55,453 所以你們本來就自己本身自立出不管是精緊檢調都要製作一個SOP來警示未來防範這樣的一個發生啊是吧是 謝委員的指教我們這部分會跟相關部會來做聯繫請他們在我們國內可以適當處理的部分盡量來做一個處理我們會來努力
00:11:56,693 00:12:14,348 好,你們製造一個SOP裡面本來就是應該要做未來防範因為將來以後可能會更多因為AI反制AI但是我們自己AI反制AI但他們也有自己的一個系統的一套的玩法對不對,好不好是好,謝謝
公報發言紀錄

發言片段

lineno: 271

發言片段: 0
黃委員仁：（9時56分）有請蔡局長。
發言片段: 1
主席：請蔡局長。
發言片段: 2
蔡局長明彥：謝謝主席。黃委員早。
發言片段: 3
黃委員仁：早。有關日前華爾街日報曾報導一款名為Talkie的AI聊天機器人，成為美國最受歡迎的app之一。這個app不只在美國受到歡迎，連在菲律賓、英國、加拿大的下載次數都非常多，而這個軟體背後的公司就是大陸、大陸製。本席想要了解一下，發現這個軟體在臺灣也可以下載得到，你認為這樣會不會對國安產生非常大的威脅？這類AI聊天軟體構成的威脅為何？你來回答一下，好不好？
發言片段: 4
蔡局長明彥：我們一再提醒，對於中共製作的這些app軟體，可能潛存資安風險，Talkie的流通主要是在英語系國家，目前用戶大概有1,100萬人。因為中共的這些軟體公司也要配合到中共的國安法制提供客戶的相關資訊，可能造成資安的危害，包括使用者的一些習性、位置以及通聯資訊，我們都要避免可能有外流到中共的風險。
發言片段: 5
黃委員仁：等一下我們會往下延伸。本席所知道的是，這個AI軟體的特色在於學習，意思就是在當我們越使用它，它就會更聰明。
發言片段: 6
蔡局長明彥：對，越會掌握使用的習性。
發言片段: 7
黃委員仁：因為它可以透過用戶使用的過程，蒐集個人或某群體的思維、邏輯和習慣。以國安局的角度，AI聊天軟體是在蒐集或者再生成，對國安更具有危險性。本席看了今天的報導，發現比較有意思的是再生成，所構成的威脅是大家都在重視AI製造出假訊息，它也提供反制的想法，但是比較忽略蒐集的部分。
發言片段: 8
蔡局長明彥：對，這確實是一個威脅，也謝謝委員利用質詢的機會，提出這個非常重要問題。因為AI聊天軟體是連網的，所以變成它可以即時掌蒐使用者使用軟體的習性。這也是為什麼我們一再提醒，使用這種生成式的AI一定要特別注意。本局一定是要落地的，落地的意思就是所謂的實體隔離，我們是運用它的軟體在我們內部的系統來測試，但是這種中共製的app因為是連網的，所以它可以即時掌蒐一些資訊，這確實有資安疑慮，要特別注意。
發言片段: 9
黃委員仁：因為有這樣的訊息，所以我們要加以來反制或是防範，無論是中國大陸的Talkie還是美國的ChatGPT都在蒐集、使用媒體的訊息，這也是AI發展的條件之一，雖然這是不可避免的，但政府不能單純以開發國家來區分威脅性，而是應針對個別軟體區分威脅程度，政府是否有做這樣的工作，並且是否有能力做到個別檢視？
發言片段: 10
蔡局長明彥：就國安局的立場來講，針對這些中製app可能產生的資安風險，我們會提供業管單位作為參考，主要業管可能還是在數發部這邊，針對相關的app要不要提出警示公告，但這部分我們也跟數發部有做過一些討論，也就是在公告的名單上，比較有可能的做法是朝向限制使用，哪些app是比較有風險要限制，比較不方便做的是……
發言片段: 11
黃委員仁：那就你們麻煩跟數發部講一下。
發言片段: 12
蔡局長明彥：好，我們上禮拜才跟他們討論。
發言片段: 13
黃委員仁：短程、近程、遠程的討論過程，能不能給我一份簡單的說明報告，好不好？
發言片段: 14
蔡局長明彥：沒有問題。
發言片段: 15
黃委員仁：第二個，指導美國國家安全及情報部門使用人工智慧（AI）之新規定的備忘錄裡面，局長，你認為AI錯假訊息的這種威脅，除了來自中國大陸政府之外，有沒有可能來自於盟友，甚至我們自己的政府？今天出席的各部會報告中提到以AI反制AI，本席首先想要請教國安局局長，政府具體要如何以AI反制AI，政府又要如何應用AI的技術？
發言片段: 16
蔡局長明彥：像我們今天報告的主題，AI可以運用到錯假訊息或是資安攻擊，因為它發動的攻擊能量會非常龐大，所以我們必須要用AI的技術來做反制，因為以傳統人力來講會非常吃力，在這部分我們的努力大概分兩個部分，第一個部分是運用AI查找資安上可能的攻擊來源，我們會針對這些駭客團體的攻擊方式與路徑做蒐集，然後讓我們的AI系統可以學習辨識，跟委員很誠實的報告，我們過去透過AI系統來查找這些境外的IP或攻擊來源，正確比例非常高，跟人工來比較正確比例非常高，這是一部分。
發言片段: 17
黃委員仁：我希望你們能夠精準……
發言片段: 18
蔡局長明彥：第二部分是針對……
發言片段: 19
黃委員仁：今年10月份美國發布指導美國國家安全與情報部門使用人工智慧之新規定的備忘錄，我們目前有類似的指導規範嗎？還有，局長是否確切地知道美國這一份備忘錄規範的目的是什麼？
發言片段: 20
蔡局長明彥：美國這一份備忘錄主要提到的是AI未來發展技術的主要方向，另外也提到了可能帶來的風險，再來，另外一個重點就在於跟國際連結的部分，哪一些是可以連結的，哪一些可能要注意，這大概是這一次白宮公布備忘錄最主要的重點。
發言片段: 21
黃委員仁：其實在這個備忘錄裡面，你剛剛講的是對的，但是本席要再加上個人的看法，有兩個部分，第一個，鼓勵使用AI，強調國安和情報部門不能利用AI壓迫言論自由與公民的權利，明定政府不能用這個來壓迫言論自由。第二個，禁止濫用AI，強調國安和情報部門不能利用AI壓迫政府的言論自由。你們在報告中提到要以AI反制AI，這本來就是你們要做的事情，但情治單位強調以AI反制AI的同時，如果缺乏明確使用的指導規範，很可能會被濫用在自己國人身上，就算政府是對於不利的消息認知作戰，以致於遭政府不斷地濫用後，國人根本無法確定到底是中共還是現在執政黨在混淆民眾的認知。
發言片段: 22
蔡局長明彥：謝謝委員提到這個問題，事實上，剛剛我們在口頭報告的時候也特別提到這一點，也就是對於AI的使用跟管理還是應該要有法規、法遵的規範，這部分因為業管單位數發部已經在研擬人工智慧基本法，所以本局會針對相關國外發展的趨勢提供給業管單位作為參考。另外，本局內部對於使用AI也有我們自己的作業規範，避免使AI被濫用，一方面保障我們國人的權益，一方面保障國家安全。
發言片段: 23
黃委員仁：各部會強調政府應用AI、以AI反制AI，但都是要告訴國人如何使用，使用時是否受到規範和限制，這一點你們一定要告訴國人，讓國人知道，而且使用過程是否侵害到國人自由或隱私，這讓本席非常擔心政府會濫用。
發言片段: 24
蔡局長明彥：我們會持續跟相關單位，包括國科會跟數發部來交換意見。
發言片段: 25
黃委員仁：我延續剛剛徐巧芯委員所講的，就高嘉瑜的深偽影片部分請教警政署，近日在網路上流傳一段民進黨前立委高嘉瑜遭AI變造的假政論節目抖音影片，影片中高嘉瑜說：「我對民進黨沒有什麼好感，這個爛黨真的糟糕，從賴清德開始就歪瓜劣棗」。這個影片雖然仔細看還是能夠辨別某些地方嘴型不一樣，但仿真程度不低，影片大約在一週前流傳，雖然不少觀看者能夠區別真偽，甚至留言取笑影片是偽造，但講的內容是否真實及還是為了避免誤會，高嘉瑜已在四天前提告，本席特別確認這個影片目前在網路上仍然沒有刪除，請問警政署。
發言片段: 26
林副局長信雄：跟委員報告，有關於高嘉瑜委員影片的部分，因為抖音有分國際版和中國大陸版，如果是屬於國際版TikTok的部分，目前刑事警察局這邊有聯繫管道，但是對於中國大陸版抖音的部分，因為我們並沒有辦法去跟它們做相關聯繫，所以在下架的部分，我們沒辦法直接來做處理。
發言片段: 27
黃委員仁：這個已經很明確，高嘉瑜也對媒體公開解釋說這是一個偽造的AI，你們應該查察之後就要下架，不要流傳到社會層面裡面造成誤會，警政署應該要精準趕快查察這樣的訊息才對，對不對？
發言片段: 28
林副局長信雄：跟委員報告，剛剛有提到抖音是中國大陸本身的網際網路公司，我們對於這個部分並沒有辦法去要求公司來進行下架，當然國內部分也可以進行網域封鎖，不過這不涉及到警政署的權責，這是屬於TWNIC的部分，那邊是可以來做處理。
發言片段: 29
黃委員仁：我要提醒警政署，包含檢調，在處理深偽影片的反應、動作遲緩，顯然政府對於如何處理AI造成的訊息危害根本沒有一個確切的SOP，而且未來可能會有更多這樣的事件發生，在座的各位都可能會成為被深偽的部分，所以你們本來就應該制定出，不管是軍警檢調都要制定一個SOP，以警示及防範未來這樣的事件發生，是吧？
發言片段: 30
林副局長信雄：是，謝謝委員的指教，這部分我們會跟相關部會來做聯繫，請他們在國內可以適當處理的部分，儘量來做處理，我們會來努力。
發言片段: 31
黃委員仁：你們制定的SOP裡面本來就應該要做好未來防範，因為將來可能會有更多，我們要以AI反制AI，但是他們也有自己系統的一套玩法，好不好？
發言片段: 32
林副局長信雄：好。
發言片段: 33
黃委員仁：謝謝。
發言片段: 34
主席：謝謝黃仁委員。
接下來我們請沈伯洋委員上臺質詢。

公報詮釋資料

page_end 58
meet_id 委員會-11-2-35-14
speakers ["林憶君","羅美玲","洪申翰","徐巧芯","黃仁","沈伯洋","陳永康","陳冠廷","馬文君","王鴻薇","賴士葆","洪孟楷","葛如鈞","楊瓊瓔","黃國昌","王定宇","林楚茵"]
page_start 1
meetingDate ["2024-11-18"]
gazette_id 11310101
agenda_lcidc_ids ["11310101_00002"]
meet_name 立法院第11屆第2會期外交及國防委員會第14次全體委員會議紀錄
content 邀請國家安全局局長、數位發展部、法務部調查局、內政部警政署、國家科學及技術委員會報告 「AI 技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢
agenda_id 11310101_00001