陳永康 @ 第11屆第2會期外交及國防委員會第14次全體委員會議

時間: 0
Start Time End Time Text
00:00:00,889 00:00:01,089 蔡局長
00:00:12,711 00:00:33,958 今天我準備的很多有關AI的流程圖表剛才局長已經做了一部分的回應了那工程技術部分我們在這邊就不做深入的探討我只請教幾個問題第一個就是在我們局裡面高階的長官同仁
00:00:35,031 00:00:58,192 有沒有人本身先使用過AI還是由沿西人員我講沿西部分完全用沿西人員的這個概念去使用AI然後呈報給長官對主要是沿西部門在做相關的研究跟開發那我們局裡面AI的小組在各個單位都有那我們也非常鼓勵有一些橫向的經驗的交流
00:00:59,380 00:01:13,853 好現在因為剛才都探討了告了這個深度偽造啦網路攻擊啦還有最主要就是AI可以產生一些結果並不是假訊息可是它扭曲了你的價值觀也就是說我們在講
00:01:15,074 00:01:37,364 用AI的方法剛剛講反制就是洗腦反洗腦這個東西將來我想速發布在法律上法尊上面這個科技的進步通常我們的法律不太容易跟得上這是我們面臨的最大的一個挑戰是那麼我等一下舉個例給別人看像深層式的AI它的風險它的正反面效益這些東西
00:01:39,546 00:01:41,287 我最後用一個簡圖來給您做一個回應就這個圖
00:02:05,531 00:02:28,875 現在媒體已經沒有人在了所以我很高興這個圖是我們講川普對應中國大陸從他現在選舉過程中的目的、方法、手段這裡面有屬於對抗、合作有屬於主觀、客觀有屬於推測、有反思、有宏觀、偽觀不同的方法論裡面我們把這個邏輯框架圖
00:02:32,267 00:02:56,061 未經AI但是當你把它的邏輯順序調整的時候AI的回復就不一樣了所以在這邊八個方塊圖我把它輪轉一圈它會產生64種不同的組合那這種分析的情況下對我們的參謀幕僚判斷它裡面講的都是真的現象但是不會反映出真相那這種情況下
00:02:57,796 00:03:19,753 AI的判斷就要我們的參與人員知道當初這個東西設計的邏輯框架因為你問AI的並不是文字並不是句子第一個你是information從工情來的第二個你有database第三個你有邏輯框架第四個組織架構把這個變成一個infographic
00:03:20,273 00:03:47,184 未進的AI那麼AI就會產生一些給你建議但這個建議是主觀客觀還是正確不正確這個有不同的結果我舉個例給您聽像這個我們只是把上面的狀況轉一圈所有的東西都會不一樣所以當你把美國的他追求的目的還是他的方法還是手段做調整也會有不一樣的結果像這種東西我做一個很簡單的
00:03:59,004 00:04:13,013 這是AI就這個邏輯框架就做的回答那把這個回答再轉換成英文你再送到另外一個AI的技術去他又幫你把邏輯框架重新調整
00:04:15,431 00:04:21,534 他講的都是正確的但是當你把框架的內容做了調整你再問AI它又會產生另外不同的一套
00:04:37,562 00:04:57,589 當把這個語言、英語套到國外的學者論證裡面引述進去這個就變成假訊息了那這種東西很容易影響到我們的學者、專家、政治的判斷我現在特別是用這個範例向您做一個解說
00:05:01,847 00:05:22,584 我希望我們在做研析單位第一個先把美國政策跟國際情勢的邏輯框架把它畫出來大家做客觀的分析溝通那確定我們的路徑、方法、手段最後能不能支持我們的國安這是一個大格局那這種情況下再用AI的資料進來比推
00:05:23,965 00:05:24,226 李卓人議員
00:05:35,799 00:05:58,012 因為高階的長官並不是本身有工程背景或者用AI那由沿西幕僚單位來使用這個東西他的因為第一個有時間的壓力可是現在這個深層次的結果像這個方塊圖我們改變一下問他30秒產生另外一套完全不同的分析論述所以這個東西88他可以產生64種
00:05:59,713 00:06:10,265 不同結果請問這種情況下我們的幕僚如何去收斂可能回歸過來你還要倒過來用你的AI的技術過濾再簡化這個我是不是請這個局長您做一個回應
00:06:14,990 00:06:31,656 基本上委員剛剛所分享到的一些AI生成技術運用過程當中的一些方法論那我們局裡面事實上已經有投入蠻長一段的時間的研究那也跟委員說明的是我們也曾經透過這些AI的系統去預測中共的人事的布局
00:06:32,316 00:06:55,257 那在啟動這樣的一個深層式AI的系統過程當中就政務委員所講的我們必須要由延期人員來設定我們當時設定了大概有70個指標把70個指標建立到我們深層式AI的系統裡面去那由他來在這些指標的資料運作之下幫我們來預測中共人士可能的佈局跟委員說明的是預測的正確率相當的高
00:06:55,777 00:07:05,765 那這主要的重點就在於說我們本身的資料庫跟指標設定必須要能夠貼近中共的決策思維所以這部分確實是我們在方法論運用上一直在關注的一個主要的重點
00:07:08,070 00:07:27,075 特別還是建議就是說我們做研習人員他的工具跟他的資料庫需要要持續在這方面要投資增長而如果只是用純粹的一般工情那麼也許可以花點錢很多騎士軟體都會提供但是邏輯框架就像您講的預測系統
00:07:28,735 00:07:37,820 我們還有一些設計上的競賽有時候用AI系統去做分析預判有時候用人工系統來做分析預判然後再做比較那這樣可以在過程當中不斷測進我們一些AI運用方法論上的一些經驗
00:07:56,592 00:07:58,176 特別謝謝局長,大家共同努力!
公報發言紀錄

發言片段

lineno: 328

發言片段: 0
陳委員永康：（10時21分）主席你好，有請蔡局長。
發言片段: 1
主席：請蔡局長。
發言片段: 2
蔡局長明彥：謝謝主席，陳委員好。
發言片段: 3
陳委員永康：局長好。今天我準備了很多有關AI的流程圖表，剛才局長已經做了一部分的回應了，工程技術部分，我們在這邊就不做深入的探討，我只請教幾個問題，第一個就是在我們局裡面，高階的長官同仁有沒有人本身先使用過AI，還是由研析人員？我講研析部分，完全用研析人員的概念去使用AI，然後呈報給長官。
發言片段: 4
蔡局長明彥：對，主要是研析部門在做相關的研究跟開發，我們局裡面AI的小組在各個單位都有，我們也非常鼓勵有一些橫向經驗的交流。
發言片段: 5
陳委員永康：因為剛才都探討了深度偽造、網路攻擊，還有最主要就是AI可以產生一些結果，並不是假訊息，可是它扭曲了你的價值觀，也就是說，我們在講用AI的方法，剛剛講反制就是洗腦、反洗腦這個東西，將來我想數發部在法律上、法遵上面，科技的進步，通常我們的法律不太容易跟得上，這是我們面臨的最大的一個挑戰。我等一下舉個例給你看，像生成式AI它的風險、它的正反面、效益，這些東西都有流程，我們確定你使用的目標、方法、手段，以法律與規範為監管基礎，符合成本效益的監管模式，因為你投入太大的經費去管一些有機會發生，但是它並不是那麼嚴重的，你做到那麼細也沒有好處。
我最後用一個簡圖來給您做一個回應，就是這個圖，現在媒體已經沒有人在了，所以我就很高興，這個圖是我們講川普對應中國大陸，從他在選舉過程中的目的、方法、手段，這裡面有屬於對抗、合作，有屬於主觀、客觀，有屬於推測、有反思，有宏觀、微觀，不同的方法論裡面，我們把這個邏輯框架圖餵進AI，但是當你把它的邏輯順序調整的時候，AI的回復就不一樣了，所以在這邊8個方塊圖，我把它輪轉一圈，它會產生64種不同的組合，這種分析的情況下，對我們的參謀、幕僚判斷，它裡面講的都是真的現象，但是不會反映出真相。在這種情況下，AI的判斷就要我們的參與人員知道當初這個東西設計的邏輯框架，因為你問AI的並不是文字，並不是句子。第一個，你的information是從工情來的；第二個，你有database；第三個，你有邏輯框架；第四個，組織架構把這個變成一個infographic，餵進AI，那麼AI就會產生一些給你的建議，但這個建議是主觀、客觀，還是正確、不正確，這個有不同的結果。我舉個例給您聽，像這個我們只是把上面的狀況轉一圈，所有的東西都會不一樣。所以當你把美國它追求的目的，還是它的方法、手段做調整，也會有不一樣的結果。像這種東西，我做一個很簡單的。
（播放錄音）
發言片段: 6
陳委員永康：這個是AI就這個邏輯框架所做的回答，把這個回答再轉換成英文，你再送到另外一個AI的技術去，它又幫你把邏輯框架重新調整，就是說，它講的都是正確的，但是當你把框架的內容做了調整，你再問AI，它又會產生另外不同的一套，當把這個語言、英語套到國外的學者論證裡面引述進去，這個就變成假訊息了。這種東西很容易影響到我們的學者專家政治的判斷。
我現在特別是用這個範例向您做一個解說，我希望我們在做研析的單位，第一個，先把美國政策跟國際情勢的邏輯框架把它畫出來，大家做客觀的分析、溝通，確定我們的路徑、方法、手段，最後能不能支持我們的國安，這是一個大格局。這種情況下，再用AI的資料進來比對就會比較客觀，而不是直接去找這個是文字輸入，這個是語音輸入，第三個影像，最後變成一個動態，這四個全部可以組合。因為高階的長官並不是本身有工程背景或者用AI，由研析幕僚單位來使用這個東西，因為第一個有時間的壓力，可是現在這個生成式的結果，像這個方塊圖我們改變一下，問它30秒，產生另外一套完全不同的分析論述，所以這個東西8乘8，它可以產生64種不同的結果。請問這種情況下，我們的幕僚如何去收斂？可能迴歸過來，你還要倒過來，用你的AI技術去過濾、再簡化，這個部分我是不是請局長做一個回應？
發言片段: 7
蔡局長明彥：基本上，委員剛剛所分享到的一些AI生成技術運用過程當中的方法論，我們局裡面事實上已經有投入滿長一段時間的研究。也跟委員說明的是，我們也曾經透過這些AI的系統去預測中共的人事布局，在啟動這樣的一個生成式AI系統過程當中，就正如委員所講的，我們必須要由研析人員來設定，我們當時設定的大概有70個指標，把70個指標建立到我們生成式AI的系統裡面去，在這些指標的資料運作之下，由它幫我們來預測中共人事可能的布局。跟委員說明的是，預測的正確率相當的高，這主要的重點就在於說，我們本身的資料庫跟指標設定必須要能夠貼近中共的決策思維，所以這部分確實是我們在方法論運用上一直在關注的一個主要的重點。
發言片段: 8
陳委員永康：特別還是建議，就是說，我們做研析人員，他的工具，跟他的資料庫，需要持續在這方面投資增長，如果只是用純粹的一般工情，也許可以花點錢，很多軟體都會提供，但是邏輯框架就像您講的，預測系統包括你的資料庫，包括你的information，還有你的邏輯框架，最後送進AI的infographic，這個要有持續更新。
發言片段: 9
蔡局長明彥：是。
發言片段: 10
陳委員永康：我特別提出這個請局裡面在這部分努力。
發言片段: 11
蔡局長明彥：謝謝陳委員的指導，我們還有一些設計上的競賽，有時候用AI系統去做分析預判，有時候用人工系統來做分析預判，然後再做比較，這樣可以在過程當中不斷策進我們在AI運用方法論上的一些經驗。
發言片段: 12
陳委員永康：好，特別謝謝局長，大家共同努力。
發言片段: 13
蔡局長明彥：好，謝謝委員提醒，我們繼續來努力，謝謝。
發言片段: 14
主席：謝謝陳永康委員，局長請回。
發言片段: 15
主席（陳委員永康代）：請林委員憶君發言。

公報詮釋資料

page_end 58
meet_id 委員會-11-2-35-14
speakers ["林憶君","羅美玲","洪申翰","徐巧芯","黃仁","沈伯洋","陳永康","陳冠廷","馬文君","王鴻薇","賴士葆","洪孟楷","葛如鈞","楊瓊瓔","黃國昌","王定宇","林楚茵"]
page_start 1
meetingDate ["2024-11-18"]
gazette_id 11310101
agenda_lcidc_ids ["11310101_00002"]
meet_name 立法院第11屆第2會期外交及國防委員會第14次全體委員會議紀錄
content 邀請國家安全局局長、數位發展部、法務部調查局、內政部警政署、國家科學及技術委員會報告 「AI 技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢
agenda_id 11310101_00001