沈伯洋 @ 第11屆第2會期外交及國防委員會第14次全體委員會議

時間: 0
Start Time End Time Text
00:00:00,089 00:00:18,261 主席 邀請 呃 邀請局長邀請局長謝謝主席 沈伯洋 早局長好 這個 雖然今天是AI的題目 但一開始我想問一個時事 這個時事其實跟AI沒有直接的關係 但其實是非常類似的問題 就是 這個
00:00:21,058 00:00:50,180 媒體的這個官方說法我剛剛看到在媒體區好像你已經有回答過這個問題了所以我就不贅述但總之我先講右邊這件事右邊其實是一個馬斯克相關的影片那這個影片呢都是從頭到尾的字幕就在講說他要撤出啦什麼之類的但他的裡面講的英文根本不是那麼一回事那就是亂上字幕那這個在澤倫斯基之前很多的影片俄羅斯也都做過類似的事中國也做過類似的事就是澤倫斯基講了一堆話那下面上了一些完全無關的字幕
00:00:50,820 00:01:07,348 那這種事情雖然是早期從到現在一直的操作方式但昨天發生了一個更麻煩的事情就是有這個拜喜會那拜喜會的這個場合就像畫面上看到的這個樣子但是央視他自己在旁白的時候其實裡面根本就沒有人在講賴清德
00:01:07,828 00:01:34,543 但他旁白就講了這句話賴清德和民進黨當局的台獨本性然後呢我們台灣呢就有這個還有金華社還有台灣的報紙跟媒體就直接把這一個呢當作是一個事實來報導但我有看到有一些媒體就比較平衡他就是他怎麼報導他就講說現場完全沒有提到但中國的官方文件去講了這件事那我覺得這個現在對我們來講有一個很麻煩的地方是在於說
00:01:35,383 00:01:57,100 台灣有一些他會直接講就是把中國的這個東西都copy過來講但問題就出來說假設我們今天出來闢謠說我們都沒有聽到賴清德結果他們就自己說沒有他們就是在內部的時候他們自己有聽到那到最後就是有理說不清所以在這邊我想問一下就是說目前國安局對像這一類方式的比較好的回應的說法會是什麼
00:01:58,230 00:02:14,583 對,就這個問題來講,我們當然在第一時間又去比對白宮他對外的公開的新聞稿那也去研判中共領導人在國際場合一般在處理類似事情的一個說法那確實像委員所提到的不能排除可能是中共的官宣官媒
00:02:15,083 00:02:34,782 在會後刻意的操作那因為在APEC的期間不只是剛剛委員所提到這個案我們也注意到中共跟新加坡的領導人在會談過程當中似乎也有這種會後刻意的新聞的操作跟處理包括認為說新加坡的總理黃總理曾經在會中提到了克尊一中原則
00:02:35,943 00:02:53,331 對,所以菲律賓也有,印尼也有對,很多國家似乎在會後都有遭受到中共在媒波處理上的一個刻意的手法所以各國也都很警示對於跟中共的會談,事後怎麼樣有自己的版本避免到中共單方面片面的說辭這變成是大家共同關注的議題
00:02:54,411 00:03:14,382 當然希望說媒體朋友們在報導相關的議題過程當中也能夠有多方的查證。對,非常感謝局長講這一個,因為如果我們跟國人講說,比如說之前印尼、菲律賓等等的國家也都發生過這個明明會面的時候沒有講的東西,結果中國自己在事後的這一個文件講出來。
00:03:15,924 00:03:31,925 講出來以後我們不是要去爭持他到底真還是假因為這種東西有理說不清但可以去強調說中國很喜歡在事後去講一些你在公開的找不到的內容那這樣的話我覺得對國人以後在看到中國官方說法的時候會有一些警惕
00:03:32,546 00:03:59,114 那也不會去落入對方的陷阱就是說沒有啊私底下他們偷偷有講到啊什麼之類的不用去爭執那樣的一個細節但這也是還是我擔心的就我今天早上就特別去把這個頭版都拍一拍當然我認為比較重要當然是我們昨天贏球但是呢像這個頭版某報的頭版就直接講說首度點名賴清德但這一件事情明明就是沒有在現場發生是後來官方的文件但這個在頭版
00:04:00,134 00:04:23,323 但中國時報他的講法就是路芳新聞稿點名他就講得比較清楚說這個不是現實發生的但是是他新聞稿點名的那我覺得也藉這個機會我們覺得真的因為台灣現在是一個這個隨時有可能會被入侵的一個國家那如果今天是在危急的時候我們的媒體是直接把中國新華社的內容直接當作我們的頭版來報導
00:04:24,784 00:04:26,705 並沒有說他為何這樣報導,他的報導跟事實不一樣,廣泛地在台灣發送,我認為這會是國安的危機。這可能是個別倫理上的問題,但是國安局這次的整理,直接跟媒體的回應,之後我們應該繼續往這個方向邁進。
00:04:44,492 00:05:07,518 當然這個雖然跟AI沒有直接的關係但是這也是我之前比較擔心的事情就是AI來講中國的技術AI的技術當然好但有時候他不一定需要用AI他可以使用非常簡單的譬如說真實的影片他影片從頭到尾都不是AI都是真實的但是譬如說配錯誤的字幕那現在配錯誤的字幕是第一步他下次可能是他配錯誤的語音他下次語音是真的字幕是假的嗎
00:05:07,978 00:05:34,527 那他AI可以用在譬如說他語音是錯的然後字幕也是錯的就一步一步往下做然後讓台灣人越來越習慣越來越搞不清楚這樣的機制那我有看到不管是事務發布跟那個局裡面的報告裡面都有提到就是這一個近期之內有越來越多的造假我自己也被造假了那這個其實我覺得還不是最大的重點是最近剛好事務發布對這個對不起這可能要請次長請那個一經次長不好意思就是說
00:05:35,652 00:05:57,889 剛剛忘了先講那這個我記得這幾天剛好發生了我們很多財經的粉專不是被下架嗎然後呢因為Meta本來就有一個詐騙相關的回報機制那所以就開始有人說會不會是書發部在做那我有看到這個次長有回答那我覺得這個真的有時候是不知道是造謠還是怎樣但我覺得我現在有一個問題就是說我們詐騙是有一個跟Facebook回報的機制
00:06:00,211 00:06:09,568 是那如果是跟Deepfake有關因為Deepfake有可能是詐欺那他如果用在詐欺上面我們直接回報這個沒問題但像這樣的方式能不能被歸類在詐欺
00:06:13,447 00:06:31,159 這個的確是一個很好的問題像這樣的Deepfake它是不是可以構成詐欺這個的確是很有爭議的然後像這樣的事情其實不能由我們行政部門直接來認定因為我們台灣是一個自由民主法治的國家有時候這種事實
00:06:32,980 00:06:56,916 是否有就是詐欺這個最終還是必須由那個司法機關必須由檢調機構去調查然後由司法機關去做決定的這個相較於那些威權國家威權國家其實很簡單就是政府一下令所有的事情當可能當天一個小時之內都解決了那我們民主國家事實上我們有時候覺得說我們好像一隻手被綁在後面在做事情
00:06:57,176 00:07:18,952 但是這個就是自由民主的代價這個是我們未來非常大的挑戰但是我們還是必須想辦法去面對這個是我比較擔心的事情就是說因為我們現在打造專法有了嘛但是因為詐欺是限定的詐欺就是我們刑法的詐欺區裁所以它是詐騙金錢那詐騙金錢呢我們今天用這個詐騙的定義去跟各個平台去做回報什麼的這個我覺得是合理
00:07:19,853 00:07:35,966 如果我們要把這個翻成詐欺,他沒有直接財產損害嗎?他不是用我的名義在買股票嗎?賣股票但是所以會不會可以乾脆另辟蹊徑就是說我們不要用詐欺這一條路徑,我們就用Deepfake當路徑就是說去跟社群平台談說有一個是Deepfake專門回報的路徑
00:07:36,747 00:07:53,957 那以後只要出現過不過這個是在抖音上那是另外的抖音不會理我們但是如果說今天是在Facebook在YT上面他們譬如說他們有標記為AI他是Deepfake有哪幾個標準是我們可以跟他們回報直接做另外一條途徑看社發部有沒有機會去跟這些社群平台談一下
00:07:54,737 00:08:23,369 我們現在持續在跟這些主要的社群平台做溝通之前他們比較不願意跟我們配合常常說因為他們的總部在美國或者在日本所以他們沒辦法去影響這些總部的決策經過我們這幾個月來不斷地跟他們溝通以後他們的態度有比較鬆動我們後來也發現說因為像臉書他們在台灣他們的法尊部門基本上只有兩個人然後他們根本管不到他的業務部門
00:08:24,369 00:08:45,943 所以我們後來的方式就是我們直接去跟他們新加坡的亞太總部直接做溝通然後接下來我們就直接到美國去找他們的總部我們跟他們溝通然後我們也透過那個美國的政界的人士當他們來訪問台灣跟我們訴發部做會談的時候我們就跟他們抱怨我們也希望透過美國的輿論以及美國的政府部門對這個Facebook施壓因為美國的
00:08:48,164 00:09:13,097 國會以及行政部門對於Facebook這也是面臨同樣的問題他們也是覺得很頭大所以他們覺得感同身受所以我們現在就是這幾個月來那個不管是Facebook、Google或是Line他們的態度都有改善那我們事實上對Deepfake這方面只要我們提出的那個解釋是合理的我相信他們都會配合那就如同委員所講的其實現在最大的問題其實是在TikTok
00:09:13,778 00:09:30,357 對,因為這個機制可能必須要趕快建立因為變得越來越來越多啦那我們本來打詐的機制當然利益良善台灣詐騙卻很多啦但我個人認為啦這個就不用回答我認為中國才是最大的詐騙集團啦所以呢在這個政治上面呢如果我們現在遇到這樣那麼大型的這一種
00:09:30,757 00:09:44,611 用各式各樣的方式來做詐欺像這個是今年才出現過的事情我覺得也蠻扯就是這是今年9月才出現的事情是直接Deepfake 烏克蘭的外長的這個形象直接還去跟美國做跟參議員做視訊的連線
00:09:46,653 00:10:06,662 所以我在連線的過程以後他覺得怎麼有點怪怪的才趕快去通報所以這個已經不是說直接的影片在那邊是連跟你連線的那一個人都有問題了所以我覺得這個部分我們機智趕快建立因為一樣的事情有可能會發生在台灣那後面其實因為時間到了我沒有辦法再細問但是我看到數發部跟國安局在寫這一個AI的報告說因為畢竟AI
00:10:07,782 00:10:07,842 沈伯洋
00:10:29,565 00:10:58,551 DRPA他們現在有那個他們在去年開始有這個AI這個我猜次長很熟悉啦他們這個計畫他們直接請大家來攻啦然後請大家來攻然後去把這個漏洞找出來啊什麼等等之類的因為防禦這件事情是我們現在馬上可以做剛剛我記得局長跟次長在回答的時候都有講過我們已經有用AI在防禦那這部分可以強化那AI要應用在紅隊的這個有創意的這個部分到底會發展什麼樣我們不是很確定但至少我看OpenAI的報告放在假消息的部分他說已經有說服力了
00:10:59,011 00:11:13,257 所以當他已經開始有說服力我們先不要管一般的資安攻擊但如果是假消息還有像剛剛講Deepfake這個部分有可能是必須要先去注意那我這個後面當然有一些建議還有一些法律上的問題如果有機會的話我可能再去交通委員會再問一下這個部長或次長是謝謝主席
公報發言紀錄

發言片段

lineno: 307

發言片段: 0
沈委員伯洋：（10時9分）謝謝主席，有請局長。
發言片段: 1
主席：請局長。
發言片段: 2
蔡局長明彥：謝謝主席，沈委員早。
發言片段: 3
沈委員伯洋：局長好。雖然今天的題目是AI，但一開始我想問一個時事，這個時事其實跟AI沒有直接的關係，但其實是非常類似的問題，媒體的官方說法，我剛剛看到在媒體區受訪時你好像已經有回答過這問題了，所以我就不再贅述。我先講右邊這件事，右邊是與馬斯克有關的影片，該影片的字幕從頭到尾都在講他要撤出什麼之類的，不過其實裡面講的英文根本不是那麼一回事，所以就是亂上字幕！在澤倫斯基之前很多的影片裡，俄羅斯也做過類似的事，中國也做過類似的事，就是澤倫斯基講了一堆話，而底下上了一些完全無關的字幕。這是從早期從到現在一直有的操作方式，不過昨天發生了一件更麻煩的事情，也就是拜習會。拜習會的場合就是畫面上看到的樣子，裡面根本就沒有人講到賴清德，可是央視在旁白的時候講了這句話：賴清德和民進黨當局的台獨本性。然後新華社、還有臺灣的報紙跟媒體，就直接把這個當作事實來報導。我看到有些媒體報導比較平衡，說現場完全沒有提到，但中國的官方文件講了這件事。現在對我們來講，有一個很麻煩的地方在於，臺灣有些人會把中國的東西直接copy過來講。問題出在假設我們今天出來闢謠說，我們都沒有聽到講賴清德！結果他們就自己說，沒有，但是在內部時他們有聽到，最後就是有理說不清。在這邊我想請問，目前國安局對這一類方式的新聞比較好的回應說法會是什麼？
發言片段: 4
蔡局長明彥：就這問題來講，我們第一時間也有去比對白宮對外的公開新聞稿，也會去研判中共領導人在國際場合、一般在處理類似事情的說法。確實像委員所提到的，不能排除可能是中共的官宣、官媒在會後的刻意操作！在APEC期間，其實不只剛剛委員所提到的個案，我們也注意到在中共與新加坡領導人會談過程當中，似乎也有這種會後刻意的新聞操作及處理，包括認為新加坡黃總理曾經在會中提到恪遵一中原則與反對臺獨……
發言片段: 5
沈委員伯洋：對，菲律賓也有過，印尼也有過。
發言片段: 6
蔡局長明彥：有很多國家似乎在會後都遭到中共在媒播上以刻意手法處理，所以對於跟中共的會談，各國都很警示，看事後怎麼樣有自己的版本，避免成為中共單方面、片面的說詞，這也變成大家共同關注的議題。當然，希望媒體朋友們在報導相關的議題過程中能多方查證。
發言片段: 7
沈委員伯洋：非常感謝局長講到這點。如果我們跟國人說之前印尼、菲律賓等國家也都發生過明明會面時沒有講的東西，結果中國在事後的文件講出來。講出來以後，我們也不是要去爭執到底真或假，因為這種東西有理說不清。但我們可以強調，中國很喜歡在事後去講一些你在公開時找不到的內容，這樣以後國人在看到中國的官方說法時會有一些警惕，也不會落入對方陷阱，甚至認為沒有啊，他們私底下有偷偷講到什麼之類的，不用去爭執那樣的細節。但這也是我擔心的，所以我今天早上就特別把頭版都拍過，不過比較重要的當然是我們昨天贏球。但某報的頭版就直接講「首度點名賴清德」。其實這件事明明沒有在現場發生，是後來才出現在官方文件，卻刊在頭版。至於中國時報的講法就是「陸方新聞稿點名」，這就講得比較清楚，表示這不是現實發生的，是新聞稿點名的。我覺得臺灣現在是一個隨時可能會被入侵的國家，如果在危急時，我們的媒體是把中國新華社的內容直接當作頭版來報導，也沒有講為什麼這樣報導，報導跟事實到底一不一樣，就廣泛地在臺灣發送，我認為這會是國安危機，這可能是個別倫理上的問題，而國安局這次是整理後直接跟媒體回應，我想之後也應該繼續往這方向邁進。
發言片段: 8
蔡局長明彥：好。
發言片段: 9
沈委員伯洋：這雖然跟AI沒有直接關係，但這也是我之前比較擔心的。就AI來講，中國的AI技術當然好，不過有時候不一定需要用AI，他可以使用非常簡單的，譬如真實的影片。也就是說，影片從頭到尾都不是AI，都是真實的，卻配上錯誤的字幕。其實配錯誤的字幕是第一步，下次可能是配上錯誤的語音！現在語音是真的，字幕是假的，至於AI則可以讓語音是錯的，字幕也是錯的，一步一步往下做，讓臺灣人越來越習慣，越來越搞不清楚這樣的機制。不管是數發部或國安局報告都有提到，近期之內有越來越多的造假，像我自己也被造假了。這個其實還不是最大的重點，最近剛好數發部……對不起，這可能要請教林次長。這幾天剛好很多財經粉專被下架，由於Meta本來就有詐騙回報的相關機制，所以開始有人說，會不會是數發部做的？我看到次長有回答，讓我覺得這真的不知道是造謠還是怎樣。我現在有一個問題，詐騙是不是有向Facebook回報的機制？
發言片段: 10
林次長宜敬：是。
發言片段: 11
沈委員伯洋：如果跟Deepfake有關呢？因為Deepfake有可能是詐欺，如果是詐欺的話我們直接回報，這個沒問題；但像這樣的方式能不能歸類在詐欺？
發言片段: 12
林次長宜敬：這的確是一個很好的問題。像這樣的Deepfake是不是可以構成詐欺？這的確是很有爭議的。不過這樣的事其實不能由行政部門直接認定，因為臺灣是一個自由民主法治的國家，對於是否為詐欺，最終必須由檢調機關調查，由司法機關決定。相較於威權國家，威權國家很簡單，就是政府一下令，所有事情可能當天、甚至一個小時之內就解決了。至於我們民主國家，有時候會覺得好像有一隻手被綁在後面來做事情，但這就是自由民主的代價，這也是我們未來非常大的挑戰，不過我們還是必須想辦法去面對。
發言片段: 13
沈委員伯洋：對，這是我比較擔心的。我們現在已經有了打詐專法，但詐欺是限定的，所謂詐欺就是刑法的詐欺取財，是詐騙金錢。如果是詐騙金錢的話，那麼我們用詐騙的定義去向各平臺做回報，我覺得合理；但如果要將這個視為詐欺的話，但它並沒有直接造成財產損害，也不是用我的名義買賣股票。所以可否乾脆另闢蹊徑？也就是不要用詐欺這一條路徑，而用Deepfake當路徑，跟社群平臺談設立Deepfake回報的專門路徑？以後只要出現過……不過這個是在抖音上，所以是另外一回事，而且抖音不會理我們。但如果是在Facebook、在YT上，譬如沒有標記為AI，是Deepfake，有哪幾個標準是我們可以跟他們回報，直接做另外一條途徑，看數發部有沒有機會去跟這些社群平臺談一下？
發言片段: 14
林次長宜敬：是，我們現在持續跟這些主要的社群平臺做溝通，之前他們比較不願意跟我們配合，還推說總部在美國或在日本，所以沒辦法影響總部的決策。但經過幾個月不斷地溝通，他們的態度有比較鬆動。我們後來也發現，臉書在臺灣的法遵部門基本上只有兩個人，根本管不到業務部門！所以我們後來直接去跟他們在新加坡的亞太總部溝通，接下來就直接到美國總部溝通，也透過美國政界人士，當他們來臺灣訪問，與數發部會談時，我們就跟他們抱怨，希望透過美國輿論以及美國政府部門來對Facebook施壓。美國國會以及行政部門對Facebook也面臨同樣問題，他們也覺得很頭大，所以他們感同身受。這幾個月來，不管是Facebook、Google或LINE的態度都有改善。至於Deepfake，只要我們提出的解釋是合理的，相信他們都會配合。如同委員所講的，現在最大的問題其實是在TikTok！
發言片段: 15
沈委員伯洋：所以這個機制必須趕快建立，因為會變得越來越多！打詐機制固然立意良善，臺灣詐騙卻還是很多，不過我個人認為中國才是最大的詐騙集團，但這個就不用回答了。在政治上，我們現在遇到這種大型且用各式各樣的方式來做詐欺，像這就是今年才出現過的事，我覺得也蠻扯的。這是今年9月才出現的事，是直接Deepfake烏克蘭外長的形象，甚至跟美國參議員做視訊連線；在連線的過程裡，參議員覺得有點怪怪的才趕快通報！所以這已經不是影片了，而是連線的那一個人有問題！我覺得這部分機制要趕快建立，因為一樣的事情有可能會發生在臺灣。因為時間到了，後面我沒有辦法再細問。不過數發部跟國安局在所寫的AI報告裡說，畢竟AI在不同的層次裡，如果今天是在Level 2的話，自動化防禦比較沒什麼問題；如果做到紅隊程度的Level 3，畢竟現在要做到紅隊的創意還是要比較夠，但是防守這個部分是我們現在就可以做的，我看到美國有這個相關的……主席，不好意思，再給我30秒，就是DARPA，他們在去年開始有這個AI，這個我猜次長很熟悉啦，他們有這個計畫，他們直接請大家來攻，然後去把這個漏洞找出來等等之類的，因為防禦這件事情是我們現在馬上可以做的。我記得剛剛局長跟次長在回答的時候都有講過，我們已經有用AI在防禦，那這部分可以強化。
至於AI要應用在紅隊這個有創意的部分，到底會發展成什麼樣，我們不是很確定，但至少我看OpenAI的報告，放在假消息的部分，它說已經有說服力了，所以當它已經開始有說服力，我們先不要管一般的資安攻擊，但如果是假消息，還有像剛剛講的Deepfake這個部分有可能是必須要先去注意的。我後面當然有一些建議，還有一些法律上的問題，如果有機會的話，我可能會再去交通委員會問一下部長或次長。
發言片段: 16
林次長宜敬：是，謝謝委員。
發言片段: 17
沈委員伯洋：謝謝主席，謝謝局長，謝謝次長。
發言片段: 18
主席：謝謝沈伯洋委員。
接下來我們請陳永康委員上臺質詢。

公報詮釋資料

page_end 58
meet_id 委員會-11-2-35-14
speakers ["林憶君","羅美玲","洪申翰","徐巧芯","黃仁","沈伯洋","陳永康","陳冠廷","馬文君","王鴻薇","賴士葆","洪孟楷","葛如鈞","楊瓊瓔","黃國昌","王定宇","林楚茵"]
page_start 1
meetingDate ["2024-11-18"]
gazette_id 11310101
agenda_lcidc_ids ["11310101_00002"]
meet_name 立法院第11屆第2會期外交及國防委員會第14次全體委員會議紀錄
content 邀請國家安全局局長、數位發展部、法務部調查局、內政部警政署、國家科學及技術委員會報告 「AI 技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢
agenda_id 11310101_00001