洪孟楷 @ 第11屆第2會期外交及國防委員會第14次全體委員會議

時間: 0
Start Time End Time Text
00:00:00,765 00:00:28,432 主席謝謝麻煩我們請國安局副局長然後那個速發部次長以及內政部警政署我們刑事局副局長委員好來我先請教一下我們次長那個速發部次長跟我們警政署是剛剛有委員在講也是一樣上個禮拜這個臉書粉專被吳俞瑾下架我先釐清第一速發部說這不是速發部的關係
00:00:30,414 00:00:54,083 警政署講是說我們有黑名單跟白名單提供了白名單給臉書結果臉書內部溝通問題造成把白名單下架是不是那我先請教一下白名單、黑名單這照理講臉書它是上市公司、商業公司還需要我們警政署來幫他確認是說哪一個粉專是真的哪一個粉專是假的
00:00:55,281 00:01:21,331 我們警政署怎麼那麼貼心啊因為這些假冒名人的粉專這些廣告非常的多那為了便利啊這Meta公司我們希望它能夠加強內部的一個繩額所以我們也提供白名單如果有發現不是這些我們所提供白名單我們希望他們能夠主動繩額下架但目前比較多的是我們發現這可能是我們提供多少白名單給他我們有
00:01:23,763 00:01:26,444 我們警務同仁為了打詐還要去確認這個粉專到底是不是真的是不是那個當事人擁有的然後速發布
00:01:50,410 00:01:56,812 被粉專下架之後我們還要同仁加班去幫忙把那些正牌的粉絲專業救回來有沒有感覺到有點荒謬啊這樣我們中華民國政府現在是臉書的小弟是不是
00:02:06,871 00:02:20,542 臉書是一個上市公司他是國際公司大家都用沒有錯我尊重但重點在於是說當他已經變成是犯罪集團的一個媒介結果反而變成是我們警政署要先幫他確認是說這個粉絲專頁是不是真的
00:02:23,100 00:02:41,769 然後真的粉絲專業正牌的被下架之後找臉書要找誰?他台灣沒有設客服我們速發不便是還要當他客服還要接了這些陳情之後然後跟臉書來通知那我請教啊到目前為止臉書有出來講話嗎?有承認錯誤嗎?也沒有欸市長我看你講是說你說
00:02:53,874 00:03:07,183 速發部同仁收到陳情連夜加班跟臉書協調處理是臉書的客服勒如果說他是一個商業行為商業模式我們速發部是主管機關照理講我們是應該要求臉書
00:03:08,772 00:03:22,660 去解決他們衍生出來的問題就不是啊我們變成是克服專線24小時不打烊臉書同仁來加班接受陳情之後然後欸臉書你們出包了趕快恢復那臉書現在咧他說據瞭解媒體報導臉書上述發布說明內部調查結果並強調未來不會再有這樣的錯誤會精進流程
00:03:37,520 00:03:48,514 他就跟訴發部講一下,然後也沒有對外說明好像這件事情跟他都沒關係,不要緊結果我們的警政署、我們的訴發部兩大部會變成是要扛責任,會不會覺得委屈啊會會怎麼辦啊
00:03:56,485 00:04:16,894 委員的憤怒其實我們感同身受因為像這個現在國際的這種媒體聚壽實在是對各國政府來講都是很頭痛的問題事實上美國也舉辦了很多聽證會但是因為這些企業實在是太大了那以臉書來講的話大就可以法外之地嗎?大就可以不受控制嗎?
00:04:17,535 00:04:29,026 所以事實上臉書之前的問題是在於說他們在台灣的這種法尊部門只有兩個人但是他的業務部門很大但他們講的是互相不隸屬的他們向上的那個報告的那個網上報告的話他們的法尊部門是
00:04:33,090 00:04:55,777 報告給新加坡的那個亞太中心然後他們的銷售部門是那個report給那個香港的那個中心然後兩邊在通通report到美國的總部去所以我以前我們跟他的法遵部門要求這些事情要求那個事情的時候我們一直跟他要求可是他們就是說沒辦法後來我們也坦白講我們也覺得說那兩位同仁臉書的同仁真的很可憐一直被罵
00:04:56,457 00:05:25,331 所以後來我們的方法我們就是直接去找那個新加坡的那個亞太區總部去跟他去開會去跟他討論然後呢我們也會接下來也會跟那個事實上美國的那個加州的總部也已經派人來跟我們說明這個事情了然後每當我們跟美國的不管是行政部門或者是他的立法部門就他國會的那些有人來參訪的時候我們也是在跟他們講這個事情所以我們希望透過美國的輿論就給他施加壓力
00:05:26,351 00:05:41,951 事實上也必須講句公道話就是說臉書它事實上它有在持續改進但是只是說這是還要幫他講話市長我給你一分鐘的時間讓你好好說明就是因為我覺得其實公務同仁很辛苦
00:05:42,452 00:06:07,739 是沒錯這一件事情如果我現在都姑且相信你們講的是對的喔是我現在姑且相信講說這速發部沒有提供資料而是內政部警政署提供資料但是你們提供的是正確資料是臉書內部搞錯我都先相信因為你們在國會殿堂公開講這樣的話那如果說真的是這樣的話那就代表是臉書內部的控管有問題但到目前為止三天四天了臉書沒有一個正式的回應
00:06:09,670 00:06:17,113 大家捕風捉影然後要求你們來去做說明我什麼時候我們中華民國政府變成是臉書小弟大
00:06:18,206 00:06:45,843 美國其他國家即便是這樣子我相信都會有相關的法令臉書你過去講這些東西我也都了解但是不能說有一家公司來台灣賺很多錢要求投廣告可是他沒有負起相關的責任那我們難道沒有任何的因應作為嗎你身為數位發展部的主管機關其實我們要的是數位發展部當初成立的宗旨跟目的也就是要對於數位世界
00:06:46,323 00:06:46,924 市長,所以這件事情
00:06:57,386 00:07:21,785 要怎麼因應?要怎麼改進?非常感謝委員,事實上也非常感謝立法院在今年的7月通過了打詐專法然後在打詐專法的第31條跟第32條我們能不能要求臉書,因為之前我質詢部長部長講說已經邀請臉書來喝過很多次咖啡甚至我講說你們的APP裡面通報案件上個月10萬零5千件其中有九成都是跟Meta相關的詐騙
00:07:23,146 00:07:37,794 包括用Meta、用MetaMessage、用IG、用臉書都有那我講是說如果說九成的詐騙的管道都是從Meta來的話那難道不能先要求他們源頭管理嗎我才不會累壞我們所有的警務同仁啊
00:07:38,334 00:08:05,520 是 非常感謝委員事實上就是現在有了打仗那如果說他來喝咖啡喝不行那就請他喝禁酒啊禁酒喝不行喝罰酒啊完全同意賺錢我就我一樣開罰啊是 那現在有了打仗專法預計在11月底就要正式那個施行了然後接下來就有任何的這種狀況的話我們就可以直接開罰了這一點我要非常感謝立法院通過這個而且我覺得最重要這件事情不在於在於是說臉書
00:08:06,980 00:08:27,601 他不能躲在幕後然後還要讓我們工務同仁加班來 謝謝次長跟分局長那抱歉 那個國安局啊一件事情因為賴世鮑委員剛剛幾個委員都問到了我只是請教高嘉瑜前委員直接說因為他的這一個深偽的影片
00:08:28,422 00:08:45,561 您有看到嗎?有看到因為上禮拜我講說這其實蠻明目張膽的因為第一他也算是公眾人物有名第二他用的是上政論節目的畫面那政論節目每天都會有YouTube上所以說他到底是講真的講假的一目了然
00:08:46,562 00:09:08,885 可是居然會有人刻意去編造用AI來去做深偽的影片那我想請教這已經從上個禮拜高嘉瑜前委員也報案了那目前為止有進度嗎目前應該是由我們警察單位來受理在作偵辦哪一個可以說明一下現在有沒有進度有沒有查到兇手出處來源
00:09:10,831 00:09:27,312 各位報告,高介委員這個被偽造的影像是出自在中國大陸的一個抖音那他是一個三次郎工作室那邊所發布的部分那據我們了解這個發布人他現在也被抖音了,因為他發布過都已經被禁權了
00:09:28,234 00:09:42,189 有關於抖音的部分因為是屬於中國大陸的網路服務平台業者我們沒辦法去要求他們來進行下架所以在國內的部分大概只能用TWLink的部分做網域封鎖來做處理
00:09:42,790 00:09:59,797 那我想確認兩件事情因為我本席很關心我覺得任何人都不應該去仿冒尤其用這種深偽技術來去擾亂社會秩序如果說不是他講的話的話我覺得任何人都不應該那這請教兩個部分你們就掌握了解這是集團犯罪還是個人行為
00:10:00,897 00:10:06,339 目前能看到他所發布是個人來推斷目前能從他發布的部分只能推斷他是個人來發布那這一批裡面除了高嘉瑜被仿冒還有沒有其他
00:10:25,376 00:10:50,385 他還有其他一些名嘴跟政治人物都有跟委員報告說他在發布的影像裡面他就已經在影片上他已註明是深層製造的影會有註明嗎他底下有深層製造但是後來經過這個他可能是用TikTok或是用抖音可是因為他也可以被下載所以下載完之後如果再繼續轉傳的話你就沒有辦法掌握是不是這樣
00:10:50,999 00:11:18,496 這要看他的影像本身 原本上面的影像還沒有再被變質過如果是有再去做其他處理的話 這我們不管保證好 來 那副局長 最後我只講因為這樣的一個深偽技術 其實大家都要防範我覺得這還是算是第一階廣傳 可是大家可以分辨有很多其實是都沒有辦法分辨譬如說 我只是簡單舉 因為我時間也到了但是我必須還是要再次提醒
00:11:19,841 00:11:35,261 阿湯哥的不可能任務有沒有看過就新這一集還沒看致命清算有沒有他致命清算還沒看但他已經去年就上映了致命清算他講的其實就是深偽技術而我們知道好萊塢通常會把他拍出來
00:11:35,962 00:11:49,876 代表這個技術可能已經過15年了可能已經市面上已經5年了所以說才會變成是電影拍攝換言之電影沒有拍的可能更先進而裡面致命清算裡面我建議真的我們國安單位也一定要去看一下
00:11:50,601 00:12:07,086 並不是說娛樂更重要的是你要了解他裡面其中有一段是阿湯哥接受任務突然間深偽技術AI直接把命令者跟被命令者的中斷的訊息給砍斷然後下達錯誤的資訊讓阿湯哥跑錯地方我覺得如果說這個技術真的被運用駭客的技術真的可以發展成這樣的話那很危險變成是不管是
00:12:18,516 00:12:34,485 發生什麼意外狀況或什麼緊急狀況的時候我們的指揮中心跟我們的前線部隊有可能中間的這樣的一個訊息是不是會被入侵、被控制、被變造那這樣的一個技術我覺得可能就要因應跟防
00:12:36,085 00:13:00,794 謝謝委員提醒因為這個深層式AI這個出來以後一個技術很大的變革它能夠產製出我們很多以前想像不到的包括惡意城市都可以自動深層所以委員講這個部分我們會持續關注這種AI眼鏡然後驅動的這些威脅樣態適時的掌搜以後會提供給我們相關大家這真的應該要適時掌搜好不好謝謝
公報發言紀錄

發言片段

lineno: 601

發言片段: 0
洪委員孟楷：（11時38分）主席，謝謝。麻煩請國安局副局長、數發部次長以及內政部警政署刑事局副局長。
發言片段: 1
張副局長元斌：委員好。
發言片段: 2
林次長宜敬：委員好。
發言片段: 3
洪委員孟楷：來，我先請教一下數發部次長跟警政署，剛剛有委員提到上個禮拜臉書粉專被無預警下架的問題，我先釐清，第一，數發部說這不是數發部的關係，警政署說我們有黑名單跟白名單，提供了白名單給臉書，結果臉書內部溝通的問題，造成把白名單下架，是不是？我先請教一下，白名單、黑名單，照理講，臉書是上市公司、商業公司，還需要我們警政署幫它確認哪一個粉專是真的、哪一個粉專是假的？你們警政署怎麼這麼貼心！
發言片段: 4
林副局長信雄：跟委員報告，因為假冒名人粉專的這些廣告非常多，為了便利Meta公司，我們希望他們能夠加強內部的審核，所以我們也提供白名單，如果有發現不是這些我們所提供的白名單，我們希望他們能夠主動審核下架，但目前比較多的是，我們發現可能是……
發言片段: 5
洪委員孟楷：我們提供多少白名單給它？
發言片段: 6
林副局長信雄：我們有一批的白名單，詳細數字我這邊沒有，抱歉，沒帶在身上。
發言片段: 7
洪委員孟楷：就從過去到現在一直蒐集的名單，是不是？
發言片段: 8
林副局長信雄：我們會去做確認，這段時間都有持續再去做確認屬於真實的這些名單。
發言片段: 9
洪委員孟楷：我們警務同仁為了打詐，還要去確認這個粉專到底是不是真的，是不是那個當事人擁有的，然後數發部在粉專下架之後，我們還要同仁加班去幫忙把那些正牌的粉絲專頁救回來，有沒有感覺到有點荒謬啊？怎樣，我們中華民國政府現在是臉書的小弟，是不是？臉書是一個上市公司，是國際公司，大家都用，沒有錯，我尊重，但重點在於當它已經變成是犯罪集團的一個媒介，結果反而變成是我們警政署要先幫它確認這個粉絲專頁是不是真的，然後真的、正牌的粉絲專頁被下架之後，找臉書要找誰？它在臺灣沒有設客服，我們數發部變成還要當它的客服，在接了這些陳情之後再跟臉書通知。我請教，到目前為止臉書有出來講話嗎？有承認錯誤嗎？也沒有欸！次長，你說數發部同仁收到陳情，連夜加班跟臉書協調處理。
發言片段: 10
林次長宜敬：是。
發言片段: 11
洪委員孟楷：臉書的客服呢？如果說它是一個商業行為、商業模式，我們數發部是主管機關，照理講，我們應該要求臉書去解決他們衍生出來的問題，結果不是啊！我們變成是客服專線24小時不打烊，同仁加班接收陳情之後，然後告訴臉書：你們出包了，趕快恢復。臉書現在咧？媒體報導的是，據了解臉書向數發部說明內部調查結果，並強調未來不會再有這樣的錯誤，會精進流程。它就跟數發部講一下，然後也沒有對外說明，好像這件事情跟它都沒關係、「無要無緊」，結果我們的警政署及數發部這兩大部會變成要扛責任，會不會覺得委屈啊？
發言片段: 12
林次長宜敬：會。
發言片段: 13
洪委員孟楷：會？怎麼辦啊？
發言片段: 14
林次長宜敬：委員的憤怒其實我們感同身受，因為像現在的國際媒體巨獸對各國政府來講，都是很頭痛的問題。事實上，美國也舉辦很多聽證會，但是因為這些企業實在是太大了，以臉書來講的話……
發言片段: 15
洪委員孟楷：大就可以是化外之地嗎？
發言片段: 16
林次長宜敬：不能這樣子。
發言片段: 17
洪委員孟楷：大就可以不受控制嗎？
發言片段: 18
林次長宜敬：事實上，臉書之前的問題是在於說，他們在臺灣的法遵部門只有兩個人，但是它的業務部門很大，他們兩人是互相不隸屬的，他們向上報告的話，他們的法遵部門是報告給新加坡的亞太中心，然後他們的銷售部門是report給香港的中心，兩邊再統統report到美國的總部去。所以以前我們跟它的法遵部門要求這些事情、要求那些事情的時候，我們一直跟它要求，可是他們就是說沒辦法。坦白講，我們也覺得那兩位臉書的同仁真的很可憐，一直被罵，所以後來我們的方法就是直接去找新加坡的亞太區總部，去跟他們開會、討論。事實上，美國加州總部也已經派人來跟我們說明這個事情，每當美國的不管是行政部門或者是立法部門，就是他們國會的那些友人來參訪的時候，我們也一再跟他們講這個事情，我們希望透過美國的輿論給它施加壓力。事實上也必須講句公道話，就是臉書事實上是有在持續改進，只是說這次……
發言片段: 19
洪委員孟楷：還要幫他講話？次長，我給你一分鐘的時間讓你好好說明，就是因為我覺得公務同仁很辛苦啊！
發言片段: 20
林次長宜敬：是，沒錯。
發言片段: 21
洪委員孟楷：這一件事情，我現在都姑且相信你們講的是對的，我現在姑且相信數發部沒有提供資料，而是內政部警政署提供資料，你們提供的是正確資料，是臉書內部搞錯，我都先相信，因為你們在國會殿堂公開講這樣的話。如果真的是這樣的話，那就代表是臉書內部的控管有問題，但到目前為止三天、四天了，臉書沒有一個正式的回應，大家捕風捉影，然後要求你們去做說明，什麼時候我們中華民國政府變成是臉書小弟？美國、其他國家，即便是這樣子，我相信都會有相關的法令，對於臉書，你過去講這些東西我也都了解，但是不能說有一家公司來臺灣賺很多錢，要求投廣告，可是它沒有負起相關的責任，那我們難道沒有任何因應作為嗎？數位發展部身為主管機關，其實數位發展部當初成立的宗旨和目的，就是當數位世界有任何亂象時，要試著去控制、試著去管理，這是你們的宗旨啊！次長，所以這件事情要怎麼因應？要怎麼改進？
發言片段: 22
林次長宜敬：非常感謝委員，事實上也非常感謝立法院在今年7月通過了打詐專法，在打詐專法第三十一條和第三十二條……
發言片段: 23
洪委員孟楷：我們能不能要求臉書？之前我質詢部長，部長說已經邀請臉書來喝過很多次咖啡，甚至我說你們app裡面的通報案件上個月有10萬5,000件，其中有九成都是跟Meta相關的詐騙，包括用Meta的Messenger、IG和臉書，都有！我想如果九成的詐騙管道都是從Meta來的話，難道不能先要求他們做源頭管理嗎？這樣才不會累壞我們所有的警務同仁啊！
發言片段: 24
林次長宜敬：是，非常感謝委員，現在有了打詐……
發言片段: 25
洪委員孟楷：是啊！如果他來喝咖啡喝不行，那就請他喝「敬酒」啊！「敬酒」喝不行，就請他喝「罰酒」啊！
發言片段: 26
林次長宜敬：我完全同意。
發言片段: 27
洪委員孟楷：賺錢我一樣開罰啊！
發言片段: 28
林次長宜敬：是！現在有了打詐專法，預計在11月底就要正式施行了，接下來有任何這種狀況，我們就可以直接開罰，這一點要非常感謝立法院通過這個打詐專法。
發言片段: 29
洪委員孟楷：而且我覺得這件事情在於臉書不能躲在幕後，還讓我們公務同仁加班。
發言片段: 30
林次長宜敬：是！
發言片段: 31
洪委員孟楷：謝謝次長和分局長。
國安局，抱歉，一件事情，因為賴士葆委員和剛剛幾個委員都問到，我只是請教，高嘉瑜前委員深偽的影片您有看到嘛！
發言片段: 32
張副局長元斌：有，有看到。
發言片段: 33
洪委員孟楷：因為上個禮拜……我想說這其實滿明目張膽的，因為第一，他也算是公眾人物、有名；第二，他用的是上政論節目的畫面，政論節目在YouTube上每天都會有，所以他到底是講真的、講假的，一目瞭然，可是居然會有人刻意去變造、用AI去做深偽的影片，那我想請教，這已經從上個禮拜……高嘉瑜前委員也報案了，目前為止有進度嗎？
發言片段: 34
張副局長元斌：目前應該是由警察單位受理、在做偵辦。
發言片段: 35
洪委員孟楷：哪個人可以說明一下？現在有沒有進度？有沒有查到凶手、出處、來源？
發言片段: 36
林副局長信雄：跟委員報告，高嘉瑜委員被偽造的影像是出自中國大陸的抖音，它是一個「三只狼工作室」所發布的，據我們瞭解，發布人發布過後，現在也被抖音禁權了。有關抖音的部分，因為是屬於中國大陸的網路服務平台業者，我們沒辦法去要求他們進行下架，所以，在國內的部分大概只能對TikTok Link的部分以網域封鎮來做處理。
發言片段: 37
洪委員孟楷：好，我想確認兩件事情，因為本席也很關心，我覺得任何人都不應該去仿冒，尤其是用這種深偽技術去擾亂社會秩序，如果不是他講的話，我覺得任何人都不應該。請教兩個部分，就你們的掌握、瞭解，這是集團犯罪，還是個人行為？
發言片段: 38
林副局長信雄：目前能看到的、他所發布的是個人……
發言片段: 39
洪委員孟楷：個人？看起來雖然他的嘴型跟聲音像，但我覺得還是有點粗糙，仔細來看可能還是會有點對不上。所以這是個人行為，並不是集團？
發言片段: 40
林副局長信雄：從他發布的部分，目前只能推斷它是個人來發布。
發言片段: 41
洪委員孟楷：這一批裡面，除了高嘉瑜被仿冒，還有沒有其他？
發言片段: 42
林副局長信雄：還有其他一些名嘴跟政治人物都有。跟委員報告，他在發布的影片上也註明是生成製造的。
發言片段: 43
洪委員孟楷：裡面有註明嗎？
發言片段: 44
林副局長信雄：它底下有寫是生成製造。
發言片段: 45
洪委員孟楷：他可能是用TikTok或抖音，可是因為它也可以被下載，所以下載完之後，如果再去做轉傳的話，你就沒有辦法掌握，是不是這樣？
發言片段: 46
林副局長信雄：這要看原本的影像有沒有被變製過，如果有再去做其他處理的話，這我們不敢保證。
發言片段: 47
洪委員孟楷：好。張副局長，最後我只講，對於這樣一個深偽技術，其實大家都要去防範，我覺得這還算是低階，雖然廣傳，可是大家可以分辨，也有很多其實是都沒有辦法分辨的，譬如說，我只是簡單舉例，因為我的時間也到了，但我必須再次提醒。阿湯哥拍的「不可能的任務」最新一集有沒有看過？
發言片段: 48
張副局長元斌：還沒看。
發言片段: 49
洪委員孟楷：片名是「致命清算」，你還沒看，其實它去年就上映了。「致命清算」講的其實就是深偽技術，而我們知道，好萊塢會把它拍出來，通常代表這個技術可能已經過時5年了，也就是出現在市面上可能已經5年了，才會被拍成電影。換言之，電影沒有拍的可能更先進，我建議國安單位人員一定要去看一下「致命清算」，並不是為了娛樂，更重要的是你們要瞭解，其中有一段是阿湯哥接受任務，突然間深偽技術AI直接把命令者跟被命令者之間的訊息砍斷，然後下達錯誤的資訊，讓阿湯哥跑錯地方。我覺得如果這個技術真的被運用，駭客的技術真的可以發展成這樣的話，那很危險，變成不管發生什麼意外狀況或緊急狀況的時候，我們的指揮中心跟前線部隊之間的訊息是不是有可能被入侵、被控制、被變造？
發言片段: 50
張副局長元斌：是，跟委員報告……
發言片段: 51
洪委員孟楷：對於這樣的技術，我覺得可能就要因應跟防制。
發言片段: 52
張副局長元斌：謝謝委員提醒，生成式AI出來以後是技術上一個很大的變革，它能夠產製出很多我們以前想像不到的，包括惡意程式碼都可以自動生成。所以對於委員講的這個部分，我們會持續關注這種AI演進、驅動的威脅樣態，適時地掌蒐以後，會提供給相關單位應處。
發言片段: 53
洪委員孟楷：這真的應該要適時掌蒐，好不好？
發言片段: 54
張副局長元斌：好，謝謝委員。
發言片段: 55
洪委員孟楷：謝謝。
發言片段: 56
主席：謝謝洪孟楷委員。請葛如鈞委員上台質詢。

公報詮釋資料

page_end 58
meet_id 委員會-11-2-35-14
speakers ["林憶君","羅美玲","洪申翰","徐巧芯","黃仁","沈伯洋","陳永康","陳冠廷","馬文君","王鴻薇","賴士葆","洪孟楷","葛如鈞","楊瓊瓔","黃國昌","王定宇","林楚茵"]
page_start 1
meetingDate ["2024-11-18"]
gazette_id 11310101
agenda_lcidc_ids ["11310101_00002"]
meet_name 立法院第11屆第2會期外交及國防委員會第14次全體委員會議紀錄
content 邀請國家安全局局長、數位發展部、法務部調查局、內政部警政署、國家科學及技術委員會報告 「AI 技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢
agenda_id 11310101_00001