吳秉叡 @ 第11屆第1會期財政委員會第5次全體委員會議

時間: 0
Start Time End Time Text
00:00:07,102 00:00:16,248 主席麻煩請法務部黃次長跟蘇發部李次長請法務部黃次長、蘇發部李懷仁、李政府次長
00:00:25,191 00:00:49,746 兩位好從今年以來人工智慧AI就是非常的紅的一個問題那其實這個不是只有現在才出現之前就出現deepfake深度的這個造假這樣子的狀況出現因為甚至在網路上面的影片喔如果沒有跟你講說這個是造假你根本就看不出來這個是假的完全就是
00:00:51,286 00:01:01,669 所以現在想要請問說先請問法務部的次長這個AI生成的作品他有沒有著作權的?這個法是個法律問題所以部分我目前還沒有一個確定答案可能要因為它是個新的法律問題可能要等到實務見解形成一定的固定見解之後才能回答到委員的問題
00:01:17,269 00:01:27,137 另外一個就是說我剛剛講的AI現在產生的這些影片就跟真的拍的影片幾乎是一模一樣這些將來能不能當作在訴訟上的法律證據
00:01:30,722 00:01:55,481 各位報告他現在我們相關的只要是證據他有證據能力在送法案都是可以當證據能力都是有證據能力的我的意思是說法院因為我以前也是從法院來的法院在看這些影片說以前是影片為證像現在的大部分的警察機關在辦案子的時候很多都是從這個監視器
00:01:58,828 00:02:27,424 來破案監視器也是影片那這個AI將來的這個生成的這個影片幾乎就跟拍的一樣的時候那請問主委去分辨各位報告如果說他是透過AI偽造變造當然在法律上他就沒有證據能力啦那如果他不是偽造變造的我的意思是說如果檢視他是不是偽造變造如果是偽造變造我們明明知道他是偽造變造那當然沒問題啊問題是他拿出來的影片是
00:02:28,024 00:02:33,789 所以現在我們法務部所屬的調查局他就有相關的見識上的能力跟購買相關的見識上的器材在技術上我們調查局已經對外宣稱很多次了他是有能力去見識出是不是AI偽造的相關的影片
00:02:51,820 00:03:11,019 那因為現在有能力但是AI的技術一直在提升欸大數據一直非常速度非常快的在進化可能三個月前跟三個月後拍的影片已經完全不一樣了我完全贊同委員所說的所以你現在有能力不代表將來有能力喔那法務部那個調查局今天有人來嗎有請調查局何處長是不是
00:03:17,513 00:03:45,334 那你要來幫忙講一下你現在現在有能力有代表將來有繼續有這方面的能力嗎?跟委員報告那個我們是確實有採購AI的那個偵測軟體齁但是目前他是受限還是有受限限制他偵測成功率大概只有八成而已是啊那所以我就舉一個例子將來在法院的鑑識我如果主張說這個影片是偽造的你如果鑑別他是不是偽造
00:03:46,155 00:04:12,544 技術會越來越進步AI的技術也會越來越進步因為這人工智慧它就會一直累積嘛累積到後面比人還開我記得我年輕的時候那個那時候在說在下棋啊一開始電腦是下不贏人的到後來最厲害全世界第一名都下不贏電腦那這個只是人工智慧一開始的出我今天早上看到一個影片出目驚心欸他就拍一個街景跟街景一模一樣
00:04:16,983 00:04:43,428 最後跟你講答案這個是AI照做的跟街景無關但是他做出來就是就是某一個路口連紅綠燈光影變化下雨的時候那個燈光反射全部都一模一樣跟實景一模一樣我現在要跟你請教這個就是要請教你跟理事長這個AI的生產越來越厲害那將來在防詐方面你們有沒有什麼想法
00:04:45,903 00:05:07,579 跟委員報告剛委員提到那個鑑識的問題現在說AI技術更加發達罪犯的也要發達未來在法庭上法院他也委託更專業的相關AI技術人去做鑑識了這第一點第二點就是說有關於這個本部就這個AI方面的努力法制面上我們去年在刑法或者是我們相關的這個這個那個
00:05:12,683 00:05:31,280 法令它都有做AI的特別法的規定所以就那技術上我們像我們今天也跟大院報告我們在無論是我們高檢署也好無論是我們調查局也好已經就相關AI的這個徵收工具或相關的分析工具有做一些採購上的一個升級
00:05:31,880 00:05:51,142 希望透過人員的訓練、技術上面的提升以及設備上的提升來對付AI感染疫情。市長,我只是先提醒你們要注意這個事情。我舉個例子,現在大家的手機都那麼方便嘛。那手機將來的AI已經可以弄到跟本人一模一樣的人在跟你講話。如果一個老人家接到他的孫子
00:05:52,764 00:06:09,774 打電話來然後就是用視訊的喔然後到本人生意人一模一樣照相面一模一樣來跟他哭訴說他現在遇到什麼樣的困難立刻需要匯款換過來講說你說你有這麼高的技術問題是一般的人沒有啊他如何去判斷他如何去分辨
00:06:10,939 00:06:31,782 今天的報告裡面也有單位講說我們每一個人要加強這個人工智慧對於資訊這個判斷的能力我覺得這次方案是對的但問題是現在技術的進步實在是速度太快那每一個人的能力跟一個國家跟一個組織他的能力當然是不一樣的次長李次長你有什麼樣的看法
00:06:33,463 00:06:57,996 從技術面來看目前各國包含美國或歐盟的這個人工基本法或人工法規開始都對AI生成的部分要要求要準備往強制加上生成標籤的方向來製作也就是說未來如果各國的法規如果通過包括台灣可能人工基本法這邊也會有這樣的考慮就是說如果未來人工生成的人工智慧生成的內容必須要加上標籤注意辨識包括來源包括製作的方向
00:06:58,676 00:07:17,527 另外在打詐專法的部分數位部參與的部分我們也在討論是不是把我們也在推動這個方向就是把這個人工生成智慧的內容用在網路網告上面必須要強制揭露這件事情那如果我有注意到的話YouTube最近已經有開始這個新的政策就是YouTube上面的影片如果使用人工智慧生成必須強制揭露
00:07:18,584 00:07:43,354 那他如果沒有強制揭露或是強制揭露到時候會不會又有人講說你這個是不是又違反了什麼言論自由什麼的這方面的講法台灣很容易就發生這樣的講法對 揭露只是說你必須告訴大家你這個是用什麼製作讓大家判斷說這個的來源是什麼是不是真人或者是他成功製作讓大家足以加強判斷這件事情並沒有去強制要求說你的內容不可以怎麼樣
00:07:43,974 00:07:44,495 請金管會的黃主委
00:08:14,399 00:08:29,669 委員長朱委我要跟您再次提醒到我們辦公室的統計到3月22日禮拜五上個禮拜五下班的時候00940所謂的自救會在Meta上面的自救會他的自救會成員達到22萬2000人
00:08:32,190 00:08:56,243 二十二萬兩千人但是00940那事實上根本就還沒有建倉完成嘛他根本就還沒有開始交易就有二十二萬兩千人的自救會成員那你有沒有想要去了解說這裡面到底在幹嘛一個還沒有上市的市場然後就還沒有上市的產品自救會就已經二十二萬多人了是不是準備要鬧事啊你會不會覺得他有這樣的可能性啊
00:08:57,826 00:09:12,625 謝謝委員提醒這個資訊,您長期對這個事情的關心。我想我們對這個,不論ETF的發行或是投資者的權益都非常重視。那您關心的,這就會我們要了解一下它的訴求是什麼。
00:09:13,855 00:09:36,217 對啊我是覺得你光是只有了解夠嗎?因為現在資訊的時代他要號召人很容易然後他利用資訊的落差比如參加這個社團的人他到時候講了什麼你來不及因為人數這麼多你記不記得過去曾經有一個負油價事件原來是有這樣的人對啊導致了非常多的人在金管會的門口
00:09:38,120 00:10:02,743 那個自救會的成員在那邊抗議很久,你要記得這個前車之鑒。當然那個不是你們的錯,但是問題是,他就是要怪到你身上來。常常就是這樣子,這個東西他事實上是一個投資產品,那應該要去了解他的投資的完整的資訊,有賺有賠。那很不可思議的是,他時間上面這個東西都還沒上市。
00:10:04,079 00:10:16,208 現在事實上是要上市之前要先建倉建倉完成之後才發行那時候才會有投資才會有賺有賠現在連這個都還沒有完成自救會就已經開始在搞了而且人數這麼多22萬2000人
00:10:19,229 00:10:36,741 所以我很憂慮這個後面不知道會發生什麼樣子的因素我覺得你們應該有必要要詳細去瞭解瞭解我們會密切注意這個事情的發展然後也各部會之間應該橫向聯絡如果有需要協助的醫療不要請各部會之間互相幫忙瞭解好謝謝加油謝謝好謝謝
公報發言紀錄

發言片段

lineno: 321

發言片段: 0
吳委員秉叡：（9時42分）主席，麻煩請法務部黃次長跟數發部李次長。
發言片段: 1
主席：請法務部黃次長及數發部李懷仁政務次長。
發言片段: 2
黃次長謀信：委員好。
發言片段: 3
吳委員秉叡：兩位好。從今年以來人工智慧AI就是非常紅的一個問題，其實這個不是只有現在才出現，之前就出現Deepfake深度造假這樣的狀況出現，甚至在網路上面的影片，如果沒有跟你講這個是造假，你根本就看不出來這個是假的，完全就是跟街景等等什麼東西都一模一樣，所以現在想要先請問法務部次長，AI生成的作品有沒有著作權？
發言片段: 4
黃次長謀信：這是個法律問題，所以這部分我目前還沒有一個確定答案，因為它是個新的法律問題，可能要等到實務見解形成一定的固定見解之後，才能回答委員的問題。
發言片段: 5
吳委員秉叡：好，另外一個就是我剛剛講的，AI現在產生的影片跟真的拍的影片幾乎是一模一樣，這些將來能不能當作在訴訟上的法律證據？
發言片段: 6
黃次長謀信：跟委員報告，現在相關的，只要是證據，它有證據能力，在訴訟法上都是可以當證據能力、都是有證據能力的。
發言片段: 7
吳委員秉叡：我的意思是，因為我以前也是從法院來的，法院在看這些影片的時候，以前是影片為證，像現在大部分的警察機關在辦案子的時候，很多都是從監視器來破案，監視器也是影片，那麼AI將來生成的影片幾乎就跟拍的影片一樣的時候，請問如何去分辨呢？
發言片段: 8
黃次長謀信：跟委員報告，如果它是透過AI偽造、變造，當然在法律上就沒有證據能力了，如果它不是偽造、變造的……
發言片段: 9
吳委員秉叡：我的意思是說如何檢視它是不是偽造、變造？如果是偽造、變造，我們明知它是偽造、變造，那當然沒問題啊！問題是他拿出來的影片跟拍的一模一樣，跟實際的錄影一模一樣時，你如何去辨識它是偽造跟變造呢？
發言片段: 10
黃次長謀信：跟委員報告，所以現在我們法務部所屬的調查局就有相關鑑識上的能力及購買相關鑑識上的器材，在技術上，我們調查局已經對外宣稱很多次了，它是有能力去鑑識出是不是AI偽造的相關影片。
發言片段: 11
吳委員秉叡：因為現在有能力，但是AI的技術一直在提升，大數據的速度一直非常快地在進化，可能三個月前跟三個月後拍的影片已經完全不一樣了。
發言片段: 12
黃次長謀信：我完全贊同委員所說。
發言片段: 13
吳委員秉叡：所以你現在有能力，不代表將來有能力，法務部調查局今天有人來嗎？
發言片段: 14
主席：請調查局。
發言片段: 15
吳委員秉叡：何處長，你要不要來幫忙講一下？你現在有能力，代表將來繼續有這方面的能力嗎？
發言片段: 16
何處長復生：跟委員報告，我們確實有採購AI的偵測軟體，但是目前它還是有受限制，偵測成功率大概只有八成而已。
發言片段: 17
吳委員秉叡：是啊，所以我就舉一個例子，將來法院的鑑識，我如果主張這個影片是偽造的，你如何鑑別它是不是偽造？技術會越來越進步，AI的技術也會越來越進步，因為人工智慧會一直累積，累積到後面比人還……我記得我年輕的時候，那時候談到下棋，一開始電腦是下不贏人的，到後來最厲害、全世界第一名的都下不贏電腦，這個只是人工智慧初步的開始，我今天早上看到一個影片怵目驚心，他就拍一個街景，跟街景一模一樣，最後跟你講答案，說這個是AI做的，跟街景無關，但是它做出來就是某一個路口，連紅綠燈、光影變化、下雨的時候，那個燈光反射全部都一模一樣，跟實景一模一樣。
我現在針對這部分就是要請教你跟李次長，這個AI生成越來越厲害，將來在防詐方面，你們有沒有什麼想法？
發言片段: 18
黃次長謀信：跟委員報告，剛才委員提到鑑識的問題，現在AI犯罪技術更加發達，未來在法庭上，法院也委託更具專業的相關AI技術人員去做鑑識，這是第一點。第二點，有關於本部就AI方面的努力，法制面上，我們去年在刑法或者是相關的法令，它都有做AI特別法的規定……
發言片段: 19
吳委員秉叡：沒關係，何處長先請回座。
發言片段: 20
黃次長謀信：所以就技術上，像我們今天也跟大院報告，無論是高檢署也好，無論是調查局也好，已經就相關AI的偵蒐工具或相關的分析工具有做一些採購上的升級，希望透過人員的訓練、技術上面的提升以及設備上的提升來對付AI犯罪。
發言片段: 21
吳委員秉叡：次長，我只是先提醒你們要注意這個事情，我舉個例子，現在大家的手機都這麼方便，將來手機AI已經可以弄到跟本人一模一樣的人在跟你講話，如果一個老人家接到他的孫子打電話來，然後就是用視訊，本人的聲音也一模一樣，相片也一模一樣，來跟老人哭訴說他現在遇到什麼樣的困難，立刻需要匯款，換過來講，你說你有這麼高的技術，問題是一般的人沒有，他如何去判斷、如何去分辨？今天的報告裡面也有單位講說我們每一個人要加強人工智慧，對於資訊的判斷能力，我覺得方向是對，但問題是現在技術的進步實在速度太快，每一個人的能力跟一個國家、一個組織的能力當然是不一樣的。李次長，你有什麼樣的看法？
發言片段: 22
李次長懷仁：是，謝謝委員。從技術面來看，目前各國包含美國、歐盟的人工基本法或人工法規開始，都對AI生成的部分要求要準備往強制加上生成標籤的方向來製作，也就是說，未來各國的法規如果通過，包括臺灣可能在人工基本法也會有這樣的考慮，就是未來人工智慧生成的內容必須要加上標籤作為辨識，包括來源、包括製作的方向。另外，在打詐專法的部分，數位部參與的部分，我們也在討論並推動這個方向，就是把人工智慧生成的內容用在網路廣告上面必須要強制揭露這件事情。如果委員有注意到的話，YouTube最近已經有開始新的政策，YouTube上面的影片如果使用人工智慧生成，必須強制揭露。
發言片段: 23
吳委員秉叡：它如果沒有強制揭露，或是強制揭露後到時候會不會又有人講說這個是不是又違反了什麼言論自由或其他方面的講法？臺灣很容易就發生這樣的講法。
發言片段: 24
李次長懷仁：對，揭露只是說你必須告訴大家這個是用什麼製作，讓大家判斷這個的來源是什麼、是不是真人或者是人工智慧，讓大家注意加強判斷這件事情，並沒有去強制要求你的內容不可以怎麼樣。
發言片段: 25
吳委員秉叡：另外就是加強的時候，如果他不遵守，有什麼辦法呢？
發言片段: 26
李次長懷仁：打詐專法的部分罰則，我們還在跟各部會討論，但是以YouTube等社群平臺來說，只要你不揭露，他們就強制下架。
發言片段: 27
吳委員秉叡：好，請加油，因為現在AI的技術，我認為速度會非常快，一日千里。兩位請回座。
請我們金管會黃主委。
發言片段: 28
主席：請金管會黃主委。
發言片段: 29
黃主任委員天牧：委員早。
發言片段: 30
吳委員秉叡：主委，我要跟您再次提醒，據我們辦公室的統計，到3月22號禮拜五，即上個禮拜五下班的時候，00940所謂的自救會，即在Meta上面的自救會成員達到22萬2,000人，22萬2,000人！但是00940事實上根本都還沒有建倉完成，它根本就還沒有開始交易，就有22萬2,000人的自救會成員，你有沒有想要去瞭解這裡面到底在幹嘛？一個還沒有上市的產品，自救會就已經二十二萬多人了，是不是準備要鬧事？你會不會覺得有這樣的可能性？
發言片段: 31
黃主任委員天牧：謝謝委員提醒這個資訊，您長期對這個事情的關心，我想我們不論對ETF的發行或是投資人的權益都非常重視，那您關心的自救會，我們要瞭解一下它的訴求是什麼。
發言片段: 32
吳委員秉叡：對啊！我是覺得你光是只有瞭解夠嗎？因為現在資訊的時代，它要號召人很容易，然後它利用資訊的落差，譬如參加這個社團的人，到時候講了什麼，你來不及，因為人數這麼多，你記不記得過去曾經有一個負油價事件？
發言片段: 33
黃主任委員天牧：元大石油正2。
發言片段: 34
吳委員秉叡：對，導致非常多的人在金管會的門口，自救會的成員在那邊抗議很久，你要記得這個前車之鑑。
發言片段: 35
黃主任委員天牧：是，瞭解。
發言片段: 36
吳委員秉叡：當然，那個不是你們的錯，但是問題是，他就是要怪到你身上來，常常就是這樣子，這個東西事實上是一個投資產品，應該要去瞭解它的投資完整資訊，有賺有賠，很不可思議的是，在時間上面，這個東西都還沒上市，現在事實上是它在上市前，要先建倉，建倉完成之後才發行，那時候投資才會有賺有賠，現在連這個都還沒有完成，自救會就已經開始在搞了，而且人數這麼多，22萬2,000人！所以我很憂慮這個後面不知道會發生什麼樣的因素，我覺得你們應該有必要詳細去瞭解。
發言片段: 37
黃主任委員天牧：瞭解，我們會密切注意這個事情的發展。
發言片段: 38
吳委員秉叡：各部會之間應該橫向聯絡，如果有需要協助的，應該要請各部會之間互相幫忙。
發言片段: 39
黃主任委員天牧：瞭解，謝謝委員關心，謝謝。
發言片段: 40
吳委員秉叡：好，謝謝，加油，謝謝。
發言片段: 41
主席：謝謝。下一位質詢請賴士葆賴委員。

公報詮釋資料

page_end 298
meet_id 委員會-11-1-20-5
speakers ["羅明才","林德福","吳秉叡","賴士葆","郭國文","賴惠員","王鴻薇","黃珊珊","李坤城","王世堅","顏寬恒","伍麗華Saidhai‧Tahovecahe","李彥秀","謝衣鳯","黃國昌","鍾佳濱","鄭天財Sra Kacaw","洪孟楷","羅智強","徐巧芯","楊瓊瓔","林楚茵","林思銘","王美惠","陳冠廷","黃健豪","葉元之","陳玉珍"]
page_start 211
meetingDate ["2024-03-25"]
gazette_id 1132001
agenda_lcidc_ids ["1132001_00009"]
meet_name 立法院第11屆第1會期財政委員會第5次全體委員會議紀錄
content 邀請行政院主計總處朱主計長澤民、金融監督管理委員會黃主任委員天牧、國家通訊傳播委員 會、法務部、內政部、數位發展部就「新世代打擊詐欺策略行動綱領1.5版」預算執行情形及成 效進行專題報告，並備質詢
agenda_id 1132001_00018