陳素月 @ 第11屆第3會期交通委員會第16次全體委員會議
時間:
0
| Start Time | End Time | Text |
|---|---|---|
| 00:00:02,497 | 00:00:04,125 | 謝謝主席 請主席邀請黃部長請部長 |
| 00:00:11,327 | 00:00:28,637 | 部長早安今天委員會是針對推動AI之產業發展政策邀請部長進行專題報告我們知道人工智慧AI產業的發展真的是日新月異而且速度非常快當然AI的運用 |
| 00:00:32,579 | 00:00:53,897 | 可以讓我們生活在各方面方方面面都可以更加的一個便利那也讓我們的社會真的是造成很大的一個變革當然如果說稍微不慎的話也是會造成很大的一個負面的一個影響那我們就是看到在禮拜一就是在司法法治委員會那個黃國昌委員他就是拿了這個一個徵訊的一個錄音帶來進行這個質詢 |
| 00:01:01,503 | 00:01:16,354 | 那當然最後他一直強調說那個是一個示範帶那可是這樣子的一個質詢事實上也引起了舉國嘩然那像我本席昨天在地方上拜訪的時候真的就是造成基層很大的一個討論了那有年輕的朋友告訴我他們 |
| 00:01:23,458 | 00:01:32,061 | 認為這個錄音帶是真的因為他們跟我說AI沒有辦法把這個人的情緒模仿得那麼真實所以他們認為那個是真的我不曉得部長那天的錄音帶你有聽嗎 |
| 00:01:38,465 | 00:01:52,990 | 報告委員我沒有聽不過看到一些報導你有看到一些報導啦那事實上就是說針對這個英黨喔如果是真的那個真的就是非常嚴重的違法因為法庭的偵訊的英黨是不能外流的嘛 |
| 00:01:53,820 | 00:02:08,978 | 那如果是假的我想這個也是更嚴重吧是不是部長如果用深層式AI製造假訊息或假的那個當然是不容許不過這件事情我想我們還是尊重法務部的 |
| 00:02:09,598 | 00:02:31,331 | 調查再聲明看看因為這真假或是怎麼樣我這邊不清楚所以沒辦法給意見不過我個人是說對深圳市AI的使用要我們要有些規範包括就是說製造所謂de-fake假的影音或假的照片或假的video這個來做一些散佈假訊息這個事實絕對不允許 |
| 00:02:34,413 | 00:02:51,379 | 絕對不允許嘛所以就是說以這樣子的一個質詢真的是一個非常大的不良示範那這樣子的一個陰黨那他也一直在強調說那個是一個示範帶可是這樣子的質詢真的也是造成了社會大眾對於這個司法的一個 |
| 00:02:52,519 | 00:03:17,998 | 信任 這個信任度的一個破壞然後也破壞司法的一個公正性所以我覺得不管是真或假真的都是對我們司法都是一個很大的一個傷害那剛剛部長有說針對這個深層式的AI要有一些規範那我們也知道就是說AI基本法現在也要正式就是正在進行討論當中那當然那天我們也就是在委員會就是聯席的會議 |
| 00:03:18,999 | 00:03:27,171 | 後來也是就是要再擇期再審嘛所以針對這樣子的一個基本法那請教部長就是說你所謂的規範你覺得應該要怎樣來做一個規範 |
| 00:03:31,206 | 00:03:44,670 | 就是我們規範有幾個重點當然就剛剛講就是說這個有一些是跟風險相關的那剛剛講就用深圳SAI確實在很多應用商會製造一些風險包括剛剛講假訊息這個這也是一種風險所以我們先有這樣的規範對於風險有一些 |
| 00:03:49,631 | 00:04:18,656 | 然後風險規範之後分類完以後就由各個事業目的做機關機關根據他們的業務去做一些分級那所以有些東西比如說不能用AI去做假的訊息這一定是在禁止對啊是絕對禁止啦所以這個我想是會從這邊去做一些要求法規去做要求但同時我們有一些機制比如說我們怎麼去判斷這個video是不是AI生成的在技術上有辦法判定嗎 |
| 00:04:19,096 | 00:04:44,236 | 現在有在發展這些技術我們資安院都有在發展這個技術可是我覺得你正在發展速度是不是太慢了應該是要我們已經有一些成果但是這種東西就是準確率的問題我們希望能夠提高準確率但是這個技術的確是我們一個發展的重點所以我們確實有針對相片或是影音的所謂的真假用AI去做判讀這個技術在發展中 |
| 00:04:46,761 | 00:05:08,572 | 是因為我們也看到其實在2023年總統大選期間那個柯文哲也曾經就是遭這個神秘的英黨假冒他就是批評這個賴總統所以當時他也表示了他說世上惡劣的事太多了所以當時看起來他對這一種偽造這個用AI生成假英黨這種 |
| 00:05:10,593 | 00:05:27,345 | 這種行為他也是覺得是一個非常惡劣的事情所以我們也希望針對這樣子的一個生成假的語音的這樣的狀況我們應該要有一個制止的方式或者是防範或者是處罰 |
| 00:05:28,254 | 00:05:30,336 | 我們希望可以全面同時來進行我們再回歸到詐騙的部分 |
| 00:05:44,009 | 00:05:46,811 | 這個深層式的AI真的是推陳出新也讓民眾防不勝防那我們也看到這個微軟它也有在一份報告裡面它有就是在這個網路威脅情報的研究報告裡面它也有提到就是說AI的出現降低了詐騙的技術門檻 |
| 00:06:03,124 | 00:06:07,988 | 因為它可以運用在電商的詐騙網站、求職面試的詐騙或者是技術資源的詐騙等等各方面尤其是AI語音的生成就是我們剛剛討論的那個狀況現在很多詐騙集團也就是用AI語音的生成來進行詐騙 |
| 00:06:25,501 | 00:06:41,715 | 那這樣子的就是說詐騙集團在這種技術上可以說是跟著上這個時代可是民眾在這方面好像還沒有辦法去因應那我們不曉得說在數位部這方面就是說有沒有什麼 |
| 00:06:43,496 | 00:07:02,250 | 目前或者是未來有沒有什麼樣的一個方法可以來遏止這樣子的一個詐騙我們現在對這種這個尤其是廣告方面我們是有一些我們一些這個工具可以每天去網路上去做掃描搜尋去搜尋掃描那每天可以找到五千到一萬個類似這樣的一個詐騙廣告 |
| 00:07:04,352 | 00:07:22,938 | 那當然技術上我剛剛講可以再更精進但我們也是用AI去做這樣判斷另外一個我們有要求這個廣告商如果要用AI生成是AI製造的廣告的那個影片必須註明這是AI生成不能就是說這是我們的這個一些這個這個要求所以就是說讓民眾知道說你看到廣告 |
| 00:07:23,758 | 00:07:47,919 | 不是說不能用生成AI去做廣告而是說你要看到廣告這個影片是來自生成AI必須要註明那所以我們當然從法規面從官方去要求另外從技術面我們可以去判斷這個廣告是不是AI或是這個任何的這樣的訊息是不是由AI生成但是當然就是說這個東西還在還不是100%的準確不過我們是持續在努力讓技術發展能夠更成熟 |
| 00:07:48,712 | 00:08:03,554 | 是那就是剛剛部長提到就是說用AI生成的廣告要註明那這方面我們只是就是要求那沒有入法就是說會入法嗎還是這個有入法大紀議防範那個條例裡面已經入法 |
| 00:08:04,655 | 00:08:23,528 | 要從那方面去入法啦好那就是說因為我們也知道真的這個科技的進步是日新月異那目前詐騙集團也透過利用這個AI更新他們的詐騙手法所以我們也希望就是速發部未來應該要善用也要結合這個AI的各方面的一個研發來進行這個打詐好謝謝主委謝謝 |
公報發言紀錄
發言片段
lineno: 208
| 發言片段: 0 |
|---|
| 陳委員素月：（9時44分）謝謝主席，請主席邀請黃部長。 |
| 發言片段: 1 |
| 主席：請部長。 |
| 發言片段: 2 |
| 陳委員素月：部長早安。今天委員會是針對推動AI之產業發展政策，邀請部長進行專題報告，我們知道人工智慧（AI）產業發展真的是日新月異，而且速度非常地快，當然AI的運用讓我們生活在方方面面都可以更加的便利，也讓我們的社會真的是造成很大的一個變革，當然如果稍微不慎的話，也是會造成很大的負面影響。 |
| 我們看到禮拜一在司法及法制委員會黃國昌委員拿了一個偵訊錄音檔來進行質詢，當然最後他一直強調說，那個是一個示範帶。可是這樣子的一個質詢，事實上也引起了舉國嘩然，像本席昨天在地方上拜訪的時候，發覺真的造成基層很大的討論，有年輕朋友告訴我，他們認為這個錄音檔是真的，他們跟我說，因為AI沒有辦法把人的情緒模仿得那麼真實，所以他們認為那個是真的。我不曉得部長，那天的錄音檔你有聽嗎？ |
| 發言片段: 3 |
| 黃部長彥男：報告委員，我沒有聽，不過有看到一些報導。 |
| 發言片段: 4 |
| 陳委員素月：事實上針對那個音檔，如果是真的，就是非常嚴重的違法，因為法庭偵訊的音檔是不能外流的；如果是假的，我想這個也更嚴重吧，是不是？部長。 |
| 發言片段: 5 |
| 黃部長彥男：如果用生成式AI製造假訊息或假的音檔，當然是不容許…… |
| 發言片段: 6 |
| 陳委員素月：不容許。 |
| 發言片段: 7 |
| 黃部長彥男：對，不過這件事情我想我們還是尊重法務部的調查，因為這個真假或是怎麼樣，我這邊不清楚，所以沒辦法給意見，不過我個人覺得對生成式AI的使用我們要有些規範，包括運用所謂Deepfake製造假的影音、假的相片或假的video來散布假訊息，這是絕對不允許的。 |
| 發言片段: 8 |
| 陳委員素月：所以以這樣子的質詢，真的是一個非常大的不良示範，這樣子的音檔，他也一直在強調說是一個示範帶，可是這樣子的質詢，真的也是造成社會大眾對於司法信任度的破壞，然後也破壞司法的公正性，所以我覺得不管是真或假，真的對我們司法都是一個很大的傷害。剛剛部長有說，針對生成式AI要有一些規範，我們也知道AI基本法現在正在進行討論當中，當然那天我們在聯席會議後來也是決議要擇期再審，所以針對AI基本法，請教部長，所謂的規範，你覺得應該要怎樣來做一個規範？ |
| 發言片段: 9 |
| 黃部長彥男：我們規範有幾個重點，當然就剛剛講有一些是跟風險相關，生成式AI確實在很多應用上會製造一些風險，包括剛剛講的假訊息，這也是一種風險，所以我們對於風險先有一些分類，分類完以後就由各目的事業主管機關根據他們的業務去做一些分級，其中有些東西，比如不能用生成式AI去做假的訊息，這一定是禁止。 |
| 發言片段: 10 |
| 陳委員素月：對啊！是絕對禁止。 |
| 發言片段: 11 |
| 黃部長彥男：所以我想這個會從法規去做一些要求，同時我們有一些機制，比如我們怎麼去判斷這個video是不是AI生成的…… |
| 發言片段: 12 |
| 陳委員素月：這技術上有辦法判定嗎？ |
| 發言片段: 13 |
| 黃部長彥男：現在有在發展這些技術…… |
| 發言片段: 14 |
| 陳委員素月：正在發展？ |
| 發言片段: 15 |
| 黃部長彥男：對！資安院都有在發展這個技術。 |
| 發言片段: 16 |
| 陳委員素月：可是我覺得你正在發展的速度是不是太慢了？應該是要趕快…… |
| 發言片段: 17 |
| 黃部長彥男：我們已經有些成果，但是這種東西就是準確率的問題，我們希望能夠提高準確率，但是這個技術的確是我們發展的重點，所以我們確實有針對相片或影音的真假，用AI去做判讀，這個技術在發展中。 |
| 發言片段: 18 |
| 陳委員素月：因為我們也看到，其實在2023年總統大選期間，柯文哲也曾經遭神秘的音檔假冒他批評賴總統嘛，當時他也表示，世上惡劣的事太多了。所以看起來當時他對這種用AI生成偽造假音檔的行為也覺得是一個非常惡劣的事情，所以我們也希望針對這樣生成假語音的狀況應該要有一個制止的方式，或者是防範，或者是處罰。 |
| 發言片段: 19 |
| 黃部長彥男：對，報告委員，一個當然是剛剛講從法規面去處理，另外一個是從技術面去處理，所以我們是同時在進行的。 |
| 發言片段: 20 |
| 陳委員素月：好，我們希望可以全面同時來進行。我們再回歸到詐騙的部分，因為生成式AI真的是推陳出新，也讓民眾防不勝防，我們也看到微軟在一份網路威脅情報研究報告裡面提到，AI的出現，降低了詐騙的技術門檻。因為它可以運用在電商的詐騙網站、求職面試的詐騙，或者是技術支援的詐騙等等各方面，尤其是AI語音的生成，就是我們剛剛討論的那個狀況，現在很多詐騙集團也就是用AI語音的生成來進行詐騙，詐騙集團在這種技術上可以說是跟得上時代，可是民眾在這方面好像還沒有辦法去因應，我們不曉得數位部在這方面，目前或未來有沒有什麼樣的方法，可以來遏止這樣子的一個詐騙？ |
| 發言片段: 21 |
| 黃部長彥男：我們現在對這種，尤其是廣告方面，有一些工具可以每天在網路上去搜尋掃描，每天可以找到5,000到1萬個類似這樣的詐騙廣告，但技術上，我剛剛講可以再更精進，當然我們也是用AI去做判斷。另外一個，我們有要求廣告商如果要用生成式AI製造廣告的影片，必須註明這是AI生成，這是我們的一些要求，就是讓民眾知道所看到的廣告是來自生成式AI，不是說不能用生成式AI去做廣告，而是說你所看到的廣告影片是來自生成式AI必須要註明，所以我們當然從法規面、從各方面去要求，另外從技術面，我們可以去判斷這個廣告是不是AI生成，或任何的訊息是不是由AI生成，當然這個東西還不是100%的準確，不過我們還是持續在努力，讓技術發展能夠更成熟。 |
| 發言片段: 22 |
| 陳委員素月：是，剛剛部長提到用AI生成的廣告要註明，這方面我們只是要求，會入法嗎？還是…… |
| 發言片段: 23 |
| 黃部長彥男：這個有入法。 |
| 發言片段: 24 |
| 林署長俊秀：詐欺犯罪危害防制條例裡面已經入法。 |
| 發言片段: 25 |
| 陳委員素月：從那個方面去入法，好，因為我們也知道這個科技進步真的是日新月異，目前詐騙集團也利用AI更新他們的詐騙手法，所以我們也希望數發部未來應該要善用，也要結合AI的各方面研發來進行打詐。 |
| 發言片段: 26 |
| 黃部長彥男：好，謝謝委員。 |
| 發言片段: 27 |
| 陳委員素月：謝謝。 |
| 發言片段: 28 |
| 主席：現在請林俊憲委員。 |
公報詮釋資料
| page_end | 442 |
|---|---|
| meet_id | 委員會-11-3-23-16 |
| speakers | ["許智傑","洪孟楷","李昆澤","林國成","陳素月","林俊憲","徐富癸","邱若華","蔡其昌","葛如鈞","劉書彬","黃健豪","張雅琳","翁曉玲","鍾佳濱","葉元之","魯明哲","廖先翔","游顥","王鴻薇","何欣純","楊瓊瓔"] |
| page_start | 379 |
| meetingDate | ["2025-06-18"] |
| gazette_id | 1146001 |
| agenda_lcidc_ids | ["1146001_00012"] |
| meet_name | 立法院第11屆第3會期交通委員會第16次全體委員會議紀錄 |
| content | 邀請數位發展部部長黃彥男就「推動 AI 之產業發展政策」進行專題報告，並備質詢 |
| agenda_id | 1146001_00016 |