范雲 @ 第11屆第1會期教育及文化委員會第15次全體委員會議

時間: 0
Start Time End Time Text
00:00:04,264 00:00:04,948 有請主委吳主委
00:00:11,940 00:00:23,989 委員好主委應該是快午安了我想今天早上大家的主題都非常的就是集中了那就是從黃仁勳然後AI產業的革新那想知道就是國科會在這裡扮演的角色以及準備的程度那因為剛剛有委員好像質疑說我們國科會這個泰德計畫是不是有什麼弊端或者是是不是什麼徒子徒孫
00:00:41,002 00:00:58,387 我是想釐清一下因為我理解我們之前的前主委講到泰德計畫的時候他的發動是科技匯報這個部分就是說相關的國科會是扮演一定的角色是因為我們前主委的身份重疊所以他是一個國家隊的概念這樣沒錯吧
00:01:01,344 00:01:29,344 我...好國家隊我不知道他的定義是什麼您還沒有了解這個部分喔那那個主委您功課要再加強喔因為我想要澄清一下至少我知道我們那個前主委講的部分的時候是一個國家隊的概念所以它基本上跟國科會一般的計畫申請的方式是不大一樣的因為一般申請方式我也申請過國科會超過10次的研究案初審、複審各方面
00:01:32,465 00:01:47,929 主計劃、子計劃都有相關的規定所以任何學術領域政治領域可能都有學霸、政霸但是國科會的整個審查公開透明沒有得到計劃的人還可以申訴等等這應該都是非常嚴謹的吧是
00:01:48,669 00:01:50,150 我那時候回答就是說有這種私生關係給計畫這個是不好的
00:02:07,108 00:02:10,109 主計劃本來就可以自己找子計劃的人那他被審查的話本來就是都要經過初審、複審這樣沒錯吧?
00:02:24,736 00:02:50,933 是 那個一定程序一定都有所以如果主計劃他要找跟他一個很熟的就是教授剛好是他學生這不在你們規範的範圍嘛重點就是說審查的過程是公開透明出審復審是這樣沒錯吧這個應該都有可是我剛剛坐在那邊聽就是會冒出冷汗想說好像怪怪的哪裡好啦 那剛剛重點是在講泰德那泰德是國家隊沒錯吧
00:02:54,000 00:02:57,568 所以他又跟我們一般國科會的計畫申請的方式不一樣嗎?這樣沒錯吧?
00:03:00,341 00:03:28,682 應該是不一樣是吧請主委多了解一下這整個泰德的這個國家隊的這個過程那你們的網頁其實都有說得非常清楚之前我們前主委也都有跟大家解釋過那我今天想問的是其實剛剛很多人問過這個 AI 基本法那因為你已經公開提出說是10月底前嘛可是那個部分應該是你們國科會提出還沒有到行政院通過吧還沒有就是要提到行政院
00:03:30,444 00:03:48,205 我想今天因為前面的委員都問過了我也是想提醒的事情是其實歐盟的這個AI Act花了4年的時間那我們台灣從發想到就是您要提出的這個時間準備了多久可以跟我們大家講一下嗎應該要一年
00:03:50,267 00:04:05,399 所以一年之內我們能不能夠趕上歐盟而且剛剛很多委員講過其實AI的發展也是日新月異我一方面期待也希望盡快可是一方面其實也會擔心就是說到底準備好了沒有那先回來講那您認為這個如果台灣要有一個AI最核心要處理的是什麼
00:04:15,547 00:04:27,637 有一個法就是要規範您認為最核心要規範的是甚麼東西最核心要規範的就是能夠盡量去防止假訊息詐騙防止假訊息詐騙是,然後能夠同時促進現在台灣AI產業的發展
00:04:33,963 00:04:36,264 我自己的看法就是歐盟的AI的重點是在風險分級管理
00:04:55,728 00:05:07,117 您們現在是用指引的方式處理我覺得是非常好可是這裡面滿最重要的就是要區分風險低的AI相關的部分跟風險高的不知道主委您覺得風險高的AI相關的應用是在哪個領域?
00:05:17,462 00:05:45,940 風險最高的?風險最高的就是我剛剛提到能夠會侵犯人權會侵犯人權也是啊會造成傷害在根據歐盟的這個風險就是最高的其實就是嚴重威脅人民的生命生活等基本權利不能接受的風險那包含就是可能抓取個人臉部影像像我們知道對岸就有做這種嘛那這種就是被需要被禁止使用的等等
00:05:46,420 00:06:12,285 那風險最低的AI應用是什麼?就是大家不喜歡的一大堆的垃圾郵件、廣告等等然後在藝術表現上面做假這些這個風險也許不高就是沒有侵犯到造成人的傷害但是它也是不應該的事情
00:06:12,725 00:06:28,479 了解,那在這個歐盟的這個部分實現到了風險低的就像聊天機器人比如說跟消費者互動的這其實就是資訊提供但是這個裡面也要公開透明要讓互動的人知道這是跟一個機器人在互動
00:06:29,159 00:06:47,908 然後如果是deepfake的話那就必須要揭露這是deepfake比如這兩天我們有看到習近平告訴大家要記得六四這個就是說deepfake的這種情況合成的而且講話的聲音就像他在講那這種就要揭露他是deepfake我想這個就是屬於低風險的所以我想風險分級管理是重要的啦
00:06:51,030 00:07:13,182 那歐盟的AI有個重點就是剛剛講到的禁止使用的部分是最嚴重那還有一個就是創建沙盒鼓勵創新產業需要創新可是要有一個人工智慧監管沙盒可以在可控的環境中減輕任何的風險識別風險那這也是歐盟的AI就是基本法裡面的一個重點
00:07:14,322 00:07:36,247 我想這部分大家的期待都有那另外一個剛剛林一金委員跟林楚瑩委員都有問到的我也非常關心的就是他跟我們民主任性跟新聞的關係因為新聞如果在AI這裡面被侵權的話當他沒有辦法維持產業的健康的話我們就只剩下假訊息了
00:07:36,707 00:08:04,210 因為新聞至少還有專業的篩選過有編輯內部的流程所以這都是需要資源的投入那如果新聞的產業受到傷害然後沒有辦法保護自己的不管是叫做著作權或等等的話那其實會對台灣的民主任性有很大的傷害那我剛剛我們講到的泰德那我不知道您曉不曉得紐約的美國八家報紙向OpenAI跟微軟提告
00:08:05,111 00:08:14,249 說他們竊取數百萬篇的新聞文章這些是應該要受到版權保護的用來訓練AI 這個主委您知道嗎?
00:08:16,469 00:08:36,630 這個特定的事件我不知道那您可以多了解一下顯然主委在AI這題上還可以很多事那我想我們的泰德因為您剛剛不大知道如果您不會回答可以請您的部署回答我們的泰德訓練過程中網站都有寫有用中央社ETtoday、光華雜誌、金週刊有沒有付費授權呢?
00:08:37,751 00:08:37,770 范雲議員
00:09:07,551 00:09:07,671 翁曉琳委員
公報發言紀錄

發言片段

lineno: 839

發言片段: 0
范委員雲：（11時55分）好，謝謝召委。有請主委。
發言片段: 1
主席：有請吳主委。
發言片段: 2
吳主任委員誠文：委員好。
發言片段: 3
范委員雲：主委，應該是快午安了，今天早上大家的主題都非常集中，就是從黃仁勳到AI產業的革新，想知道國科會在這裡扮演的角色以及準備的程度，因為剛剛有委員好像質疑說我們國科會這個TAIDE計畫是不是有什麼弊端，或是不是有什麼徒子徒孫，我是想釐清一下，因為我理解之前的前主委講到TAIDE計畫的時候說，它的發動是科技會報這個部分，就是說，國科會扮演一定的角色是因為前主委的身分重疊，所以它是一個國家隊的概念，這樣沒錯吧？
發言片段: 4
吳主任委員誠文：我不知道國家隊的定義是什麼。
發言片段: 5
范委員雲：你還沒有瞭解這個部分？那主委您功課要再加強。因為我想要澄清一下，至少我知道前主委講那個部分的時候，是一個國家隊的概念，所以它基本上跟國科會一般的計畫申請的方式是不太一樣的，我也申請過國科會的研究案超過十次，申請研究案在初審、複審各方面其實是非常嚴謹的，就是主計畫、子計畫這部分都有相關的規定，所以任何學術領域、政治領域可能都有學霸、政霸，但是國科會整個審查公開透明，沒有得到計畫的人還可以申訴等等，應該都是非常嚴謹的吧？
發言片段: 6
吳主任委員誠文：是。
發言片段: 7
范委員雲：對。所以主委，下次準備的時候要瞭解一下您的業務，不然我們在旁邊聽，覺得好像是前主委有不少弊端，這樣子給大家造成的印象不大好，這樣可以嗎？
發言片段: 8
吳主任委員誠文：我那時候回答，我是說，有這種師生關係給計畫，這個是不好的。
發言片段: 9
范委員雲：不是。到底有沒有因為這種師生關係給計畫？如果是一般國科會的計畫就是……
發言片段: 10
吳主任委員誠文：因為我不清楚那個計畫……
發言片段: 11
范委員雲：如果是一般的主計畫、子計畫，我理解主計畫本來就可以自己找子計畫的人，他被審查的話，本來就是都要經過初審、複審，這樣沒錯吧？
發言片段: 12
吳主任委員誠文：是，那個程序一定都有。
發言片段: 13
范委員雲：對啊，所以如果主計畫申請人要找一個跟他很熟的教授，剛好是他學生，這不在你們規範的範圍嘛。重點就是說，審查的過程是公開透明的初審、複審，這樣沒錯吧？
發言片段: 14
吳主任委員誠文：這個應該都有。
發言片段: 15
范委員雲：可是我剛剛坐在那邊聽就是會冒出冷汗，想說好像哪裡怪怪的。
好啦，剛剛重點是在講TAIDE，那TAIDE是國家隊，沒錯吧？
發言片段: 16
吳主任委員誠文：是，是，是。
發言片段: 17
范委員雲：對，所以又跟一般國科會的計畫申請方式不一樣嘛，這樣沒錯吧？
發言片段: 18
吳主任委員誠文：應該是不一樣。
發言片段: 19
范委員雲：好，請主委多瞭解一下整個TAIDE國家隊的過程，你們的網頁其實都說得非常清楚，之前前主委也都有跟大家解釋過。
發言片段: 20
吳主任委員誠文：謝謝委員。
發言片段: 21
范委員雲：我今天想問的是，其實剛剛很多人問過AI基本法，你已經公開提出說是10月底前嘛，可是那個部分應該是你們國科會提出，還沒有到行政院通過吧？
發言片段: 22
吳主任委員誠文：還沒有，就是要提到行政院。
發言片段: 23
范委員雲：好，那我瞭解。今天前面的委員都問過了，我想提醒的事情是，其實歐盟的AI Act花了四年的時間，那我們臺灣從發想到您要提出的時間準備了多久？可以跟我們大家講一下嗎？
發言片段: 24
吳主任委員誠文：一年。
發言片段: 25
范委員雲：一年嘛，所以一年之內我們能不能夠趕上歐盟？而且剛剛很多委員講過，其實AI的發展也是日新月異，我一方面期待、也希望儘快，可是一方面其實也會擔心到底準備好了沒有？那您認為如果臺灣要有一個AI Act，最核心要處理的是什麼？因為有一個法就是要規範，您認為最核心要規範的是什麼東西？
發言片段: 26
吳主任委員誠文：最核心要規範的就是儘量去防止假訊息詐騙這些。
發言片段: 27
范委員雲：防止假訊息詐騙？
發言片段: 28
吳主任委員誠文：是，然後能夠同時促進現在臺灣AI產業的發展。
發言片段: 29
范委員雲：促進產業的發展？當然我想大家都希望促進產業的發展，就像我們要建高速公路，可是我們也要處理可能會造成的車禍或各方面的傷害。
所以我自己的看法是歐盟AI的重點是在風險分級管理，你們現在是用指引的方式處理，我覺得是非常好，可是這裡面最重要的就是要區分AI風險低和風險高的相關部分，請問主委您覺得風險高的AI相關應用是在哪個領域？
發言片段: 30
吳主任委員誠文：風險高的就是我剛剛提到會侵犯人權的、會造成傷害。
發言片段: 31
范委員雲：會侵犯人權？也是啊！根據歐盟的風險分級，最高的其實就是嚴重威脅人民的生命、生活等基本權利，這屬於不能接受的風險，包含抓取個人臉部影像，我們知道對岸就有做這種嘛！這種就是需要被禁止使用的。至於風險低的，您認為風險最低的AI應用是什麼？
發言片段: 32
吳主任委員誠文：就是大家不喜歡的一大堆垃圾郵件廣告等等。
發言片段: 33
范委員雲：這也是一種。
發言片段: 34
吳主任委員誠文：還有就是在什麼藝術表現上面做假這些，這個風險也許不高，就是沒有造成人的傷害，但也是不應該的事情。
發言片段: 35
范委員雲：歐盟在這個部分，風險低的就譬如跟消費者互動的聊天機器人這類，這其實就是資訊提供，但是這個也要公開透明，要讓互動的人知道這是跟一個機器人在互動，如果是Deepfake的話就必須要揭露這是Deepfake，譬如這兩天我們有看到習近平告訴大家要記得六四，這個就是Deepfake合成的，而且講話的聲音就像是他在講，那這種就要揭露他是Deepfake，我想這個就是屬於低風險的，所以我想風險分級管理是很重要的。
歐盟AI的重點，除了剛剛講到禁止使用的部分是最嚴重的之外，還有一個就是創建沙盒、鼓勵創新，產業需要創新，可是要有一個人工智慧監管沙盒可以在可控的環境中減輕任何的識別風險，這也是歐盟AI基本法裡面的一個重點，我想大家對這部分都有期待。
另外就是剛剛林宜瑾委員跟林楚茵委員都有問到、我也非常關心的，就是它跟我們民主韌性跟新聞的關係，因為新聞如果在AI這裡被侵權，沒有辦法維持產業健康的話，那我們就只剩下假訊息了！因為新聞至少還有專業的篩選過，有內部編輯的流程，這都是需要資源的投入，如果新聞的產業受到傷害，然後沒有辦法保護自己的不管是叫做著作權或等等的話，那其實會對臺灣的民主韌性有很大的傷害。剛剛我們講到的TAIDE，我不知道您曉不曉得美國紐約的每日新聞等8家報紙向OpenAI跟微軟提告，說他們竊取數百萬篇應該要受到版權保護的新聞文章用來訓練AI，主委您知道嗎？
發言片段: 36
吳主任委員誠文：這個特定的事件我不知道。
發言片段: 37
范委員雲：那你可以多瞭解一下，顯然主委在AI這個課題上還可以做很多事。
有關TAIDE這部分因為您剛剛不大知道，如果您不會回答可以請您的部屬回答。我們的TAIDE訓練過程中網站都有寫，有用中央社、Ettoday、光華雜誌、今周刊的資料，有沒有付費授權呢？
發言片段: 38
楊執行秘書佳玲：我們會跟他們談，如果需要付費我們都有付費。
發言片段: 39
范委員雲：非常好！其實我跟你們索資，我知道你們有處理，我覺得這是一個非常好的示範，就是你們告訴大家，你的訓練資料中只要是商業的，你們都有處理相關的議題，我覺得這個部分是最佳示範，所以主委可以肯定一下你們下面這個TAIDE團隊目前有做一個最佳示範。
發言片段: 40
吳主任委員誠文：是。
發言片段: 41
范委員雲：歐盟的AI Act也要求要遵守歐盟著作權相關法律，因為本席發言時間已經到了，是不是可以把你們正在研議中的AI基本法跟新聞議價法制如何整合、是不是要納入管理給我辦公室一個書面報告？
發言片段: 42
吳主任委員誠文：是，沒問題。謝謝！
發言片段: 43
范委員雲：兩個月的時間可以嗎？
發言片段: 44
吳主任委員誠文：可以。
發言片段: 45
范委員雲：好。謝謝主委！要加油，一起加油。謝謝！
發言片段: 46
吳主任委員誠文：謝謝委員。
發言片段: 47
主席：謝謝范雲委員，主委請回。
我們接下來請翁曉玲委員發言。

公報詮釋資料

page_end 206
meet_id 委員會-11-1-22-15
speakers ["林宜瑾","洪孟楷","陳培瑜","萬美玲","葉元之","吳沛憶","陳秀寳","郭昱晴","羅廷瑋","張雅琳","葛如鈞","柯志恩","楊瓊瓔","林楚茵","范雲","翁曉玲","邱志偉","徐欣瑩","吳春城","李柏毅","鍾佳濱","林倩綺","牛煦庭"]
page_start 143
meetingDate ["2024-06-05"]
gazette_id 1135902
agenda_lcidc_ids ["1135902_00004"]
meet_name 立法院第11屆第1會期教育及文化委員會第15次全體委員會議紀錄
content 邀請國家科學及技術委員會主任委員吳誠文、數位發展部列席就「人工智慧 (AI)推動現況與未來 方向」進行專題報告，並備質詢
agenda_id 1135902_00003