邱若華 @ 第11屆第2會期交通委員會第9次全體委員會議
時間:
0
| Start Time | End Time | Text |
|---|---|---|
| 00:00:06,703 | 00:00:13,686 | 謝謝主席,主席請速發布黃部長還有資安署的謝署長請黃部長還有謝署長好,委員好部長好,同樣的我們延續剛剛的AI議題有幾個問題要請教部長還有署長來我們來做探討那我們今天要討論的是CHAT-GBTCHAT-GBT在2022年12月的時候推出那隨後在全球就掀起了浪潮 |
| 00:00:33,813 | 00:00:53,703 | 根據CHATGPT研發公司的資料顯示每週經常使用戶數有2億人由此可見深層市的AI已經成為了全球的主流趨勢和普及化本席就深層市AI所造成的潛在風險和未來發展的可能性請教部長還有署長 |
| 00:00:54,984 | 00:01:14,164 | 二〇二二年十二月之後公部門所有的直送設備還有所屬的場域全面禁用抖音還有TikTok公部門所配有的手機平板還有電腦都不能下載這兩款APP請問署長還有我們部長全面禁用抖音和TikTok的原因是什麼在當時第一個這個 |
| 00:01:15,486 | 00:01:16,726 | 議員提到的是各自的疑慮嗎? |
| 00:01:36,292 | 00:02:01,229 | 關於資安的疑慮只要是對我們國家的資安有造成風險的疑慮本席都是贊成加強來做規範再來我們來看根據媒體報導去年5月2號的時候南韓的三星集團也在他們內部的信件有指出他們發現旗下的員工將敏感式的程式馬上傳至深層式AI的服務平台恐怕會導致商業機密外洩所以他們禁止員工在公司內部使用 |
| 00:02:02,129 | 00:02:23,040 | 公司所有的資訊設備上使用該類型的服務那違規者恐面臨就是解雇的命運那三星集團也在去年4月他們有進行問卷調查因為有6成5的員工他們認為深層室癌對於去夜的安全造成威脅那美國的資安公司也在2023年6月21號的時候公佈從2022年6月然後看到我們2023年5月他們的數據調查顯示有多達10萬個checkGPD的個資 |
| 00:02:31,644 | 00:02:48,159 | 外泄那在2023年的5月高達高峰那尤其有更重要的是那個報告還有指出洩漏區域以亞太地區最為嚴重居於榜首那其次是中東非洲還有歐洲那面對這個問題去年行政院他們也在8月的時候 |
| 00:02:48,499 | 00:03:07,805 | 通過行政院所屬的機關機構使用深層式AI參考指引那金管會也在今年6月20號通過金融業運用人工智慧AI指引代表深層式AI確實有資安盈利部長和署長你們知道這指引的內容嗎這個指引都知道那其中最重要的幾點可不可以就是 |
| 00:03:10,742 | 00:03:14,404 | 公務資料不要上傳公務資料不要上傳公務資料不要上傳公務資料不要上傳公務資料不要上傳公務資料不要上傳公務資料不要上傳公務資料不要上傳 |
| 00:03:35,134 | 00:03:50,904 | 另外這個指引有要求說我們要選用比較就是可信賴的服務但是就治安來說就治安來說其實只要是外部的不能做設定跟防護的你應該在使用上都是參考那也同步回應剛剛委員問到的其實我們會希望公務機關除了你 |
| 00:03:56,408 | 00:04:19,480 | 議員８議員 |
| 00:04:19,600 | 00:04:21,582 | 蘇發布是不是發展我們AI的科技主要的主管機構之一? |
| 00:04:36,358 | 00:04:59,064 | 那其中那建立AI生態系算力還有資料收集還有能力的培育是在我們速發部沒有錯吧對有一部分工作是在我們這裡那既然速發部和資安署是我國公部門資訊安全相關業務的重要的機構那請問署長還有部長那關於生成式AI服務平台像是CHAT、GPT還有等相關應用的程式是否有危害國家之痛的疑慮呢 |
| 00:05:00,083 | 00:05:22,251 | 我們危害國家通安全的這個定義是針對中國製的設備的產品其實沒有若以這個那本席這邊要提到目前有很多國際知名的企業他們因為為了怕防止洩密他們他們禁用checkGPT那checkGPT在我們台灣目前呢這個我們就說就說我們政府有這個剛講指引 |
| 00:05:24,392 | 00:05:31,818 | 三星還有美國的蘋果呢?美國的蘋果、Amazon、Verizon、美國銀行還有花旗集團他們都禁止在他們內部公司使用那在我們台灣我們公部門是不是應該要禁止使用ChatGPT? |
| 00:05:49,718 | 00:05:51,340 | 現在就是說不能再請那個署長說我們事實上執行裡面對這個有一些要求再說明一下 |
| 00:06:07,859 | 00:06:31,616 | 報告委員其實不管他的規定他現在的規定是只要是公務跟機密你都不應該傳上去但是我們會覺得說除了CHAT GPT之外所有要跟你要的資料因為現在所有的軟體跟所有的系統都試著要資料不是剛剛提到TikTok跟抖音部長有提到是中國嗎那現在CHAT GPT在美國像Apple跟Samsung Verizon他們也都是禁用的那這樣是不是有雙重標準 |
| 00:06:33,702 | 00:06:45,838 | 報告委員其實我們的指引跟相關的規範是你不應該把公務的東西傳給你不認識的人包含確GPT它後面的分析不知道是誰我們數位部有沒有使用過確GPT數位部有沒有 |
| 00:06:49,811 | 00:07:11,327 | 對阿,內部的人工或是你們正在建立一個AI生態系你們應該有去了解TPTN目前所提供的服務的內容大概是什麼樣吧有去研究生成式AI會用到好幾個工具包括Google的都有我們會了解他們的功能是什麼不過我們 |
| 00:07:11,807 | 00:07:37,018 | 我想他收集的數據不只是在Google吧是全球各網站的對就是我剛才有幾個重要就是剛才講這大型的那是不是如果是這樣子的話那再發布在我們臺灣新聞的話那其他在海外的用戶他也可以知道目前我們的國情像是軍力還有國防相關的我們沒有把我們這些資料拿去我不是說我是說CHAT GPT上面他只要透過在這個在這個這個OpenAI的服務上面他也可以知道我們目前現在臺灣的情況 |
| 00:07:46,858 | 00:07:59,148 | 府長本席認為啊那資安署應該針對我們公部門的各機關然後會涉及到機密的像是國防部然後還有外交部國安等單位啊本席認為應該要全面禁用GPT那府長和署長您的看法是 |
| 00:08:01,038 | 00:08:22,312 | 目前我執行裡面就是這樣說就是我們不能把公務的資料放到沒有人會把公務的資料放在CHAT GPT上面可是他如果說要做如果他拿不到我們資料他裡面的LRM就不會有我們的資料所以就不用擔心說別人會看到我們的資料因為他根本就是我們的資料不會給他用所以他根本看不到 |
| 00:08:22,312 | 00:08:47,197 | 您有沒有想過有可能我們會把就是相關的提問放上去之後是有可能會洩露就是對所以我們要講說公家機關裡面我們講說是公務的公務的是在提問的過程中對我知道所以就是說在這裡面我們講說在一些我們不應該用他來做我們公務的一些工作因為在這裡面的確是有可能那部長那請部長和署長我回去之後再演繹再給本席書面報告OK好謝謝 |
公報發言紀錄
發言片段
lineno: 663
| 發言片段: 0 |
|---|
| 邱委員若華：（11時39分）謝謝主席，請數發部的黃部長及資安署的謝署長。 |
| 發言片段: 1 |
| 主席：請黃部長及謝署長。 |
| 發言片段: 2 |
| 黃署長彥男：委員好。 |
| 發言片段: 3 |
| 邱委員若華：部長好。同樣的，我們延續剛剛的AI議題，有幾個問題要請教部長及署長，我們一起來探討。我們今天要討論的是ChatGPT，ChatGPT在2022年12月的時候推出，隨後就在全球掀起了浪潮，根據ChatGPT研發公司OpenAI的資料顯示，每週經常使用戶數有2億人，由此可見生成式AI已經成為全球的主流趨勢還有普及化，本席現就生成式AI所造成的潛在風險和未來發展的可能性就教於部長和署長。2022年12月之後，公部門所有的資通設備還有所屬的場域全面禁用抖音和TikTok，公部門所配有的手機、平板及電腦都不能下載這兩款app，請問署長和部長，當時全面禁用抖音和TikTok的原因是什麼？ |
| 發言片段: 4 |
| 黃部長彥男：第一個就是像這種軟體都有可能會有個資的問題，因為我們會給它很多個資，所以會有個資外洩的疑慮，就是因為這樣的緣故，所以我們有規定，至少在公部門不准用抖音。 |
| 發言片段: 5 |
| 邱委員若華：部長您提到的是個資的疑慮。 |
| 發言片段: 6 |
| 黃部長彥男：個資跟資安。 |
| 發言片段: 7 |
| 邱委員若華：就是個資跟資安的疑慮，只要是對我們國家的資安有造成風險的疑慮，本席都贊成加強來做規範。根據媒體報導，去年5月2號，南韓三星集團也在他們內部的信件指出發現旗下員工將敏感式的程式碼上傳至生成式AI的服務平台，恐怕會導致商業機密外洩，所以他們禁止員工在公司內部所有的資訊設備上使用該類型的服務，違規者恐面臨解僱的命運。三星集團也在去年4月進行了問卷調查，有六成五的員工認為生成式AI對於企業的安全造成威脅；美國的資安公司Group-IB也在2023年6月21號公布，從2022年6月到2023年5月，根據他們的數據調查顯示，有多達10萬個ChatGPT的個資外洩，在2023年5月到達高峰。尤其更重要的是，那個報告還指出洩漏區域以亞太地區最為嚴重，高居榜首，其次是中東、非洲還有歐洲，面對這個問題，去年行政院也在8月的時候通過「行政院所屬機關（構）使用生成式AI參考指引」，金管會也在今年6月20號通過「金融業運用人工智慧（AI）指引」，代表生成式AI確實有資安疑慮。請問部長和署長，你們知道這個指引的內容嗎？ |
| 發言片段: 8 |
| 黃部長彥男：這個指引我知道。 |
| 發言片段: 9 |
| 邱委員若華：既然知道，可否指出其中最重要的幾點？ |
| 發言片段: 10 |
| 謝署長翠娟：報告委員，第一個是公務的資料不要上傳，因為這是外面的，而且你也不能信任它到底會把你的資料拿去做什麼用。第二個是機敏資料不要完全上去。第三個指引是不要完全信任它給你的，因為它有些時候是自己創的，所以它給你的指導不能完全信任。另外，這個指引有要求我們要選用比較可信賴的服務，但是就資安來說，其實只要是外部的、不能做設定跟防護的，你應該在使用上都是參考，那也同步回應剛剛委員問到的，其實我們會希望公務機關所有用的軟體都應該要有原因，不是為了公務使用而是你自己的興趣的話，就不要在公務的場所去使用，所以有些時候有些軟體我們會覺得經過申請是合理且是他工作需要的，那當然是可以用，但是如果他只是為了個人的休閒…… |
| 發言片段: 11 |
| 邱委員若華：因為時間的關係，我這邊要請教部長一個問題，數發部是不是發展我們AI科技主要的主管機構之一？ |
| 發言片段: 12 |
| 黃部長彥男：對啦！是其中之一，我們是好幾個部會一起合作要做AI的發展跟管理。 |
| 發言片段: 13 |
| 邱委員若華：其中建立AI生態系、算力還有資料蒐集及人力的培育是在我們數發部，沒有錯吧？ |
| 發言片段: 14 |
| 黃部長彥男：對，有一部分工作是在我們這裡。 |
| 發言片段: 15 |
| 邱委員若華：既然數發部的資安署是我國公部門資訊安全相關業務的重要機構，那請問署長還有部長，生成式AI服務平台像是ChatGPT等相關應用程式是否有危害國家資通的疑慮呢？ |
| 發言片段: 16 |
| 黃部長彥男：我們對危害國家資通安全的定義是針對中國製的設備、產品，如果以這個…… |
| 發言片段: 17 |
| 邱委員若華：本席這邊要提到的是目前有很多國際知名企業為了防止洩密因此禁用ChatGPT，那ChatGPT在我們臺灣目前如何呢？ |
| 發言片段: 18 |
| 黃部長彥男：我們政府有參考指引嘛，至於私人企業就由他們自己去做決定，我們並沒有要求。 |
| 發言片段: 19 |
| 邱委員若華：請教部長，三星算不算是大的集團企業？ |
| 發言片段: 20 |
| 黃部長彥男：對，三星是他們自己決定。 |
| 發言片段: 21 |
| 邱委員若華：除了三星，還有美國的蘋果呢？還有Amazon、Verizon及美國的美國銀行、花旗集團，都禁止在他們內部公司使用。 |
| 發言片段: 22 |
| 黃部長彥男：這個也是他們自己決定的。 |
| 發言片段: 23 |
| 邱委員若華：那在我們臺灣，我們的公部門是不是應該要禁止使用ChatGPT？ |
| 發言片段: 24 |
| 黃部長彥男：我剛剛講過，這個東西是由各個單位自己去決定，那我們…… |
| 發言片段: 25 |
| 邱委員若華：對於目前我們行政院推出的指引，部長和署長認為力度夠嗎？ |
| 發言片段: 26 |
| 黃部長彥男：現在就是說不能把公……事實上我們的指引裡面對這個有一些要求，再請署長說明一下。 |
| 發言片段: 27 |
| 謝署長翠娟：報告委員，其實不管如何，現在的規定是只要是公務跟機密都不應該傳上去，但我們覺得除了ChatGPT之外，所有要跟你要的資料，因為現在所有的軟體跟所有的系統都試著跟你要資料，都不應該…… |
| 發言片段: 28 |
| 邱委員若華：剛才提到TikTok跟抖音，部長有提到是中國嘛，那現在說的ChatGPT，美國的Apple跟Samsung、Verizon他們也都是禁用的，這樣是不是有雙重標準？ |
| 發言片段: 29 |
| 謝署長翠娟：報告委員，其實我們的指引跟相關的規範是你不應該把公務的東西傳給你不認識的人，包含ChatGPT後面的分析方不知道是誰。 |
| 發言片段: 30 |
| 邱委員若華：我們數位部內部的員工有沒有使用過ChatGPT？你們正在建立一個AI生態系，應該有去瞭解ChatGPT目前所提供的服務內容大概是什麼樣吧！ |
| 發言片段: 31 |
| 黃部長彥男：有去研究，因為生成式AI會用到好幾個工具，包括GAN-generate、Google等等都有，我們會瞭解它們的功能是什麼，不過我們…… |
| 發言片段: 32 |
| 邱委員若華：我想它收集的數據不只是在Google吧！是全球各網站。 |
| 發言片段: 33 |
| 黃部長彥男：我剛剛講過就是幾個重要的，就是大型語言模型…… |
| 發言片段: 34 |
| 邱委員若華：如果是這樣子的話，那在發布我們臺灣新聞時，其他在海外的用戶也可以知道目前我們的國情，比如軍力還有國防相關等等。 |
| 發言片段: 35 |
| 黃部長彥男：我們沒有把我們這些資料拿去…… |
| 發言片段: 36 |
| 邱委員若華：我不是說這個，是說在ChatGPT上面，只要透過這個OpenAI的服務，他也可以知道我們目前臺灣的情況。 |
| 發言片段: 37 |
| 黃部長彥男：如果有人把這個資料給它做訓練或是上傳才會，但是我們的機敏資料是不會上去的。 |
| 發言片段: 38 |
| 邱委員若華：是啦！但是本席認為資安署應該針對我們會涉及到機密的公部門各機關，像是國防部、外交部、國安等單位，要全面禁用ChatGPT，部長和署長的看法為何？ |
| 發言片段: 39 |
| 黃部長彥男：我們的指引目前就是這樣規範的，就是我們不能把公務的資料放到…… |
| 發言片段: 40 |
| 邱委員若華：沒有人會把公務的資料放在ChatGPT上面。 |
| 發言片段: 41 |
| 黃部長彥男：可是它如果拿不到我們的資料，它的LLM model就不會有我們的資料，所以就不用擔心別人會看到我們的資料，因為我們的資料不會給它用，所以它根本看不到。 |
| 發言片段: 42 |
| 邱委員若華：你有沒有想過我們會把相關的提問放上去，之後有可能會洩漏。 |
| 發言片段: 43 |
| 黃部長彥男：所以我們在公家機關裡面，公務的資料…… |
| 發言片段: 44 |
| 邱委員若華：我是說在提問的過程中。 |
| 發言片段: 45 |
| 黃部長彥男：對，我知道，所以在這裡面，我們不應該用它來做我們公務的一些工作，因為在這裡面的確是有可能…… |
| 發言片段: 46 |
| 邱委員若華：請部長和署長回去之後再研議，再給本席書面報告。謝謝！謝謝主席！ |
| 發言片段: 47 |
| 黃部長彥男：好，謝謝！ |
| 發言片段: 48 |
| 主席：謝謝邱若華委員。 |
| 接下來邀請陳雪生委員發言。 |
公報詮釋資料
| page_end | 246 |
|---|---|
| meet_id | 委員會-11-2-23-9 |
| speakers | ["陳素月","林沛祥","林國成","李昆澤","林俊憲","游顥","何欣純","黃健豪","蔡其昌","魯明哲","徐富癸","廖先翔","邱若華","陳雪生","賴士葆","黃國昌","吳春城","林月琴","麥玉珍","洪孟楷","許智傑","陳培瑜"] |
| page_start | 185 |
| meetingDate | ["2024-11-13"] |
| gazette_id | 1139801 |
| agenda_lcidc_ids | ["1139801_00007"] |
| meet_name | 立法院第11屆第2會期交通委員會第9次全體委員會議紀錄 |
| content | 一、審查114年度中央政府總預算案關於數位發展部資通安全署單位預算；二、審查114年度中央 政府總預算案關於數位發展部數位產業署單位預算 |
| agenda_id | 1139801_00010 |