南投恶罢生成假讯息立委遭殃 游颢吁数发部加强AI监管与资安应变

▲立委游颢在立法院交通委员会质询中,呼吁数发部加强AI监管与资安应变。(图∶立委游颢国会办公室提供)
立委游颢国会办公室表示,二十四日立法院交通委员会质询中,游颢揭露,南投罢免团体「南投公民会社」LINE干部群组有成员利用ChatGPT聊天机器人,假冒立委国会办公室发新闻稿至社群群组,内容提到「游颢办公室感谢南投公民会社协助罢免案第二阶段连署圆满完成」及「立法委员游颢发表声明,明确表态支持罢免行动团体推动罢免立委马文君的行动」,使阅览者误认,传递错误虚假讯息。他痛批,AI成为大罢免恶霸的工具,完全荒腔走板,行径罄竹难书!
立委游颢强调,AI成为大罢免恶罢的工具,甚至是骚扰的手段,南投罢免团体使用ChatGPT抹黑、捏造、骚扰攻击他跟马文君委员,数发部是否有第一时间掌握?在地方上是否能掌握?未来政府要如何在数位治理上,扮演好角色?数位发展部部长黄彦男表示,AI最近的进展是可以生成各式各样的文字或影音或相片,以前是眼见为凭,现在是眼见不一定为真,这方面要怎麽去判断跟侦测也是一直在研究,至於说各别新闻或各别事件,并没有特别去追踪。
立委游颢进一步指出,他跟马文君委员被捏造,假冒国会办公室发新闻稿透过社群管道散播,将来极大可能伪造影音及图像,是否有通报机制让虚假讯息下架?未来如何遏制假讯息?数发部、调查局是否会启动调查?黄彦男表示,可请NGO组织验证讯息後公布,数发部本身也有网路诈骗通报查询。调查局资通安全处处长张尤仁表示,有关AI假讯息的部分,调查局有一定检测的模式、工具,只要收到网路上相关假讯息出现,经检测若有违法,如违反选罢法,就会立案,报请地检署侦办。
此外,立委游颢关切各机关资安长制度的落实情况,他指出,现行资安法第11条,各机关必须要设置资安长,而目前多数机关资安长多由副首长兼任,但部分人员欠缺资安专业背景,无法即时掌握资安事件或有效协调应对,他要求数发部提供各机关资安长实际担任比例、是否具资讯专业背景,以及是否为委外或内部人力,在制度上,希望资安长不是虚设的,在国外的话,在业界的资安长,他们其实几乎都会有资讯背景,或是一定时数的训练。
黄彦男回应,管理的人一定要有足够的权力去担任资安长,技术面反而比较容易解决,可以由幕僚跟相关训练再补强。游颢强调,部会业务的连结归连结,但是专业跟本身都有问题,第一时间对资安的掌握,是相对重要的。
立委游颢强调,AI成为大罢免恶罢的工具,甚至是骚扰的手段,南投罢免团体使用ChatGPT抹黑、捏造、骚扰攻击他跟马文君委员,数发部是否有第一时间掌握?在地方上是否能掌握?未来政府要如何在数位治理上,扮演好角色?数位发展部部长黄彦男表示,AI最近的进展是可以生成各式各样的文字或影音或相片,以前是眼见为凭,现在是眼见不一定为真,这方面要怎麽去判断跟侦测也是一直在研究,至於说各别新闻或各别事件,并没有特别去追踪。
立委游颢进一步指出,他跟马文君委员被捏造,假冒国会办公室发新闻稿透过社群管道散播,将来极大可能伪造影音及图像,是否有通报机制让虚假讯息下架?未来如何遏制假讯息?数发部、调查局是否会启动调查?黄彦男表示,可请NGO组织验证讯息後公布,数发部本身也有网路诈骗通报查询。调查局资通安全处处长张尤仁表示,有关AI假讯息的部分,调查局有一定检测的模式、工具,只要收到网路上相关假讯息出现,经检测若有违法,如违反选罢法,就会立案,报请地检署侦办。
此外,立委游颢关切各机关资安长制度的落实情况,他指出,现行资安法第11条,各机关必须要设置资安长,而目前多数机关资安长多由副首长兼任,但部分人员欠缺资安专业背景,无法即时掌握资安事件或有效协调应对,他要求数发部提供各机关资安长实际担任比例、是否具资讯专业背景,以及是否为委外或内部人力,在制度上,希望资安长不是虚设的,在国外的话,在业界的资安长,他们其实几乎都会有资讯背景,或是一定时数的训练。
黄彦男回应,管理的人一定要有足够的权力去担任资安长,技术面反而比较容易解决,可以由幕僚跟相关训练再补强。游颢强调,部会业务的连结归连结,但是专业跟本身都有问题,第一时间对资安的掌握,是相对重要的。