美国之音 樊东宁 - 台湾数位发展部部长唐凤日前在华盛顿表示，中国的言论审查制度虽然对人工智能的应用与研发形成障碍，但在自由民主世界训练出来的AI语言模型，可以穿越防火墙，把真相送进中国，对中共的极权政体造成很大的挑战。
把真相的"特洛伊木马"送进墙内
唐凤在接受美国之音《纵深视角》节目独家专访时进一步解释了这个概念："人工智能技术可以把整个网路公开资料变成素材，炼製成功之后的模型，其实大小用一个随身碟就可以放得下，任何人都可以在笔记型电脑或个人电脑上运行这个模型，这将对中共的言论管制造成很大的挑战。因为全面极权管治的政体，在以前只要守住大家通往谷歌、维基百科或其他网站的关口，人民就不太容易去查询一些事情的真相，但是现在网民只要想办法把我刚刚提到的这个语言模型，通过一个随身碟拿到手上，之后就不再需要网路连线，也可以一直去问它：'当年的几月几日究竟发生了什么事情？'"
前白宫副国家安全顾问博明（Matt Pottinger）曾提议与美国硅谷的企业合作，在中国的防火牆上"打洞"，但唐凤所说的这种人工智能技术，可以做到的不只是在防火牆上打洞而已，她形容说这就像是把真相的"特洛伊木马"送进牆内，送进去之后，还可以和牆内民众进行一问一答的互动，并提供佐证的照片、影片等等，而且不需要再对外连线，所以在这种情况下，就算防火墙上的洞又被中共补起来也没有关系，因为真相已经送进去了。
穿越中共防火牆 民主阵营无国界
唐凤认为，在人工智能时代，民主阵营的合作是不分国界的："像IPFS（星际档案系统）就是抵抗审查的一种技术，它的特色是就算你人在极权国家里面，你也可以自己跑一个IPFS node （节点）帮助外面的人备份，牆外的人跑的IPFS节点，同样也可以帮助牆内的人备份，让他的言论不会被下架查禁等等。所谓的民主网络democracy network，就是基于相同的民主价值而结合，而不论地缘上是远或近，这是一种新的地缘，就是它不是看这个里程的远近。而是看理念上的远近。"
多元协作破解"深伪技术"
除了担忧AI在战争上的运用，唐凤也对所谓的"深伪技术"（deepfake）的进化提出警告："有心人利用deepfake做跨境攻击或诈骗， 现在只要下载AI语言模型，花一点时间去把它的道德限制解除掉，就能几可乱真地冒充成一个名人，或者是冒充谁发动讯息攻势或进行诈骗。以前你要事先生成这种影片，然后再传播出去，但在今年它已经进化为interactive（互动式），就是说它可以即时给你打个电话，你跟他讲话，你的那个回应，它就将生成出新的语音，然后根据你的声音纹路，你只要讲三秒钟，它马上学会了之后，就可以冒充你的声音打电话给你的亲朋好友再去诈骗他们，像这种新的能力是去年没有的。
不过唐凤认为，只要民众们具备"多元宇宙"的概念，就比较不会被极端化的讯息带走。她解释说："多元宇宙就是制度化的多元主义，但是这个制度不是法律的制度，而是技术的制度。在多元宇宙中大家看到的不是吵的最凶的两个极端，而是最大的声量、是那些能够把意见最不同的人合在一起的声音。多元宇宙可以有系统地找到兼顾两种价值的做法，是一个凝聚大家，而不是撕裂大家的社交平台。她并举例："就像是在X（推特）里的社群笔记Community Notes，就是一种Plurality的实现。"
安全竞赛应对AI"灭绝风险"
唐凤强调，人工智能就像硬币的两面，有好的应用，也有坏的风险。她警告未来人工智能如果应用在战场上，可能会像电影中那样不受攻击方控制，对人类造成"灭绝风险"。
唐凤说："AI目前虽然还没有办法完全全自动地去合成新的电脑病毒，然后用它来进行攻击，但是等到它演化到某一个程度之后，说不定以后就会Living Off the Land，就是说当你攻击进对方的某一个网络系统之后，那个病毒就住在那儿了，它住在那儿之后，用它的算力，用那台电脑再去写出新的病毒，再去写出新的病毒，它就不需要外面的人来控制了，目前看起来这一代的AI模型还没有这样的能力，但是我们不是很确定说两代之后、三代之后，会不会就有这样子的能力，一旦有这样子的能力，部署攻击的人可能本来把它当作遥控来使用，但是后来它产生了agentic, 就自己开始动了，这个时候就连发动攻击的人也没有办法再控制它了。"
"所以现在所谓的安全竞赛（Race to Safety），就是要在AI还没有这方面的能力之前，先去想清楚说，它冒出这样能力的时候，它会有什么样的征兆，然后当它开始接近这个临界值的时候，尽快地把它感应出来，感应出来之后，就要采取一些控制的措施，或者甚至说超过这个临界值的开发，就不能像以前那样的开发了等等，如何设定临界值以及加重这方面的投资，是目前我们正在讨论的重点。"
"零信任"模式抵御中共网攻
唐凤透露去年美国众议院议长佩洛西Pelosi访台时，两岸进行了一场激烈的攻防战，中共当时对台湾发动Hybrid（复合式）讯息战与网路攻击。"台湾在应对中共导弹攻击的同一个时间，也在应对中共的网路攻击和讯息战，我们当时当然是在第一时间就有因应，像我们的网站一秒钟都没有被打下来，就是因为我们用了任何人都可以捐出一些自己的硬碟跟网路帮我们的备份的一个叫IPFS，就是"星际档案系统"这个技术。
我们运用了这些做法，那当然他们想要让我们的这个股市崩盘什么的，都没成功。那天股市反而上涨了。显然心战没有发挥他本来想要达到的战略目的。我们也因此将资源整合成立了数位部，用这种新的想法，叫做resilience就是韧性的想法，就是不是说铜墙铁壁让人家一定打不穿，而是说你有好几道门、好几道防御，任何一道被打穿了，可能已经被打穿了，他还没启动而已，都会被其他几道门挡下来。像这样子的一种多层次的防御，有一个专有的名词叫做"零信任"（zero trust），就是不专门去只信任某一道门，或某一道防火墙，我们一年来在台湾的包含公部门等等，都换成这种"零信任"的防御模式，所以到了今年3月蔡英文总统访美，我们也受到（中共）相当程度的攻击，但是就没有出新闻了，对不对？因为我们将这一波複合式网攻抵御下来了"。
美台联防与"台湾版星链"
唐凤透露台美之间每2年会办一次CODE（Cybersecurity Offense and Defense Exercise,）攻防演练，攻击的是红队,防御的是蓝队，很拟真的去模拟与中共网路战攻防的情况，有相当多各国的朋友来报名，事后也有一个叫purple team（紫队），就是把蓝队和红队混在一起，然后大家彼此交换
刚才这几天发生了什么事情，学到什么样的经验，那这样的话之后，如果再发生真正的状况的时候，各国这些已经有过演习经验的这些资安人员，就可以第一时间知道说，联防的时候，我要防守哪里、你要防守哪里。
此外由于今年2月份连接台湾和马祖的两条海底电缆就被切断，唐凤强调，有鉴于乌克兰战争的经验，打造"台湾版星链"相当的重要。
"如果海缆没有了、微波没有了 、至少还有卫星的接收器，包含欧洲的SES的这个中轨道卫星以及英国的one web低轨道卫星。" 唐凤说："我们现在很积极地在和英国的one web洽谈，应该年底就能够复盖到台湾全境，我们到明年年底会有700个点，有些是固定的，有些甚至放在车上，所谓车载的，甚至用背包的都有，这些就随时需要发生什么事情就可以调度过去。"
以上是美国之音与台湾数位发展部部长唐凤的专访摘要，完整专访内容请看10月7日播出的《纵深视角》节目。
No comments:
Post a Comment