2024年世界互联网大会|全球AI大模型攻防挑战赛收官,十强选手用AI对抗AI 2024年ai智能应用知识大赛 世界互联网大会ai互动
创始人
2025-07-05 20:12:04
0

11月20日,国内首个AI大模型攻防赛在世界互联网大会乌镇峰会收官。

比赛现场,全球十强选手面对“眼见不为实、耳听不为实”的场景,通过大模型技术辨别AI造假的音频、证照及视频,用AI对抗AI。大赛最终角逐出全球十强,来自字节跳动、合合信息科技、济南大学、浙江工业大学、安徽大学、上海交通大学等企业和高校的赛队获奖。

随着人工智能技术特别是大模型及AIGC领域飞速发展,给我们生活带来了前所未有的便利与可能性,也带来了安全方面的挑战。

只需10秒,大模型就能克隆声音、复刻照片,甚至能生成“你”的视频;同时,大模型“越狱”问题频发,生成各种危害网络空间安全的各类信息。

这样的背景下,全球AI大模型攻防挑战赛聚焦大模型自身安全和大模型生成内容的防伪检测两个赛道,赛题涉及信用成长、凭证审核、商家入驻、智能助理等多个业务场景,覆盖机器学习、图像处理与计算机视觉、数据处理等多个算法领域,通过创新的技术解决方案,进一步保障大模型应用安全和产业安全。

“通过攻防实战演练,直面大模型应用中的安全问题,促使大模型安全技术不断进步,从而携手行业迈向更高的安全水平。”蚂蚁集团安全实验室首席科学家、全球AI大模型攻防挑战赛评审委员会委员王维强表示。

AI反诈是当前保护大模型安全最典型、真实的场景之一。“现在AI诈骗越来越隐秘,手法越来越多样,可以模拟亲人的声音、朋友的视频,甚至伪造各种文件,让人们防不胜防。今天的比赛,作为一名人民警察,我感觉非常欣慰,这意味着我们在对抗AI诈骗的道路上,有了更多的力量和智慧。”收官现场,来自桐乡的反诈民警李湘臣谈道。

除了十强选手外,为了鼓励比赛方案的算法创新性和资源绿色性,大赛还特别评选出“杰出方案奖”,分别由西安交通大学、上海交通大学及理想汽车赛队获得。此外,蚂蚁集团在现场为优秀选手颁发直通offer,优秀技术人才秒入职。

该项赛事由中国图象图形学学会、蚂蚁集团、云安全联盟(CSA)大中华区联合主办,联合清华大学、上海交通大学、浙江大学、北京科技大学、湖南大学、华中科技大学、北京理工大学等高校及多家产学研组织共同发起。

大赛自9月启动以来,来自全球18个国家和地区的2700多支赛队、3200余名技术精英参与,选手来自清华大学、北京大学、香港科技大学、悉尼大学等290多所国内外高校,以及字节跳动、理想汽车、腾讯、智谱AI、Shopee等280多家互联网、金融、汽车、大模型科技等企业。

此外,在活动现场,中国信通院启动“护证计划”,呼吁共建行业标准,守护用户的身份安全。蚂蚁集团表示,积极响应并加入该计划。

上游新闻记者 杨昕华

编辑:夏洪玲    责编:吴忠兰,陈晶晶     审核:冯飞

相关内容

热门资讯

出伏立秋后反被热晕?网友辣评:... 三伏天这个大魔王终于要挥手告别了,是不是觉得身上的汗珠子都少蹦跶了几下?没错,末伏结束了!也就意味着...
江南新材IPO定价10.54元... 日前,江西江南新材料科技股份有限公司(以下简称为“江南新材”)披露了发行公告,确定主板上市发行价10...
巫溪小伙迎娶高颜值斐济新娘,婚... 近日,以"巫溪文峰小伙迎娶斐济高颜值新娘"为内容的视频受到网友关注。8月27日,发布视频的婚礼化妆师...
可以一次性拔掉4颗智齿吗?医生... 医生,长痛不如短痛,我可以一次性拔除四颗智齿吗?"对于很多长了智齿的朋友来说,可能会时不时地冒出这个...
原创 清... 林烨,一个清华毕业的天才,却选择加入美国国籍,投身导弹研发,甚至把导弹对准了曾经的祖国中国。这个选择...
原创 马... 据报道,在2025年这个看似平常却又暗流涌动的年份,美国政坛与情报界掀起了层层波澜,而这一切,都与特...
im Token钱包:Coin... 这是一款广受欢迎的数字钱包,在全球超 200 个国家和地区收获了超两千万用户的信赖。它致力于为用户打...
女生在塞尔维亚旅游时,出租车司... 近日,一位女生在塞尔维亚旅游时打车,不料出租车司机得知女生是中国人后,全程表达对中国的赞美。
二孩夫妻又生四胞胎,孩子父亲:... 8月23日,已有二孩的产妇李女士在深圳成功诞下四胞胎,从原本温馨的四口之家,瞬间扩容为热闹非凡的八口...
西方企业被“打”疼了:中国不会... 【文/观察者网 张菁娟】英国《金融时报》26日报道,中国对关键半导体材料的出口管制正在冲击供应链,并...