科技魔方

国内首个 AI 大模型攻防赛启动,设立近 100 万元奖金池

更多动态

2024年09月06日

  9 月 6 日上午,在 2024 Inclusion・外滩大会“以 AI 守护 AI 大模型时代的攻守之道”论坛上,国内首个大模型攻防主题的科技赛事“全球 AI 攻防挑战赛”宣布正式启动。

  这项赛事聚焦 AI 大模型产业实践,设计了攻、防双向赛道,邀请各路“白帽黑客”(IT之家注:站在黑客立场攻击自己系统以进行安全漏洞排查的程序员)、技术人才分别进行针对文生图大模型“数据投毒”的攻防实战演练,以及金融场景大模型生成内容的防伪检测竞赛。

  “攻击赛道”聚焦于文生图大模型的实际应用风险问题。参赛选手可通过目标劫持、情景带入、逻辑嵌套等多样化的动态攻击诱导技术,诱发大模型输出风险图像,以此激活大模型的潜在弱点和漏洞,增强大模型生图的安全免疫能力。

  “防守赛道”则聚焦于 AI 核身中的金融场景凭证篡改检测,以应对日益严峻的 Deepfake 深度伪造及 AIGC 假证风险。大赛提供百万级凭证篡改数据训练集,参赛选手需要研发和训练模型,并利用对应的测试集评估模型有效性,给出数据伪造概率值。

  该赛事由中国图像图形学会、蚂蚁集团、云安全联盟(CSA)大中华区联合主办,并得到了上海交通大学、浙江大学等 C9 高校及多家产学研组织的支持。

  赛事设立了近 100 万元奖金池,并邀请了多位学术界和工业界的知名专家担任评委。中国工程院院士、中国图象图形学学会理事长王耀南,云安联盟(CSA)大中华区主席李雨航担任本次大赛的指导委员会专家,来自清华大学、上海交通大学、上海人工智能实验室、中国图象图形学学会等单位的近 30 位知名学者将参与大赛的组织及评审工作。

+1

来源:IT之家

延展资讯