原标题：张钹：AI的创新发展与安全治理要两手抓
近日，在“AI安全与产业治理”论坛上，中科院院士、清华大学人工智能研究院院长张钹就人工智能（AI）安全与产业治理分享了观点。
张钹认为，AI在带来传统产业智能化和智能技术产业化的同时，也带来了新的风险和安全隐患，因此AI的创新发展与安全治理要两手抓。
张钹指出，未来人工智能产业发展在扩大应用场景的同时，必须实现数据、算法与应用层的安全可控。同时，他表示人工智能的安全可控问题要同步从技术层面来解决。
在具体的实现路径上，张钹提出发展“第三代人工智能”，即融合了第一代的知识驱动和第二代的数据驱动的人工智能，利用知识、数据、算法和算力四个要素，建立新的可解释和鲁棒的AI理论与方法，发展安全、可信、可靠和可扩展的AI技术。
从AI安全的具体实践而言，业界已开始进行探索。本次论坛上，清华大学联合阿里安全、Real AI共同发布AI攻防对抗基准平台Adversarial Robustness Benchmark。
据介绍，该评测基准基于清华大学在2020年GitHub开源的ARES算法库，致力于对AI防御和攻击算法进行自动化、科学评估。
不同于之前只包含零散攻防模型的对抗攻防基准，此次推出AI对抗安全基准基本上包括了目前主流的人工智能对抗攻防模型，涵盖了数十种典型的攻防算法。不同算法比测的过程中尽量采用了相同的实验设定和一致的度量标准，从而在最大限度上保证了比较的公平性。
除此之外，本次发布的AI安全排行榜也包括了刚刚结束的CVPR2021人工智能攻防竞赛中诞生的排名前5代表队的攻击算法。此次竞赛吸引到了全球2000多支代表队提交的最新算法，进一步提升了该安全基准的科学性和可信性。
“通过对AI算法的攻击结果和防御结果进行排名、比较不同算法的性能，建立AI安全基准具有重要学术意义，可以更加公平、全面地衡量不同算法的效果。”RealAI首席科学家朱军介绍道。
（作者：杨清清 编辑：张伟贤）