三个大:大数据,大模型(深度模型),大计算量。
人工智能与人类智能差距很大。
人工智能的胜利与其说是智能的胜利,不如说是计算能力的胜利。
人脑运转只需要20瓦,训练GPT却需要耗资数百万。
人工智能三个问题:
- 对数据强依赖,需要收集标注数据;
- 推理成本很高,做不了非常经济的、像人脑这样20瓦就能做的综合决策;
- 不存在通用的、可迁移的人工智能,在一个场景下做的智能很难在另一个场景下发挥作用。
安全AI与AI的安全的区别:
阿里巴巴在2018年提出安全AI,安全是传统话题。
第一,AI可以帮助更好地解决安全问题;第二,AI发展迅速,有许多困难和缺陷,自身发展会带来很多问题,比如AI漏洞容易被黑客操纵,带来的影响可能远超过去的系统被hack;第三,AI发展迅速,很多伦理和规范跟不上,例如deepfake和自动驾驶的技术和法律法规不同步。
安全AI是一个新领域。人才主要来自两部分:传统安全,人工智能。这两个对该领域都很重要,最好兼具两种思路。
如果通用AI无法解决安全问题,怎么把安全方面的安全知识注入到AI中?
用普通人工智能解决安全问题远远不够,可能无法解决对抗的问题。
很多在AI上的创新受到传统安全启发,帮助AI变得更鲁棒。