关注【程序员云课堂】,加入技术交流群
算法在我们的印象中一直是一个白衣骑士,提高了商业效率,改善了我们的生活,让我们变得更加智能。但是作为一个算法和人工智能的 “行内人”,我们来谈一谈算法“邪恶”的另一面。
在凯西·奥尼尔在新书《算法霸权》中,告诉了我们一个完全不同的故事。在奥尼尔的故事里,算法并没有带给人们它所承诺的美好。
相反,它可能破坏这个社会所赖以良好运行的基础,让它变得既不公平,也没效率。
首先,让我们来谈一谈算法破坏公平性。
首先是根据一个大数据下的整体而言,而不是一个个体,当然,如果你是有个性的个体可以除外。
现在有些公司用特定算法的机器学习助手来面试,但如果你是一个低学历但是能力很强的人,你觉得算法会让你通过吗?学历很好量化。能力强弱,你觉得算法可以量化吗?
还有在商业化上,算法肯定是面向大部分人做的推荐系统,那如果碰巧你是一个残疾人或者穷人呢?
这些不是天方夜谭,而是正在发生的。
提到算法,另一点就是效率。
算法会用来考核人的行为、商业评估等,那么这其中就会涉及数据造假的问题,只要你创造了假数据,算法是完全没办法识别的,本来是代替人的算法,因为各种突发情况,效率会变得低下。
还有一个更严重的问题就是,算法对人类这样一个独立、自由的物种来说,是一个侵害。正如尤瓦尔·赫拉利在《人类简史》中提到的观点“独立自由是人类一个重要的基石,但是面对越来越强大的机器学习和算法,你的决策权到底会不会被代替。”
关注【程序员云课堂】,加入技术交流群
这么说有点玄乎,我们举个例子吧,美国著名的女影星朱莉,听从算法预测她有较大的概率换上乳腺癌,她毅然决然的切除乳腺。试问在面对越来越强大的大数据和算法面前,你还有多大的自主权?
这个是明面上的,那么各种信息流推荐你喜欢的内容,抖音等软件让你停不下来,不断的刺激你的多巴胺…你觉得是你在控制手机,还是手机在控制你呢?
但其实面对算法,我们也没必要悲观,我们要合理地、多面地看待它,克制使用它。
“克制使用”离不开一个监督,我觉得就是“公开透明”,把软件获取用户的数据公开透明地让用户知道,把算法的规则让用户知道,而不是一个不受监管的黑盒。
以上观点,你怎么看?欢迎留言讨论!
关注【程序员云课堂】,加入技术交流群