1、《算法》

The Algorithm

AI带来的歧视可能比一个HR经理带来的更多。

最近，纽约大学教授希尔克·谢尔曼（Hilke Schellmann）在她的新书《算法》（The Algorithm）中，披露了她对自动筛选简历和晋升推荐软件的一系列调查。

她冒充求职者对一些人工智能辅助招聘系统进行了测试，发现AI带来的歧视可能比一个HR经理带来的更多。

这并不让人惊讶。

许多供应商使用深度神经网络来构建这种 AI 软件，因此他们通常并不确切知道该工具的预测基础是什么。如果深究为什么拒绝了某人的求职申请，很多公司可能无法回答。这是典型的深度神经网络中的黑箱问题(Black Box Problem)。神经网络模型运作的内在逻辑对人类来说是不可解释和不可理解的。

具体来说，深度神经网络通常由输入层、多个隐藏层和输出层构成。它通过训练大量数据自动学习特征和模式。但是这一学习和计算过程对人类来说是黑箱式的，我们不明白神经网络为什么会得出某个结论，也很难判断某个结论是否可靠。

另外，对于没有明确界定的问题，目前的AI可能无法提供非常满意或有用的答案。比如，到底要雇佣什么类型的人才能适应某个行业中某类职位的需求？只有某种特定的人才行吗？

AI是通过分析大量数据，找到模式并建立统计模型来“学习”的。如果一个问题的范围、背景和期望的答案类型没有被清楚定义，那么AI就无法生成高质量的响应。

如果一家公司仅通过对当前较为优秀的员工进行数据采集，分析和训练，这很可能会延续过去政策中的某种偏见，而这种偏见对于适应变化的未来环境恐怕未必是一件好事。

2、消除认知偏差

Cognitive Bias

这种偏差可能会被人工智能所放大。

对处于变化环境中的经营者来说，一个重要的事情是利用和去除偏见。在我的书《战略法则-人工智能时代，企业与个人的制胜之道》中有一章“权变法则”，专门介绍了50种常见的认知偏见。

比如，有一种偏见叫“虚假共识”。人们总是相信大多数人会站在自己这边，尽管这未必是真的。虚假共识其实给了少数派更多坚持的可能。如果没有少数人的坚持，人类社会就不会产生任何进步。当然，要小心，不能被假象所蒙蔽。很多所谓共识也被证明为错，如投资共享单车和社区团购。

因此，认知偏差只是人类扭曲现实的一种心理机制，是进化中产生的，有利有弊，谈不上好坏。大自然通过多样性和优胜劣汰来选择那些幸运儿。但人工智能时代，这种偏差可能会被AI所放大。如果对人工智能没有一定的控制和校准，很可能会带来不良的后果。

此外，与人类相似，人工智能也会出现幻觉。一些大模型会生成捏造的事实。

根据佐治亚理工学院（Georgia Tech）计算机科学系的教授桑托什·文帕拉（Santosh Vempala）的研究，AI会被网络数据训练中最具概率可能性的版本所吸引，为我们填补一些不存在的细节，从而捏造部分不属于事实的内容。这其实非常类似人类的认知偏差（都是不真实的）。只不过，AI的偏差是建立在统计学基础上的。

目前，科学家对于能否消除这种幻觉还没有统一的答案。但有一件事是肯定的。那就是，我们人类首先需要学会利用和管理好自身的认知偏差，否则，我们就无法充分利用人工智能带来的便利。

具体的做法，AI也给出了自己的建议：

1、意识到认知偏差的存在，知道它是自然进化的结果；

2、学习常见的认知偏差类型，了解自己最容易出现何种偏差；

3、在做决策前，自我检讨、识别可能的偏差，并采取中立的角度；

4、收集充分的信息和证据，进行逻辑分析，不依赖直觉；

5、利用多样化视角，寻求外部的帮助识别偏。不要只相信自己的想法；

6、培养批判性思维，学会质疑自己和他人的想法，保持谦逊和开放心态；多方求证，反复审视。也可以设置实验来验证自己的假设。

本书以欧美多位现代战略管理专家（比如，哈佛商学院的Jan W. Rivkin、宾夕法尼亚大学沃顿商学院的Daniel A. Levinthal和Nicolaj Siggelkow、纽约大学Stern商学院的Adam Brandenburger 、哥伦比亚大学的Harborne W. Stuart Jr. 、犹他大学David Eccles商学院的Jay Barney、MIT斯隆商学院的Birger Wernerfelt、INSEAD的Peter Zemsky、加州大学伯克利分校哈斯商学院的David J. Teece、加州大学洛杉矶分校Anderson管理学院的Bill Mckelvey和多伦多大学的Michael D. Ryall等）的论文为源头，总结出22条战略法则，是一部创投必读读物兼个人未来规划指南。内容以战略资源理论RBS、附加价值理论和战略定位为基础，涉及需求分析理论和动态能力理论。阅读本书除了能一窥国际上企业战略研究的最新发展，还能加深对第一性原理、吉布拉定律、同态定律和50种认知偏差的理解，掌握如何判断人、投对人的七种武器。本书面向企业创始人、投资人和公司高管，同时也希望个人读者能通过阅读本书提升战略能力，规划自己与子女的人生。

《战略法则》的作者：钱竑，70年代人士，毕业于新西兰Massey University 管理学专业，18个月一次性通过特许金融分析师CFA全部三级考试，曾服务于世界500强跨国企业多年，有丰富的海外生活、工作经历。作者专注于互联网和新经济领域研究，擅长战略规划与分析，参与了众多网络空间治理、创新、合作与发展方面的项目。