AI 的先驱们正在为这项技术的哪种危险最可怕而争论不休。末日论者担心，被训练来寻求奖励的 AI 系统最终可能会有隐藏的追求权力的冲动，在执行我们的愿望时无意中伤害人类，或者干脆超越人类，掌握我们的命运。AI 伦理与公平领域的专家们担心的是这些工具如何无意或有意地剥削工人、加深数以百万计人的不平等。他们希望科技公司和监管机构执行培训标准和技术，以减少这种威胁。一些伦理学研究者表示，他们并不完全否定有关人类生死存亡的风险，只是认为应该把这作为有更明确定义的现有问题的一部分来解决。一些末日论者认为，通向灾难的道路很可能来自伦理学界所强调的问题，比如大量炮制的虚假信息导致政府被推翻或引发战争的后果。双方都希望能够揭开 AI 思考方式的黑箱，即所谓的可解释性问题。

https://cn.wsj.com/articles/ai%E5%AF%B9%E4%BA%BA%E7%B1%BB%E6%9C%89%E5%A4%9A%E5%A4%A7%E5%A8%81%E8%83%81-%E8%BF%9E%E7%A7%91%E6%8A%80%E9%A2%86%E8%A2%96%E4%B9%9F%E8%8E%AB%E8%A1%B7%E4%B8%80%E6%98%AF-2e70b66e