编者按：最近ChatGTP很火，上线不到一周用户突破100万 ChatGPT火爆全网， Axios的首席技术记者Ina Fried的这篇小文提醒大家，人工智能中人的因素是最重要的，DAMA中国主席胡本立先生推荐此文，建议持续探索“人与数据”背后的深刻关系。
插图：Rebecca Zisser/Axios
很容易看到利用最新的算法编写故事或从文本创建图像等类似事情的报道，并认为人工智能已准备好承担各种人工任务。但专家们坚持认为，随着人工智能系统日益强大的力量，让人类参与其中变得比以往任何时候都更加重要。
为什么重要：基于人工智能的计算机系统正被用来处理一系列日益重要的任务。虽然经过机器学习训练的系统在很多事情上做得很好，但它们也可能自信地犯错——这是一种危险的组合。
• 许多当今最强大的 AI 系统旨在对任何问题都要提供一个看上去令人信服的回答，而不管准确性如何。
• “如果你不知道，你应该直接说你不知道，而不是编造一些东西，”斯坦福大学研究员 Percy Liang 周四在斯坦福大学的一次活动中发言说。
Liang 启动了一个项目，根据从准确性到透明度的一系列因素评估最新的机器学习模型。
• 他说，目标是创建类似于消费者报告的东西，人们可以在其中了解基础人工智能模型的优缺点，例如来自 Meta、谷歌和 OpenAI 的模型。
事实只是这张照片的一部分。人工智能系统提供答案的基础是什么，以及谁从中受益也很重要。
• 从历史上看，计算机系统主要是为使用它们的人设计的。
• 但是，例如，选择刑事判决的算法不仅需要为它所建议的法官服务，还需要为犯罪受害者、犯罪者和整个社会服务。
• 例如，许多美国人会觉得它应该考虑监禁很大一部分非裔美国成年男性人口的影响。
这并不意味着“要求神经网络来理解种族主义，”斯坦福大学以人为本的人工智能研究所联合创始人詹姆斯兰迪周四在与记者的为期一天的聚会上说。
• “它要求构建系统的团队理解种族主义。这不是通常构建这些系统的计算机科学家能够处理的问题。”
大局观：多年来，人工智能研究人员一直在理论上讨论如何以负责任的方式设计此类系统，以及在人类和计算机之间划分工作的未来。然而，大量强大的新系统使这些问题变得更加紧迫。
言外之意：对于所有关于计算机取代甚至复制人类活动的讨论，它们最强大的用途可能是帮助人类更好地完成工作。
• “只是简单地模仿人类是微不足道的，”斯坦福大学教授 Erik Brynjolfsson 在活动中说。“矛盾的是它也太难了。”
• 这是因为计算机擅长人类无法完成的任务，从处理大量数据到洞察发现，这些即使是熟练的研究人员也可能会做的不是很完美。
• 与此同时，从测量采摘蓝莓所需的微妙压力到在崎岖不平的小路上行走，计算机和机器人在所有方面仍然无法与人类匹敌。
缩小范围：人工智能成果的公平分配将取决于它是否用于取代人类，这往往会压低工资，抑或相反，从而推高工资，Brynjolfsson 认为。
• 他说，在过去的一个世纪里，我们主要使用技术来提高个体工人的工作效率，从而提高生活水平。
• 不过，近年来，我们一直在制造更多的机器来代替人类。这进一步将财富集中在更少的人手中，而那些受过高中或更少教育的人面临更高的绝望、吸毒和自杀率。
• “对于我们大多数人来说，这可能不是我们想要生活的世界，”Brynjolfsson 说。
更加聪明：Brynjolfsson说，将人和计算机配对可能对社会有利，它也可以为企业带来更好的结果。
• Brynjolfsson 指出，在自动化呼叫中心中，您可以用机器代替人，导致客户失望。或者你可以选择他所建议的公司 Cresta，该公司的系统会监控呼叫并向人工呼叫中心工作人员提供建议。
• 这可以为公司节省资金、维持工作并带来更快乐的客户，Brynjolfsson 说：“让人类参与循环似乎效果更好
关于作者： Ina Fried 是Axios的首席技术记者。她负责撰写了Axios Login每日通讯，以多年的硅谷经验，为科技提供了明智的选择。