Co-Intelligence

1. AI：我们身边的外星智慧

我们发明了从斧头到直升机等增强我们身体能力的技术；还有像电子表格这样的技术，自动化复杂任务；但我们从未构建过一种可以普遍提升我们智力的技术。

一种新形式的智能。 像ChatGPT这样的大型语言模型（LLM）代表了人工智能的突破，展现出几乎人类般的能力。与之前专注于狭窄任务的AI系统不同，LLM可以进行类似人类的对话，生成创意内容，并在各个领域解决复杂问题。

快速采用和影响。 LLM的发展和采用速度前所未有。ChatGPT比历史上任何产品都更快地达到了1亿用户。这种快速融入日常生活和工作流程，正在重塑我们与技术和彼此的互动方式。

伦理和社会影响。 能模仿人类智能的AI的出现，引发了关于意识、本质和未来工作的深刻问题。随着这些系统变得更加先进，社会必须应对AI对齐问题，确保这些强大的工具服务于人类利益，而不是可能对其造成伤害。

2. 锯齿状前沿：AI的不可预测能力

给AI测试总是有问题，因为答案可能在其训练数据中，这实际上允许它通过提前知道答案来作弊。

不均衡的能力。 AI的能力在任务之间分布不均。一些人类觉得困难的任务，AI可以轻松完成，而一些对我们来说看似简单的任务，对AI来说却很具挑战性。这创造了一个难以预测或绘制的AI能力“锯齿状前沿”。

幻觉和局限性。 尽管LLM的能力令人印象深刻，但它们容易产生“幻觉”——生成看似合理但不正确的信息。它们并不真正理解或知道事实，而是根据训练数据中的模式预测可能的词序列。

评估和使用的影响。 锯齿状前沿和幻觉的可能性使得准确评估AI能力或在没有人类监督的情况下依赖它们完成关键任务变得具有挑战性。理解这些局限性对于有效地将AI整合到工作流程和决策过程中至关重要。

3. 对齐：确保AI服务于人类

对齐AI不仅需要阻止潜在的外星神，还需要考虑这些其他影响以及构建反映人类的AI的愿望。

存在风险。 一些AI研究人员担心，如果超级智能AI未能与人类价值观和目标对齐，可能会对人类构成存在风险。这种“对齐问题”是AI伦理和发展的核心关注点。

即时伦理挑战。 除了长期风险，当前的AI系统还提出了更为紧迫的伦理挑战：

• AI决策中的偏见和公平问题
• 与用于训练的数据相关的隐私问题
• 在创建虚假信息或操纵人们方面的潜在滥用
• 对工作和经济不平等的影响

多方面的对齐方法。 解决AI对齐问题需要在多个方面努力：

• 使AI系统更加透明和可控的技术解决方案
• AI开发和部署的伦理指南和法规
• 公众教育和参与，以塑造AI在社会中的未来
• 持续进行AI安全和有益AI开发的研究

4. 与AI合作的四项原则

始终邀请AI参与。

原则1：始终邀请AI参与。 在各种任务中尝试AI，以了解其能力和局限性。这种探索使你能够成为在特定领域应用AI的专家。

原则2：成为循环中的人类。 在使用AI时保持监督和批判性思维。人类判断对于验证AI输出和确保伦理使用仍然至关重要。

原则3：像对待人一样对待AI（但告诉它是什么样的人）。 通过赋予AI特定的角色或身份来框定与AI的互动。这可以导致更有针对性和有效的响应。

原则4：假设这是你将使用的最差的AI。 AI能力正在迅速提高。保持对新发展的开放态度，并准备好迎接AI变得越来越强大的未来。

5. AI作为创意伙伴：增强人类能力

即使有一台可以制造任何东西的机器，我们仍然会默认使用我们熟悉的东西。

增强创造力。 AI展示了非凡的创造能力，通常在标准创造力测试中表现优于人类。然而，它的真正力量在于增强人类的创造力，而不是取代它。

民主化创意表达。 AI工具使得艺术技能有限的人能够以新的方式表达自己。这种创意的民主化有可能释放大规模的人类潜力。

挑战和伦理考量：

• 由于人们过度依赖AI生成的内容，可能导致原创性的丧失
• AI生成作品的版权和归属问题
• 在AI时代重新定义创造力和作者身份的必要性

6. 工作场所革命：AI作为同事

即使你能一夜之间用AI取代医生，患者会愿意被机器看诊吗？责任规则如何运作？其他医疗专业人员如何调整？

任务转型。 AI通过自动化或增强许多任务，特别是在知识密集型领域，正在重塑工作。这并不一定意味着工作被取代，而是工作性质的转变。

生产力提升和技能平衡。 研究表明，AI可以显著提高生产力，特别是对表现较差的工人。这有可能减少组织内部的绩效差距。

适应策略：

• “半人马”方法：人类与AI之间的战略性劳动分工
• “赛博格”方法：将AI深度整合到人类工作流程中
• 专注于独特的人类技能和专业知识
• 重新构想组织结构和流程，以利用AI能力

7. 在AI时代重新想象教育

AI可以帮助我们繁荣，因为它使我们无法再忽视一个事实：很多工作真的很无聊，并且没有特别意义。

家庭作业的末日。 AI完成作业和写论文的能力迫使教育者重新思考传统的评估方法和家庭作业的目的。

AI作为导师和学习伙伴。 AI有潜力提供个性化、适应性的学习体验，可能解决教育中的“两西格玛问题”。

教育重点的转移：

• 强调批判性思维和创造力，而不是死记硬背
• 教授AI素养和与AI工具的有效合作
• 为快速变化的就业市场做准备
• 利用AI创造更具吸引力和互动性的学习体验

8. AI作为教练：增强专业知识和学习

问题在于，为了学会批判性思考、解决问题、理解抽象概念、推理新问题并评估AI的输出，我们需要学科知识。

建立基础知识。 尽管AI拥有庞大的知识库，人类专家仍然需要扎实的事实和理解基础，以有效地与AI合作并评估其输出。

与AI的刻意练习。 AI可以通过提供即时反馈、个性化挑战和持续评估来增强刻意练习的过程。

重新定义专业知识：

• 从记忆转向有效的信息综合和应用
• 发展与AI合作和提示工程的技能
• 培养同情心、创造力和复杂问题解决等独特的人类能力

9. 四种未来：AI对社会影响的情景

理论上没有理由认为这不可能发生，但也没有理由怀疑它可能发生。世界上有AI专家支持这两种观点。

情景1：尽善尽美。 AI能力达到顶峰，导致渐进的改进，但没有重大突破。社会适应当前的AI能力，而不会发生根本性变革。

情景2：缓慢增长。 AI以稳定、可控的速度继续改进。这允许社会、经济和教育系统逐步适应。

情景3：指数增长。 AI的快速进步导致剧烈的社会变化，可能包括广泛的工作替代和对新经济模式的需求。

情景4：机器神。 AI达到或超越人类智能，根本改变人类在世界中的地位，并引发关于我们未来的存在性问题。

为不确定的未来做准备：

• 制定灵活的政策和法规，以适应不同的AI情景
• 投资于AI安全研究和对齐工作
• 促进公众对AI开发伦理影响的对话
• 优先考虑人类与AI的合作和共存，而不是替代

Last updated: July 21, 2024