还记得生成式AI的早期吗？就在几年前，当首批强大模型发布时，一些实验室因担心可能被滥用而限制访问，这种谨慎在当时看来几乎有些迂腐。那些模型虽新颖却常不稳定，输出结果粗糙，实际应用有限。如今再看，这种谨慎却显得颇有先见之明。这些系统的成熟度和能力以惊人速度发展，将使讨论从对未来风险的理论辩论转向一个紧迫的实际问题：我们如何维持安全控制？

尽管这一问题涉及关于强大技术的长期争论，但其中的风险前所未有。我们正处于未知危害与巨大可能性交织的关键节点，就像曾经使用无屏蔽X光机测量鞋码、对长期风险一无所知的时期。当行业大多沉迷于AI的能力时，这种对功能的关注却忽略了一个更基础的挑战，为这些自主系统建立明确且可执行的安全管理规则。

数十年来，硅谷的信条（在某种程度上至今仍是）“快速行动，打破陈规”。这种模式尽管具有创造力，但在处理能够自主生成新型攻击的技术时却难以为继。可能造成广泛且不可逆的损害，要求我们确立一种扎根于深思熟虑、审慎控制的新理念。

正因如此，本期【CXO视点】特邀Palo Alto Networks（派拓网络）杰出软件工程师Dr. Nicole Nichols，从一线技术治理与系统设计视角，深入探讨如何为高自主性AI建立可信、可控、可协作的安全基座。在她看来，构建真正的AI安全不仅需打破“快速行动、打破陈规”的传统范式，更需以架构级的控制能力和行业协同，践行以“AI准则”为核心的新社会契约。本期将为您解析这一系统性安全框架的实施路径与关键原则。

明确交互规则

安全部署具备网络能力的强大AI的唯一途径，是始于一份新的社会契约，我称之为“AI准则”。这是一个清晰的技术与操作指南，用于界定AI的明确边界和禁止用途。它要求在模型发布前进行严格、前瞻的攻防能力评估，以了解其被武器化的潜在可能。

这一准则必须成为评估整个AI生命周期的基础。它应确保AI供应链的完整性，我们系统的数字钢筋混凝土。它必须作为内部和外部专家红队测试系统隐藏漏洞（尤其是关键基础设施系统）的基准，并且必须在部署任何代码之前作为独立验证的标准。

不容妥协：控制架构

然而，若没有技术措施和控制手段的强制执行与对齐，这些原则将毫无意义。该框架的第二个也是最关键的部分，是一个健全的控制架构，其核心是在AI行为超出既定边界时立即撤销其访问权限，这一能力不容妥协。

该能力必须深入系统设计的核心。控制架构需要坚定承诺透明度，并对最强大功能的访问进行严格控制。它要求新的认证和验证标准，以在复杂的智能体生态系统中核实交互行为。同时，它必须致力于在高风险情境中实行“人在环中”治理，确保最终的问责始终属于人，而非算法。

呼吁建立新的控制标准

这一挑战超越任何单一组织。尽管社会必须就伦理“红线”（例如AI是否应自主操纵关键基础设施）进行辩论，但我们技术人员的使命有所不同，我们需要开创技术措施与控制手段，使任何规则的执行成为可能。这需要一种全新的、更根本的协作形式，共同构建AI安全的基础架构。

这种根本性协作之所以必要，是因为AI安全控制是一项共同成本。消费者和企业购买产品是因其功能，而非安全限制。人们不太可能仅因安全带而选择一辆车；但安全带却是汽车安全标准中不容妥协的部分。打造这类“AI安全带”的复杂性使其成为一项重大的工程挑战，而灾难性失效的普遍风险意味着没有任何单一实体能够或应该独自承担这一负担。正因如此，我们必须共同承担这项努力，使集体防御成为经济与安全的必然要求。

我们对AI施加的控制之智慧，而非我们所构建AI的能力，将决定我们创造的遗产。这项工作的第一步是具体的：共同承诺建立一个通用框架，用于评估系统的能力及在部署时调控该能力的技术手段。是的，这是一项艰巨但必要的工作，但它也将确保我们走向一个安全的、AI赋能的美好未来。