企业买方应就 AI 系统提出哪些问题
通过具体的工作流和证据来评估一项 AI 采购。在接受拟议范围之前,先询问数据路径、权限、审核、恢复、数据保留和退出安排。

一项企业 AI 采购让团队承诺的,不只是一个模型或一个界面。它确立了业务信息如何流动、谁可以使用这些信息、系统可以更改什么,以及出现问题时由谁承担相应的工作。有用的评估,会在组织依赖这些承诺之前把它们具体化。
当每个问题都与一个工作流和一种证据形式挂钩时,供应商的回答就更容易比较。一句笼统的安全保证,并不能回答哪个角色可以导出某条特定记录。一场文档摘要的演示,也不能证明一项失败的外部操作会如何处理。
请带上您想要支持的任务、将要使用它的人员,以及所涉及的信息。然后请供应商展示相关路径,并指明适用于该路径的条件。
以工作来定义采购
从一个有代表性的工作流开始。评估内部知识助手的买方,与评估会修改客户记录或发送对外消息的 AI 智能体的买方,面对的验收问题并不相同。
描述允许的输入和预期的输出。明确系统将读取信息、准备草稿、修改记录,还是与组织外部进行沟通。区分验收结果的业务负责人与配置访问权限的管理员。
这个范围让演示有了需要证明的内容。请供应商使用您的团队预计分配的角色,走完一个普通用例和一个例外用例。记录哪些步骤受支持,哪些需要人工处理,哪些不在拟议安排的范围之内。
安森信将 Figena 打造为业务应用,它运行在支撑它的 AI 平台 Cilila 之上,平台中的每个层都有明确的职责。对买方而言,拟议的工作流才是合适的评估单位。了解产品概览。
追踪上传之后的信息去向
询问在任务过程中,每一类信息会去往哪里。一份上传的文档,可能会被处理成提取出的文本、存储在索引中、包含在模型请求里,并在应用日志中被引用。每一种表现形式都会引出关于访问、保留和删除的实际问题。
索取拟议部署的数据流说明。它应当把应用提供方与所涉及的任何模型、存储、支持或其他服务提供方区分开来。询问哪些方可以处理这些信息、出于什么目的、在哪些约定条件下处理。
然后按类别审查数据保留。原始文件、派生索引、模型请求、运营日志和备份,可能遵循不同的规则。询问删除请求如何作用于每一种表现形式,以及保留的副本在其允许的生命周期内会如何处理。
请依据适用的文档和协议来确定这些细节。把尚未解决的事项附在采购决策上,而不是把口头答复当作默认成立的条件。
索取与问题相匹配的证据
政策、测试和合同回答的是不同的问题。政策陈述预期的规则。演示可以展示特定配置下的行为。协议确立各方所接受的义务。有效的采购会针对每个问题使用相应形式的证据。
| 买方问题 | 可索取的有用证据 |
|---|---|
| 这个工作流会把我们的信息发送到哪里? | 针对具体部署的数据流,以及适用的服务提供方清单 |
| 每个用户角色可以读取或修改什么? | 角色矩阵,以及包含允许访问记录和受限记录的演示 |
| 哪些操作需要等待审核? | 已配置的操作策略,以及批准和拒绝流程的逐步演示 |
| 结果不确定时会发生什么? | 失败示例、可见的状态,以及恢复责任 |
| 不同的数据表现形式会保留多久? | 区分记录、索引、日志和备份的数据保留条款 |
| 我们如何退出该服务? | 导出细节、删除条件,以及适用的支持条款 |
索取的证据可以与实际需要相称。一个小规模的内部起草试点,所需的审查可能比一个被委以重大对外操作的系统更简单。证据的级别应当与所涉及的信息和影响相匹配。
当供应商出示某项认证或评估时,请检查其所属实体、服务范围、有效期间和排除事项。能力描述中出现某个框架名称,并不能证明某项具体服务持有相应认证,也不能证明您计划的用途在覆盖范围之内。
演示访问与操作的边界
询问当用户对某个来源或目标没有权限时会发生什么。一场令人信服的演示应当包含受限的情况,而不只是使用一个可以访问一切的管理员账户。
同样要检查管理权限。谁可以扩大访问范围、启用某项操作、更改审核规则或连接另一项服务?询问这些变更如何被记录,以及组织能否识别出某次具体操作所适用的策略。
对于写入操作,跟随一项拟议的变更走完审核,直到看到实际观察到的结果。确认一次批准是否针对特定的目标和载荷、如果底层记录发生变化会怎样,以及被拒绝或不受支持的操作如何呈现。
Guard 是安森信的治理与管控能力。在采购讨论中,它能就拟议的角色、策略和操作路径给出具体的答案。探索 Guard。
明确失败与变更的责任
设想一个系统向另一项服务提交了一次更新,却没有收到响应。买方需要知道这次更新是否已经发生、由谁调查,以及重试是否会造成重复的影响。只询问正常运行时间,就会忽略解决这种情况所需的工作。
索取一个不确定或失败操作的示例。看看是否有操作人员能够理解的状态、识别相关那次尝试的方法,以及明确的升级路径。询问哪些证据您的团队可以直接获取,哪些需要提供方协助。
变更同样需要有流程。新的模型、连接器、检索配置或权限规则,都可能改变系统的行为。询问供应商会通知哪些内容、哪些管控由您的管理员掌握,以及何时应当重新评估该工作流。
始终关注业务连续性。如果 AI 辅助的步骤不可用或产生了无法使用的结果,团队应当知道还有哪些人工流程可用,以及由谁决定启用它。
在决策尚未确定时审视退出安排
询问组织可以导出哪些内容:源记录、上传的文档、生成的工作成果、配置,以及继续运营所需的证据。确认导出格式,以及记录之间的关系在导出后是否得以保留。
如果评估安排允许,请测试一次有代表性的导出。下载的文件可能本身有效,却遗漏了对下一个系统很重要的标识、附件或链接。在评估阶段发现这一点,还留有时间去解决。
还要询问访问如何终止、服务连接如何移除,以及终止后适用哪些删除和保留条件。为这些步骤指定负责人,让退出成为一个运营流程,而不是默认关闭账户后就自然完成的结果。
记录验收的依据
采购记录应当写明已接受的工作流、已演示的配置、适用的文件、尚存的条件,以及负责运营的人员。一项尚未解决的条件,可能导向范围更窄的试点、补充证据,或推迟采购。
这份记录会让之后的讨论更加清晰。当有人提出新的角色或操作时,团队可以把它与已接受的范围进行比较。当服务发生变化时,团队可以重新审视支撑最初决策的证据。最终得到的,是一项建立在具体工作、可观察的行为以及组织所理解的职责之上的采购。