‹ 返回文章列表

企業買方應就 AI 系統提出哪些問題

透過具體的工作流程和證據來評估一項 AI 採購。在接受擬議範圍之前,先詢問資料路徑、權限、稽核、恢復、資料保留和退出安排。

一項企業 AI 採購讓團隊承諾的,不只是一個模型或一個介面。它確立了業務資訊如何流動、誰可以使用這些資訊、系統可以更改什麼,以及出現問題時由誰承擔相應的工作。有用的評估,會在組織依賴這些承諾之前把它們具體化。

當每個問題都與一個工作流程和一種證據形式掛鉤時,供應商的回答就更容易比較。一句籠統的安全保證,並不能回答哪個角色可以匯出某條特定記錄。一場文件摘要的展示,也不能證明一項失敗的外部操作會如何處理。

請帶上您想要支援的任務、將要使用它的人員,以及所涉及的資訊。然後請供應商展示相關路徑,並指明適用於該路徑的條件。

以工作來定義採購

從一個有代表性的工作流程開始。評估內部知識助手的買方,與評估會修改客戶記錄或傳送對外訊息的 AI 智能體的買方,面對的驗收問題並不相同。

描述允許的輸入和預期的輸出。明確系統將讀取資訊、準備草稿、修改記錄,還是與組織外部進行溝通。區分驗收結果的業務負責人與配置存取權限的管理員。

這個範圍讓展示有了需要證明的內容。請供應商使用您的團隊預計分配的角色,走完一個普通用例和一個例外用例。記錄哪些步驟受支援,哪些需要人工處理,哪些不在擬議安排的範圍之內。

安森信將 Figena 打造為業務應用,它執行在支撐它的 AI 平台 Cilila 之上,平台中的每個層都有明確的職責。對買方而言,擬議的工作流程才是合適的評估單位。了解產品概覽。

追蹤上傳之後的資訊去向

詢問在任務過程中,每一類資訊會去往哪裡。一份上傳的文件,可能會被處理成提取出的文本、儲存在索引中、包含在模型請求裡,並在應用日誌中被引用。每一種表現形式都會引出關於存取、保留和刪除的實際問題。

索取擬議部署的資料流說明。它應當把應用提供方與所涉及的任何模型、儲存、支援或其他服務提供方區分開來。詢問哪些方可以處理這些資訊、出於什麼目的、在哪些約定條件下處理。

然後按類別審查資料保留。原始文件、派生索引、模型請求、營運日誌和備份,可能遵循不同的規則。詢問刪除請求如何作用於每一種表現形式,以及保留的副本在其允許的生命週期內會如何處理。

請依據適用的文件和協議來確定這些細節。把尚未解決的事項附在採購決策上,而不是把口頭答覆當作預設成立的條件。

索取與問題相匹配的證據

政策、測試和合同回答的是不同的問題。政策陳述預期的規則。展示可以展示特定配置下的行為。協議確立各方所接受的義務。有效的採購會針對每個問題使用相應形式的證據。

買方問題可索取的有用證據
這個工作流程會把我們的資訊傳送到哪裡?針對具體部署的資料流,以及適用的服務提供方清單
每個使用者角色可以讀取或修改什麼?角色矩陣,以及包含允許存取記錄和受限記錄的展示
哪些操作需要等待稽核?已配置的操作政策,以及批准和拒絕流程的逐步展示
結果不確定時會發生什麼?失敗示例、可見的狀態,以及恢復責任
不同的資料表現形式會保留多久?區分記錄、索引、日誌和備份的資料保留條款
我們如何退出該服務?匯出細節、刪除條件,以及適用的支援條款

索取的證據可以與實際需要相稱。一個小規模的內部起草試點,所需的審查可能比一個被委以重大對外操作的系統更簡單。證據的級別應當與所涉及的資訊和影響相匹配。

當供應商出示某項認證或評估時,請檢查其所屬實體、服務範圍、有效期間和排除事項。能力描述中出現某個框架名稱,並不能證明某項具體服務持有相應認證,也不能證明您計畫的用途在覆蓋範圍之內。

展示存取與操作的邊界

詢問當使用者對某個來源或目標沒有權限時會發生什麼。一場令人信服的展示應當包含受限的情況,而不只是使用一個可以存取一切的管理員帳戶。

同樣要檢查管理權限。誰可以擴大存取範圍、啟用某項操作、更改稽核規則或連接另一項服務?詢問這些變更如何被記錄,以及組織能否識別出某次具體操作所適用的政策。

對於寫入操作,跟隨一項擬議的變更走完稽核,直到看到實際觀察到的結果。確認一次批准是否針對特定的目標和載荷、如果底層記錄發生變化會怎樣,以及被拒絕或不受支援的操作如何呈現。

Guard 是安森信的治理與管控能力。在採購討論中,它能就擬議的角色、政策和操作路徑給出具體的答案。探索 Guard。

明確失敗與變更的責任

設想一個系統向另一項服務提交了一次更新,卻沒有收到回應。買方需要知道這次更新是否已經發生、由誰調查,以及重試是否會造成重複的影響。只詢問正常執行時間,就會忽略解決這種情況所需的工作。

索取一個不確定或失敗操作的示例。看看是否有操作人員能夠理解的狀態、識別相關那次嘗試的方法,以及明確的升級路徑。詢問哪些證據您的團隊可以直接取得,哪些需要提供方協助。

變更同樣需要有流程。新的模型、連接器、檢索配置或權限規則,都可能改變系統的行為。詢問供應商會通知哪些內容、哪些管控由您的管理員掌握,以及何時應當重新評估該工作流程。

始終關注業務連續性。如果 AI 輔助的步驟不可用或產生了無法使用的結果,團隊應當知道還有哪些人工流程可用,以及由誰決定啟用它。

在決策尚未確定時審視退出安排

詢問組織可以匯出哪些內容:源記錄、上傳的文件、生成的工作成果、配置,以及繼續營運所需的證據。確認匯出格式,以及記錄之間的關係在匯出後是否得以保留。

如果評估安排允許,請測試一次有代表性的匯出。下載的文件可能本身有效,卻遺漏了對下一個系統很重要的識別碼、附件或連結。在評估階段發現這一點,還留有時間去解決。

還要詢問存取如何終止、服務連接如何移除,以及終止後適用哪些刪除和保留條件。為這些步驟指定負責人,讓退出成為一個營運流程,而不是預設關閉帳戶後就自然完成的結果。

記錄驗收的依據

採購記錄應當寫明已接受的工作流程、已展示的配置、適用的文件、尚存的條件,以及負責營運的人員。一項尚未解決的條件,可能導向範圍更窄的試點、補充證據,或推遲採購。

這份記錄會讓之後的討論更加清晰。當有人提出新的角色或操作時,團隊可以把它與已接受的範圍進行比較。當服務發生變化時,團隊可以重新審視支撐最初決策的證據。最終得到的,是一項建立在具體工作、可觀察的行為以及組織所理解的職責之上的採購。