跳至主要內容

指南

從這裡開始

Oloproof 做什麼、何時該用、何時不該用,以及閱讀這些指南的順序:從對一個應用的第一次評估,到比較版本、審核、CI 和精確的契約。

Oloproof 做什麼

Oloproof 在一組固定的案例上執行你的 AI 應用,用你選擇的評估器檢查每個輸出,並把結果轉化為帶區間的比率。隨後,你編寫的發布政策把每條規則判定為 PASS、FAIL、INSUFFICIENT_EVIDENCE 或 MANUAL_REVIEW,命令以該決策作為結束代碼,CI 便可以使用它。一切都在你的機器上執行;除非你把一次執行推送到託管工作區,否則任何資料都不會離開它。這些術語在核心概念中有定義。

當你需要知道一個應用在你信任的案例上是否達到了既定標準、這個回答有多可靠、以及一次變更讓它變好還是變差時,就用它。Oloproof 呼叫你的系統;它不託管、不隔離也不重置你的系統,你的應用自己負責其狀態、會話和工具副作用。關於針對每類系統哪些已經建置、哪些尚未建置,請在投入使用之前閱讀目前可用的功能。

這些指南描述的是 Oloproof 0.1.0a5。pip show oloproof 會印出你已安裝的版本;較舊的版本可能缺少這裡展示的某個命令或標誌,例如 oloproof init --example,而 pip install --upgrade --pre oloproof 會把它更新到最新。

使用路線

步驟你要做的事閱讀
1瞭解 Oloproof 做什麼以及何時使用本頁、核心概念、目前可用的功能
2評估你的第一個應用,不需要基準快速入門
3為你的系統類型選擇一份指南下面的表格
4檢視失敗並理解結果套件、錯誤、叢集案例、切片
5修改系統並比較版本比較、比較規則
6加入人工審核、協作和 CI評審、閘門、CI、通知
7查閱精確的技術契約設定、SDK 參考、結果、CLI

第一次評估不需要基準:它問的是你的應用的一個版本是否滿足你的要求。比較兩個版本是第 5 步的事,等你有了一次值得拿來比較的執行之後。

選擇你的系統類型

你的系統從這裡開始
分類器、路由器或結構化輸出(一個標籤、一個 JSON 物件)分類
自由文字:回答、摘要、資訊抽取文字生成
通過 HTTP 訪問的服務,任何語言均可HTTP 端點
檢索增強生成RAG
使用工具的代理,或多個代理代理
訓練好的預測模型(分類或迴歸)預測模型
多輪對話對話

圖像、音頻和視頻沒有原生支援:案例可以通過你的系統攜帶一個 URL 或編碼後的檔案,自定義評估器可以檢查輸出,但評審只能看到 JSON 文字。