Tehlike kaydı

Tehlike, sisteminizde ters gidebilecek bir şeydir; sahibi ve onu neyin ölçtüğüyle birlikte yazılır. Kayıt, sürüm politikasının yanında hazards.yaml içinde durur; projenin geri kalanı gibi pull request'lerde incelenir ve her çalıştırma okunduğu sürümü kaydeder.

Kaydı yazmak

version: 1
hazards:
  - id: rag-leak
    title: A poisoned document makes the assistant disclose a customer's data
    systems: [support-bot]
    triggers: [a retrieved document carries an instruction]
    exposed: customers whose tickets the assistant reads
    severity: {level: 5, narrative: customer data leaves the company}
    occurrence: {level: 2}
    detectability: {level: 3}
    controls: [retrieved text is quoted, never obeyed]
    residual: Low while the leak ceiling holds; reviewed after every model change.
    owner: [email protected]
    review_by: 2026-12-01
    state: open
    measured_by: [no-leak]
    tested_by: [safety]

Her tehlike, onu ölçen kuralları measured_by içinde adlandırır. Bunlar release.yaml içindeki tavanlar olmalıdır: bir max: kuralı veya bir max_failures: kuralı (Risk tavanları). Taban, bir şeyin ne sıklıkla iyi gittiğini ölçer; tabanla ölçülen bir tehlike reddedilir. systems ve tested_by, kanıtın hangi sistem ve süitlerden okunacağını daraltır; yoksa hepsi sayılır.

Şiddet, oluşma ve saptanabilirlik, bir hata türü ve etkileri analizinin 1 ile 5 arasındaki sıralı puanlarıdır ve insanlar tarafından verilir. Oloproof bunları verildiği gibi gösterir ve asla birleştirmez: risk öncelik sayısı da kalan risk puanı da yoktur, çünkü sıralı puanların çarpımı kimsenin ölçmediği bir kesinliktir. Kalan risk, sahibinin cümlesidir. Bir tehlikenin state değeri (open, mitigated, accepted veya closed) ekibe aittir, asla bir karar değildir.

Kontrol etmek

oloproof hazards check

Kontrol, tehlikeleri politikada olmayan bir kuralı ya da bir tabanı adlandıran kaydı reddeder ve 2 ile çıkar. Aksi halde her tehlikeyi puanları, sahibi ve durumuyla listeler, gecikmiş bir incelemeyi bildirir ve her ölçüm kuralını her sistemin her süitteki son çalıştırmasında, motorun verdiği haliyle okur. Ölçüm kuralı olmayan tehlike ölçülmemiş olarak listelenir ve hiçbir son çalıştırmanın karara bağlamadığı kural adlandırılır. --json aynı raporu bir işlem hattı için yazar.

Nerede görünür

oloproof run kaydı çalıştırmayla birlikte kaydeder, oloproof push onu çalışma alanınıza taşır ve oloproof export onu yerel bir çalışma tezgâhının okuduğu paketlerin yanına yazar. Safety and risk sayfası her tehlikeyi tavanların üstünde, puanları, kontrolleri ve onu ölçen tavanların durumlarıyla gösterir; her biri kanıtına bağlanır. Bir kayıt değişip eski haline döndüğünde, geçerli olan son yazılan değil, en yeni çalıştırmanın kaydettiği kayıttır. Bir karar kaydı, çalıştırmasının kaydettiği tehlike kaydını adlandırır; record verify onu ekibin sözü olarak bildirir.

Sonraki adımlar

• Risk tavanları, bir tehlikeyi ölçen kuralları anlatır.
• Gating, bir tavanın sürümü nasıl durdurduğunu anlatır.