A
Ahmet Ö.
Guest
- Konu Yazar
- #1
KOD KANUN DEĞİLDİR
Ekli dosyayı görüntüle 457SIP-001 ve Makinenin Anayasası
Kod
{ "verdict": "DENY" }Otomasyon dünyasında yıllardır aynı şeyi yapıyoruz:
Makineye ne yapacağını söylüyoruz.
Ama kimse şu soruyu sormuyor:
İşte temel problem burada başlıyor:Kod, kanun değildir.
Otomasyon “NASIL”ı Bilir, “NİYET”i Bilmez
Geleneksel PLC ve otomasyon yazılımları şuna odaklanır:
- Giriş / çıkış
- Koşul / aksiyon
- IF → THEN
Ama şu soruyu asla sormaz:
Çünkü yazılım:
- Kendi eylemini yargılayamaz
- Kararının etik, yasal ve güvenli olup olmadığını bilemez
Bu yüzden artık:
SIP-001 Nedir?
Kod Değil, Makinenin Anayasası
SIP-001 bir script değildir.
Bir programlama dili hiç değildir.
SIP-001 şudur:
Yani:
- Ne yapılacağını söylemez
- Yapılmak istenenin meşru olup olmadığına karar verir
Önemli fark:
SIP-001 Ne Yapar?
Bir eylem talebi geldiğinde şuna bakar:
- Fizik kurallarına aykırı mı?
- İş güvenliği ve regülasyonlara uygun mu?
- Yetki hiyerarşisini ihlal ediyor mu?
Sonuç sadece 3 ihtimaldir:
- ALLOW → Güvenli, devam et
- DENY → Yasak
- WARN → Riskli ama izinli (sorumluluk kaydıyla)
Varsayılan Güven = RED
Fail-Closed Prensibi
Çoğu sistemde:
SIP-001’de ise kural nettir:
Anayasa sessizse, makine durur.Çünkü:
Karar Hiyerarşisi (SIP-008)
Sistemde kimin sözü geçer?
Halka 0 – Fizik
Mutlak hâkimdir. Kimse override edemez.
Halka 1 – Yasa & İş Güvenliği
Regülasyonlar, standartlar.
Halka 2 – İnsan
Operatör karar verebilir ama sorumluluğu alır.
Halka 3 – Yapay Zeka
Sadece danışmandır.
Asla emir vermez.
Override = Masum Değil
“Müdahale Değil, İtiraf”
Operatör sistemi manuel olarak override edebilir.
Ama Sopcos’ta bu:
Yani şunu demektir:
Bu bir yetki aşımı değil, bilinçli sorumluluk beyanıdır.
Kirli Durum (Dirty State – SIP-006)
Bir kez override yapıldı mı:
- Sistem Kirli Durum’a girer
- Bu süreçte üretilen veriler güvenilir kabul edilmez
Temizlenmesi için:
- Operatör yetmez
- Bağımsız bir Denetçi (Auditor) dijital imzası gerekir
Bedel ödenmeden sistem aklanmaz.
Yapay Zeka Otorite Değildir
Sopcos mimarisinde AI:
- Karar veremez
- Para harcayamaz
- Emir oluşturamaz
%99 emin olsa bile:
✔ Otonomiye evet
Sorumsuz otonomiye hayır
“Bilmiyordum” Devri Bitti
Sopcos Simülasyon Motoru (SIP-005):
- Bir kural değişikliğinin sonuçlarını önceden hesaplar
Eğer sistem:
Bu artık:
Makineler Artık Kimlik Sahibi
Bir kazan sadece metal değildir.
O bir Endüstriyel Kimliktir (IDAS).
- Geçmişi zincirde
- Bakımlar kayıtlı
- Sahte parça yok
- Her vida doğrulanabilir
Makineler artık anonim değil, hesap verebilir.
Sonuç: Otonomi Hesap Verebilirlik İster
Biz makineleri sadece daha akıllı yapmıyoruz.
Biz kararları sahiplenilebilir yapıyoruz.
Siz ne düşünüyorsunuz?- PLC’lerin ötesinde böyle bir “anayasa” mümkün mü?
- Endüstriyel kazaların kaçı gerçekten “kaza”?
- Yapay zekaya bu kadar yetki vermek doğru mu?
Görüşlerinizi merak ediyorum.
Kaynak : Ekrem ORAL
Sopcos Foundation
Okumaya devam et...