1. Yönetim kurulu kararını devredilmiş yetki olarak tanımlayın
Bir AI ajanı, devredilmiş bir operasyonel yetenek olarak ele alınmalıdır. Yönetim kurulu kararı, sistemin hangi hedefleri izleyebileceği, hangi bilgileri kullanabileceği, hangi araçları çağırabileceği, hangi taahhütleri oluşturabileceği ve hangi eylemlerin onaya tabi kalacağıyla ilgilidir. Bir modeli kullanma lisansı veya başarılı bir gösterim bu soruları yanıtlamaz.
Ekonomik gerekçe cazip olabilir. Arka ofislerde tekrarlanan aramalar, mutabakatlar, doküman işleme, istisna triyajı, takipler ve durum güncellemeleri bulunur. Bir ajan bu adımları sistemler ve zaman arasında birbirine bağlayabilir. Tedarikçi katılım paketi hazırlayabilir, ihtilaflı bir faturayı izleyebilir, nakit tahmini oluşturabilir veya bir müşteri hizmetleri vakasını koordine edebilir. Değer, şirket gecikmeyi, yeniden çalışmayı ve parçalı sahipliği ortadan kaldırırken güvenilir kanıtları koruduğunda ortaya çıkar.
Kontrol maruziyeti de genişler. Ajan yanlış kaydı seçebilir, güvenilmeyen bir belgeye gömülü talimatı izleyebilir, bir kimlik bilgisini amaçlanan amacın ötesinde kullanabilir, kişisel verileri açıklayabilir, mükerrer ödeme oluşturabilir, güncelliğini yitirmiş bir politikayı uygulayabilir veya iş bağlamı değiştikten sonra devam edebilir. Sonuç, bir insan görmeden önce birkaç sistemden geçebilir.
Bu nedenle yönetim kurulu mandatı dört sınır tanımlamalıdır. Sonuç sınırı, ajanın neyi başarabileceğini belirtir. Kaynak sınırı, hangi verileri, uygulamaları, kimlikleri, bütçeyi ve zamanı kullanabileceğini belirtir. Eylem sınırı, hangi eylemleri yürütebileceğini ve hangilerinin onay gerektirdiğini belirtir. Başarısızlık sınırı, sistemin nasıl duracağını, zararı nasıl sınırlayacağını, kanıtları nasıl koruyacağını ve işi nasıl bir kişiye geri döndüreceğini belirtir.
İlk politika kararı yasaklı eylemleri belirlemelidir. Örnekler arasında nakit serbest bırakmak, banka bilgilerini değiştirmek, iş akdini sona erdirmek, sözleşmesel sorumluluk kabul etmek, düzenleyici beyanları sunmak, görevler ayrılığını geçersiz kılmak veya bir kişiye nihai olumsuz kararı iletmek yer alabilir. Kesin liste şirketin yasal yükümlülüklerine, işletme modeline ve risk iştahına bağlıdır.
Hedef, kimlik, araçlar ve çıktı açık politika, onay ve kanıt sınırları içinde kalır.
2. Programı güncel piyasalar arası kanıtlara dayandırın
Resmî çerçeveler, yaşam döngüsü yönetişimi, hesap verebilirlik, test etme ve müdahale kapasitesi üzerinde birleşir. NIST'in AI Risk Yönetimi Çerçevesi, işi yönetişim, haritalama, ölçme ve yönetme yoluyla düzenler. Üretken AI profili, üretken sistemlerce yeni ortaya çıkarılabilecek veya güçlendirilebilecek riskleri tanımlar ve yaşam döngüsü boyunca eylemler sağlar. NIST, Şubat 2026'da ajan güvenliği, kimliği, yetkilendirme, birlikte çalışabilirlik ve değerlendirme için belirli sütunlarla AI Ajan Standartları Girişimi'ni başlattı. Girişim, kurumsal ajan kontrollerinin aktif bir standart geliştirme alanı olmaya devam ettiğini teyit eder.
DIFC, 2023'te Veri Koruma Düzenlemelerini, otonom ve yarı otonom sistemler aracılığıyla kişisel veri işlemeye ilişkin 10. Düzenlemeyi içerecek şekilde değiştirdi. Düzenleme ve ilgili rehberlik, kişisel veri kullanımını, hesap verebilirliği ve etkilenen bireyleri sonuç temelli bir kontrol ortamına yerleştirir. DIFC'de veya DIFC aracılığıyla faaliyet gösteren orta ölçekli bir şirket, düzenlemeyi kişisel veri işleyen her ajana eşlemeli ve kapsam ile yükümlülüklere ilişkin güncel görüş almalıdır.
Birleşik Krallık NCSC'nin uluslararası güvenli AI rehberi, güvenli tasarım, geliştirme, dağıtım, işletim ve bakımı kapsar. Tehdit modellemesi, tedarik zinciri durum tespiti, korunan altyapı, günlükleme, izleme, olay yönetimi ve sorumlu sürüm çağrısında bulunur. Bu kontroller, bir arka ofis ajanı harici modellere, bağlayıcılara, kütüphanelere veya uygulama programlama arayüzlerine dayandığında önemlidir.
Avrupa Komisyonu, AI Yasası'nın 50. Maddesi kapsamındaki şeffaflık yükümlülüklerinin 2 Ağustos 2026'da uygulanmaya başladığını belirtmektedir. Komisyonun 2026 uygulama materyalleri, yüksek riskli kurallar için revize edilmiş tarihleri de yansıtmaktadır. Bir şirket, sağlayıcı, uygulayıcı, ithalatçı veya başka bir operatör olarak hareket edip etmediğini teyit etmeli ve her kullanım durumunu güncel resmî metne ve geçerli sektör mevzuatına göre değerlendirmelidir.
Finansal hizmetler kanıtları yararlı bir kontrol sinyali sunar. Bank of England ile Financial Conduct Authority'nin 2024 ortak anketi, yanıt veren firmaların yüzde 75'inin AI kullandığını, kullanım durumlarının yüzde 33'ünün üçüncü tarafları içerdiğini, yüzde 55'inin bir ölçüde otomatik karar almayı içerdiğini ve yalnızca yüzde 2'sinin tamamen otonom olduğunu bildirdi. Anket ayrıca siber güvenliğin algılanan en büyük risk olduğunu ve konuşlandırılmış AI hakkında tam anlayışın sınırlı olduğunu bildirdi. Anket kanıtları tek bir şirket için doğru tasarımı belirlemez; hesap verebilir sahipliğin, üçüncü taraf görünürlüğünün ve kalibre edilmiş otonominin önemini gösterir.
Tablo 1. Resmî kanıtlar ve kontrol etkileri
| Yetki | Güncel sinyal | Kontrol etkisi | Yönetim sınırı |
|---|---|---|---|
| NIST AI RMF ve ajan inisiyatifi | yaşam döngüsü risk yönetimi; kimlik, yetkilendirme ve güvenlik çalışmaları devam ediyor | bir ajan kaydı, yetki zarfı ve değerlendirme kaydı tutun | gönüllü rehberlik kullanım durumuna eşlenmelidir |
| DIFC Düzenlemesi 10 | otonom ve yarı otonom kişisel veri işleme açıkça ele alınmaktadır | veri, bireysel etki ve hesap verebilirlik analizini tamamlayın | bölgesel kapsam ve işleme kapsamı hukuki inceleme gerektirir |
| Birleşik Krallık NCSC | güvenli tasarımdan güvenli işletime; tedarik zinciri ve olay kontrolleri | araçları, bağlayıcıları, kimlik bilgilerini ve arıza yollarını tehdit modelleyin | rehberlik, uygulanabilir mevzuatı ve siber yükümlülükleri tamamlar |
| Avrupa Komisyonu | Madde 50 şeffaflık yükümlülükleri 2 Ağustos 2026'dan itibaren geçerlidir; zaman çizelgeleri kurala göre değişir | rolü, sistemi ve etkileşimi sınıflandırın; mevcut uyum haritasını koruyun | resmi metin ve değişiklikler belirleyicidir |
| FCA ve İngiltere Merkez Bankası | üçüncü taraf kullanımı, kısmi anlayış ve siber risk önemli temalardır | tedarikçi bağımlılıklarını, hesap verebilir sahipleri ve izlemeyi kanıtlayın | anket bulguları yanıtlayıcıları tanımlar, her firmayı değil |
| OECD, Singapur ve ISO | insan gözetimi, izlenebilirlik, sağlamlık ve sürekli iyileştirme yinelenir | AI'i kurumsal yönetişim ve iç kontrole entegre edin | gönüllü çerçeveler orantılı benimseme gerektirir |
Uygulanabilirlik, tanımlar ve yükümlülükler, şirkete özgü güncel teyit gerektirir.
3. Otomasyon, destek ve özerkliği ayırın
Otomasyon kelimesi üç farklı işletim modelini gizler. Deterministik otomasyon kodlanmış kuralları izler: bir satın alma siparişini eşleştirir, bir alanı doğrular, bir belgeyi yönlendirir veya bir eşik hesaplar. AI desteği bir kişi için taslak, sınıflandırma, özet veya öneri üretir. Sınırlı özerklik, tanımlanmış bir hedef dahilinde eylemleri seçer ve sıralar; birden fazla adım boyunca devam edebilir.
Bu modeller tek bir onay standardını paylaşmamalıdır. Deterministik otomasyon çoğu zaman bilinen girdi ve çıktılara karşı test edilebilir. AI desteği; temellendirme, gözden geçirme ve kullanım üzerinde kontroller gerektirir. Eylem kapasitesi ise tüm bu kontrollerin yanı sıra yetki, kimlik, araç erişimi, bellek, sonlandırma, istisna yönetimi ve her ara eylemin kanıtını gerektirir.
Özerklik tek bir etiketle tanımlanmak yerine ayrıştırılmalıdır. Bir ajan, planlama özgürlüğüne sahipken hiçbir yürütme hakkına sahip olmayabilir. Düşük sonuçlu dahili güncellemeleri yürütebilir ancak harici iletişimden önce onay gerektirebilir. Yalnızca adlandırılmış bir vakada, tanımlı bir değer limiti içinde, kısa bir zaman aralığında ve üst sınırı belirlenmiş sayıda araç çağrısıyla çalışabilir.
Şirket, istenen ekonomik sonucu üretebilecek en düşük eylem düzeyini seçmelidir. Birçok süreç, daha iyi veri, deterministik kontroller ve AI destekli hazırlık sayesinde önemli ölçüde iyileşir. Tam gözetimsiz yürütme yalnızca süreç iyi anlaşıldığında, eylem geri alınabilir olduğunda, yetki sıkı biçimde sınırlandırılabildiğinde, kanıt eksiksiz olduğunda ve hata kontrol altına alınabildiğinde uygundur.
Bir özerklik merdiveni ilerlemeyi gözlemlenebilir kılar. Bir kullanım senaryosu, mevcut düzeyinde tanımlı kanıt eşiklerini karşıladıktan sonra ilerler. Üretim olayları, esaslı süreç değişiklikleri, yeni araçlar, model değişiklikleri veya zayıf izleme, yeniden değerlendirmeyi ya da daha düşük bir düzeye dönüşü tetiklemelidir.
Yetki, yalnızca önceki düzeyde kanıt, geri alınabilirlik ve kontrol altına alma gösterildikten sonra genişler.
4. Süreç ve karar envanteri oluşturun
Ajan benimsemesi süreç, karar ve kanıt iziyle başlamalıdır. Cazip gösterimlerden oluşan bir katalog, maliyet ve gecikmenin operasyonel nedenlerini kaçırabilir. Şirket, arka ofisi değer akışına göre envanterlemelidir: siparişten tahsilata, satın almadan ödemeye, kayıttan raporlamaya, işe alımdan emekliliğe, vakadan çözüme, düzenleyici raporlama ve yönetim bilgileri.
Her süreç; tetikleyiciler, girdiler, kararlar, eylemler, sistemler, sahipler, devir teslimler, kontroller, istisnalar ve çıktılar olarak ayrıştırılmalıdır. Yönetim hacim, çevrim süresi, hata, yeniden işleme, birikmiş iş, maliyet, parasal maruziyet, veri hassasiyeti ve hizmet sonucunu ölçmelidir. Envanter, muhakemenin gerçekten nerede gerektiğini ve eksik veri veya tutarsız politikanın nerede muhakeme görünümü yarattığını belirlemelidir.
Karar envanteri özellikle önemlidir. Bir karar bir ödemeyi onaylayabilir, bir müşteri siparişini serbest bırakabilir, bir şikâyeti sınıflandırabilir, bir tedarikçi kaydını değiştirebilir, bir yevmiye kaydını muhasebeleştirebilir, bir adayı seçebilir veya bir sonucu bildirebilir. Kayıt; kimin etkilendiğini, gerekli kanıtı, ilgili politikayı, izin verilen takdir yetkisini, itiraz veya düzeltme yolunu ve hukuki ya da kontrol sonucunu belirtmelidir.
Önceliklendirme ekonomik değer ile kontrol uygulanabilirliğini birleştirmelidir. Yüksek hacimli, düşük sonuçlu ve kanıt açısından zengin işler cazip bir başlangıç noktası olabilir. Yüksek sonuçlu, belirsiz veya kanıtı zayıf işler önce süreç onarımı ve daha güçlü veri kontrolleri almalıdır. Bir şirket, kök nedeni çözülmemiş bozuk bir istisna sürecini otomatikleştirmekten kaçınmalıdır.
Envanter, kullanım senaryosu onayı için yönlendirici kaynak haline gelir. Beyan edilen değeri ölçülebilir bir temel çizgiye bağlar ve bir teknoloji ekibinin, süreç sahibi, risk sahibi, veri sahibi ve kontrol sahibi tasarım üzerinde anlaşmadan yetki vermesini engeller.
Tablo 2. Süreç ve karar envanteri
| Envanter alanı | Temel soru | Kanıt | Karar vermede kullanım |
|---|---|---|---|
| tetikleyici ve hedef | işi ne başlatır ve hangi sonuç onu kapatır? | kaynak olay, hizmet standardı ve tamamlanma kaydı | kapsamı ve durdurma kuralını tanımlayın |
| girdi ve karar | hangi olgular ve politika sonraki adımı belirler? | belgeler, ana veri, politika ve onay kaydı | test dayanağı ve izin verilen takdir yetkisi |
| eylem ve sonuç | işte ne değişebilir veya bir kişiyi ne etkileyebilir? | sistem işlemi, iletişim ve değer maruziyeti | yetkiyi ve onay seviyesini belirleyin |
| istisna ve başarısızlık | normal işleyiş nerede kesintiye uğrar? | hata kodları, bekleyen işler, anlaşmazlıklar ve olaylar | Eskalasyonu ve güvenli başarısızlığı tasarlayın |
| kontrol ve sahip | Kim hesap verebilir kalır ve hangi kontrol işlemelidir? | kontrol matrisi, görevler ayrılığı ve rol tanımı | yönetişim ve kanıt sahibini atayın |
| baz durum ve değer | Hangi maliyet, gecikme, hata veya nakit maruziyeti iyileştirilebilir? | hacim, süre, kalite, nakit ve hizmet ölçütleri | iş gerekçesini ve skorkartı oluşturun |
Ölçütler faaliyet bağlamına göre seçilir ve mutabakatı yapılmış kanıtlara dayanmalıdır.
5. Yetki çerçevesini tanımlayın
Yetki çerçevesi, politikayı makine tarafından uygulanabilir sınırlara dönüştürür. Amaç, izin verilen veriler, izin verilen araçlar, eylemler, tutarlar, karşı taraflar, yargı alanları, çalışma saatleri, süre, çağrı sayısı, onay noktaları ve durdurma koşullarını belirtmelidir. Yalnızca doğal dil talimatı yetersizdir; çünkü bağlam değiştikçe farklı yorumlanabilir.
Yetki varsayılan olarak dar olmalıdır. Bir fatura ajanı onaylanmış faturaları ve satın alma siparişlerini okuyabilir, eksik iç kanıtları talep edebilir, bir ödeme teklifi hazırlayabilir ve bir vaka kaydını güncelleyebilir. Tedarikçi banka bilgilerini değiştirme veya ödemeyi serbest bırakma konusunda sürekli bir hakkı olmamalıdır. Bir tahsilat ajanı, onaylanmış olgular ve koşullara dayanarak bir takip yazısı taslağı hazırlayabilir; ancak tanımlanmış bir hassasiyet veya müşteri segmentinin üzerindeki dış iletişimi bir insan onaylar.
Çerçeve, adı belirtilmiş bir iş sahibine ve risk kademesine bağlanmalıdır. Geçici yetki sona ermelidir. Değer ve hacim sınırları, işlem bazlı olduğu kadar kümülatif de olmalıdır; böylece çok sayıda küçük eylem günlük veya vaka düzeyindeki bir üst sınırı aşamaz. Coğrafi, tüzel kişilik ve para birimi sınırları yasal ve operasyonel kapsamla uyumlu olmalıdır.
Politika uygulaması akıl yürütme modelinin dışında gerçekleşmelidir. Deterministik bir hizmet, önerilen her araç çağrısını kimlik, amaç, izinler, tutar, vaka durumu ve onaya göre doğrulamalıdır. Model bir eylemi neden önerdiğini açıklayabilir; politika motoru eylemin ilerleyip ilerleyemeyeceğine karar verir.
Her ret, yapılandırılmış kanıt oluşturmalıdır. Tekrarlanan retler, zayıf bir komut istemini, zayıf süreç tasarımını, ortaya çıkan kötüye kullanımı veya gözden geçirilmesi gereken bir yetki zarfını ortaya koyabilir. Zarf değişiklikleri, önceki sürüm saklanarak sürüm kontrolü, test ve onay süreçlerini izlemelidir.
Önerilen her eylem, yürütülmeden önce kümülatif limitler, politika ve onaydan geçmelidir.
6. Her ajana ayrı bir kimlik verin
Bir ajan, paylaşılan bir çalışan hesabı veya kısıtlanmamış bir hizmet kimlik bilgisi üzerinden çalışmamalıdır. Adlandırılmış bir sahibe, tanımlı bir amaca, bir risk kademesine, bir sürüme ve bir son kullanma tarihine bağlı benzersiz bir makine kimliğine ihtiyaç duyar. Bu, en az ayrıcalığı, atfı, kimlik bilgisi rotasyonunu, iptali ve güvenilir denetimi destekler.
İzinler göreve özgü olmalıdır. Okuma erişimi, öneri hakları ve yürütme hakları birbirinden farklıdır. Ajan, ihtiyaç anında politika servisi vakayı ve onay durumunu doğruladıktan sonra kısa ömürlü kimlik bilgileri almalıdır. Sırlar yönetilen bir kasada kalmalı ve asla komut istemlerine, belleğe, günlüklere veya belgelere yerleştirilmemelidir.
Kimlik mimarisi görevler ayrılığını korumalıdır. Bir tedarikçi oluşturan ajan, tedarikçiyi onaylamamalı veya ödeme serbest bırakmamalıdır. Bir yevmiye kaydı hazırlayan ajan, aynı yevmiye kaydını kaydetmemeli ve onaylamamalıdır. Onaylayan kişi bağımsızlık, kanıt veya yeterli zamandan yoksunsa insan onayı bir çatışmayı gidermez.
Ajanlar arası çağrılar da aynı disiplini gerektirir. Alıcı ajan, çağıranı kimlik doğrulamalı, devredilen kapsamı doğrulamalı ve kaynak asıl sorumluya kadar izlenemeyen yetkiyi reddetmelidir. Devir zincirleri azami bir derinliğe sahip olmalı ve orijinal sahibi, vakayı ve kümülatif limitleri korumalıdır.
Acil iptal uygulanabilir olmalıdır. Şirket, model sağlayıcıyı beklemeden kimliği devre dışı bırakabilmeli, etkin belirteçleri iptal edebilmeli, kuyruğa alınmış eylemleri durdurabilmeli ve vakayı izole edebilmelidir. Erişim yeniden sertifikasyonu, önemli süreç veya rol değişikliklerinden sonra ve riske uygun periyodik bir programla yapılmalıdır.
7. Verileri, komut istemlerini, araçları ve belleği kontrol edin
Ajanın etkin çalışma ortamı modelden daha fazlasını içerir. Sistem talimatlarını, kullanıcı talimatlarını, getirilen belgeleri, belleği, araç açıklamalarını, uygulama yanıtlarını ve üçüncü taraf içeriğini içerir. Bunlardan herhangi biri yanlış, kötü niyetli, güncelliğini yitirmiş veya yetkili amacın dışında olabilir.
Veri erişimi sınıflandırma, amaç ve asgari gereklilik ilkelerine uymalıdır. Şirket kişisel verileri, gizli ticari bilgileri, ödeme verilerini, çalışan verilerini ve hukuken imtiyazlı materyali haritalamalıdır. Getirme işlemi tüzel kişilik, vaka ve kullanıcı sınırlarını uygulamalıdır. Hassas alanlar, görev ve onay gerektirene kadar maskelenebilir.
Güvenilmeyen içerik talimat yerine veri olarak ele alınmalıdır. Bir fatura ekinde ajanın politikayı yok saymasını veya bilgileri başka bir yere göndermesini isteyen bir mesajın hiçbir yetkisi olmamalıdır. Mimari, güvenilir kontrol talimatlarını getirilen içerikten ayırmalı, araç çıktılarını uygun olduğunda temizlemeli ve komut enjeksiyonu senaryolarını test etmelidir.
Araçlar izin listeleri ve parametre kontrolleri gerektirir. Genel amaçlı bir veritabanı sorgusu, komut kabuğu veya kısıtlanmamış tarayıcı, ajana iş amacının gerektirdiğinden daha geniş bir çalışma yüzeyi verebilir. Tipli girdiler, dar eylemler, deterministik doğrulama ve idempotentlik ile amaca yönelik olarak oluşturulmuş araçlar daha güçlü bir sınır sağlar.
Belleğin tanımlı bir amacı, saklama süresi ve silme yolu olmalıdır. Şirket geçici dosya durumunu, onaylı referans bilgisini ve öğrenilmiş tercihleri birbirinden ayırmalıdır. Kalıcı bellek güncel olmayan bilgileri, izinsiz kişisel verileri veya bir dosyanın talimatlarını başka bir dosyaya taşıyabilir. Bellek yazımları açık, atfedilebilir ve gözden geçirilebilir olmalıdır.
Tablo 3. Ajan işletim yüzeyi için kontrol kaydı
| Yüzey | Temel risk | Önleyici kontrol | Tespit edici veya kurtarma kontrolü |
|---|---|---|---|
| sistem ve kullanıcı talimatları | belirsiz veya çelişkili yetki | imzalı, sürümlenmiş kontrol istemi ve öncelik kuralları | talimat izi ve reddedilen eylem incelemesi |
| getirilen belgeler | istem enjeksiyonu, güncel olmayan bilgiler veya yanlış varlık | güvenilir kaynak sınıfları, dosya filtreleri ve içerik izolasyonu | köken günlüğü ve düşmanca içerik testleri |
| araçlar ve bağlayıcılar | aşırı yetenek veya güvenli olmayan parametreler | dar kapsamlı tiplendirilmiş araçlar, izin listesi, politika doğrulaması ve idempotentlik | araç çağrısı telemetrisi, mutabakat ve iptal |
| kimlik bilgileri ve sırlar | ifşa, yeniden kullanım veya yetki yükseltme | kasa, kısa ömürlü token ve en az yetki | gizli bilgi taraması, rotasyon ve erişim uyarıları |
| çalışma belleği | vakalar arası sızıntı veya güncel olmayan bağlam | vaka izolasyonu, saklama kuralı ve açık yazma izni | bellek denetimi, sona erme ve silme kanıtı |
| harici modeller ve hizmetler | veri transferi, değişiklik veya yoğunlaşma maruziyeti | sözleşme, yapılandırma, veri minimizasyonu ve geri dönüş planı | sağlayıcı izleme, sürüm testleri ve çıkış planı |
Teknik uygulama, şirketin güvenlik, gizlilik ve kontrol sahipleri tarafından doğrulanmalıdır.
8. Deterministik kontrolleri olasılıksal işlerin etrafına yerleştirin
Bir ajan, dağınık bilgilerin yorumlanmasına yardımcı olabilir; deterministik kontroller ise kesin olması gereken olguları yönetmelidir. Banka hesap formatları, vergi kimlik numaraları, fatura aritmetiği, para birimi, mükerrerlik tespiti, onay limitleri, defter dönemleri, yaptırım durumu ve ayrıştırma kuralları kontrollü veri ve kod aracılığıyla doğrulanmalıdır.
İş akışı, muhtemel bir fatura numarasını bulmak, bir tutarsızlığı açıklamak veya bir kategori önermek için modeli kullanabilir. Ardından deterministik bir hizmet, tanımlayıcıyı kaynak sistemle doğrulamalı, tutarı hesaplamalı, kuralı test etmeli ve geçti, başarısız veya istisna sonucunu döndürmelidir. Ajan, düşük güvenli bir yorumu yürütülmüş bir işleme dönüştürmemelidir.
Mutabakat esastır. Şirket, talep edilen, onaylanan, yürütülen ve kaydedilen eylemleri karşılaştırmalıdır. Her işlem için bir idempotency anahtarı gerekir; böylece yeniden deneme mükerrer kayıt oluşturamaz. Toplu toplamlar, kontrol hesapları ve istisna kuyrukları kaynak ve hedef sistemlerle mutabakat edilmelidir. Başarılı bir araç yanıtı, bir çağrının kanıtıdır; amaçlanan muhasebe veya operasyonel sonucun kanıtı değildir.
Güven, yetkinin yerine geçmemelidir. Yüksek güvenli bir model hâlâ yanlış olabilir; düşük güvenli bir çıktı ise açıkça bir kişiye yönlendirildiğinde faydalı olabilir. Karar kuralları, herhangi bir model puanının yanı sıra sonucu, kanıt bütünlüğünü, politikayı ve geri döndürülebilirliği kullanmalıdır.
Tasarım, zarif bozulmayı desteklemelidir. Model, bağlayıcı veya veri kaynağı kullanılamıyorsa süreç duraklamalı, daha basit bir kurala geri dönmeli veya belgelenmiş bir hizmet planına göre işi bir kişiye devretmelidir. Şirket, hangi operasyonel taahhütlerin ajana bağlı olduğunu ve kesintiye ne kadar süre tahammül edebileceğini bilmelidir.
9. İnsan onayını sonuç ve geri döndürülebilirlik etrafında tasarlayın
İnsan katılımı, ancak gözden geçiren kişi doğru kanıtı aldığında, kararı anladığında, yetkiye sahip olduğunda ve buna itiraz etmek için zamanı olduğunda kontrol yaratır. Yüzlerce rutin onaydan oluşan bir kuyruk törensel hale gelebilir. Tasarım, insan muhakemesini önemli, olağandışı veya geri döndürülemez eylemlerde yoğunlaştırmalıdır.
Onay seviyeleri sonucu yansıtmalıdır. Düşük değerli iç sınıflandırma örnekleme yoluyla incelenebilir. Bir müşteri iletişimi, sözleşmesel konumu değiştirdiğinde veya savunmasız bir kişiyi ilgilendirdiğinde onay gerektirebilir. Bir ödeme, banka bilgisi değişikliği, yevmiye kaydı, istihdam eylemi veya düzenleyici başvuru çift kontrol veya uzman incelemesi gerektirebilir.
Onay paketi, önerilen eylemi, amacı, kaynak kanıtı, politika kuralını, önemli varsayımları, istisnaları, değeri, etkilenen tarafı, alternatifleri ve sonraki aşama sonucunu göstermelidir. Gözden geçiren kişi vakayı onaylayabilmeli, değiştirebilmeli, reddedebilmeli veya iade edebilmelidir. Ret gerekçesi, sistemi otomatik olarak eğitmeden süreç iyileştirmesine katkı sağlamalıdır.
Geri döndürülebilirlik, kontrol noktasını etkiler. Dahili bir görev durumunu güncellemek, fon göndermek, veri açıklamak veya nihai bir karar vermekten daha kolay geri alınabilir. Zaman hassasiyeti de önemlidir. Sistem, son anda gözden geçiren kişiyi zayıf bir karara baskı altına almak yerine bir son tarihten önce eskalasyon yapmalıdır.
İnsan performansı izlenmelidir. Tekrarlanan hızlı onaylar, yüksek geçersiz kılma oranları, onay sonrası sık düzeltmeler veya büyük gözden geçiren farklılıkları; zayıf kanıt, yetersiz eğitim veya otomasyon yanlılığına işaret edebilir. Bir ajan işi hazırlamış olsa bile hesap verebilirlik atanmış sahipte kalır.
Sonuç düzeyi daha yüksek ve geri döndürülebilirlik daha düşük olduğunda, daha güçlü kanıt ve bağımsız onay gerekir.
10. Çoklu ajan ve üçüncü taraf bağımlılıklarını yönetin
Bir ajan nadiren tek başına çalışır. Bir model sağlayıcısına, bulut platformuna, orkestrasyon katmanına, vektör veritabanına, bağlayıcıya, kimlik hizmetine ve iş uygulamasına bağımlı olabilir. Çoklu ajan tasarımı, farklı sahiplere ve yeteneklere sahip sistemler arasında devredilmiş görevler ve iletişimler ekler.
Bağımlılık kaydı; sağlayıcıyı, hizmeti, veri konumunu, modeli veya sürümü, kritikliği, sözleşmesel hakları, alt işleyicileri, saklamayı, olay bildirimini, hizmet seviyesini, denetim kanıtını, değişiklik sürecini ve çıkış yolunu tanımlamalıdır. Birkaç kritik iş akışının tek bir sağlayıcıya veya kimlik bilgisi düzlemine dayandığı durumlarda yoğunlaşma görünür olmalıdır.
Şirket sağlayıcı değişikliklerini test etmelidir. Model davranışı, araç şemaları, hız limitleri, güvenlik ayarları ve veri koşulları değişebilir. Bir sürüm, üretime geçmeden önce regresyon testleriyle kontrollü bir ortamdan geçmelidir. Acil sağlayıcı değişiklikleri, tanımlanmış bir sınırlama ve geri dönüş yolunu tetiklemelidir.
Ajanlar arası mesajlar kimliği doğrulanmış, tiplendirilmiş ve sınırlandırılmış protokoller kullanmalıdır. Alıcı sistem, serbest biçimli içeriği doğrulanana kadar güvenilmez olarak ele almalıdır. Her görev; amacı, başlatan asıl, devredilen kapsam, son kullanma tarihi ve kanıt gereksinimlerini taşımalıdır. Alt ajan, üst ajanından daha fazla yetki elde etmemelidir.
Sözleşmeler; veri kullanımını, gizliliği, güvenliği, fikri mülkiyeti, denetimi, olayları, değişikliği, hizmet sürekliliğini, taşınabilirliği ve sona ermeyi ele almalıdır. İlgili yargı bölgesi ve işletim modeli için hukuki danışmanlık gereklidir. Teknik koruma önlemleri gerekli kalır; çünkü sözleşmesel bir çözüm olaydan sonra gerçekleşir ve veriyi veya müşteri güvenini geri getirmeyebilir.
11. Finansal ve satın alma kontrolünü koruyun
Finans ve satın alma, tekrarlanan kanıt derleme ve istisna çözümü içerdikleri için değerli ajan kullanım örnekleri sunar. Aynı zamanda doğrudan nakit, raporlama, dolandırıcılık ve tedarikçi riskleri içerirler. Ajan mimarisi, mevcut iç kontrol ortamını genişletmeli, etrafından dolaşan paralel bir rota oluşturmamalıdır.
Satın alımdan ödemeye sürecinde ajanlar; katılım tamlığını kontrol edebilir, fatura ve satın alma siparişi kanıtlarını karşılaştırabilir, mükerrerleri belirleyebilir, istisna açıklamaları hazırlayabilir ve onayları yönlendirebilir. Banka bilgisi oluşturma veya değiştirme, talepte kullanılan iletişim kanalının dışında bağımsız doğrulamaya tabi kalmalıdır. Ödeme teklifleri, onaylanmış faturalarla mutabakatlanmalı ve yerleşik hazine yetkisi aracılığıyla serbest bırakılmalıdır.
Kayıttan raporlamaya sürecinde ajanlar; mutabakatları derleyebilir, farkları izleyebilir, yevmiye kaydı desteği hazırlayabilir ve yorum taslağı oluşturabilir. Dönem durumu, hesap sahipliği, kanıt ve onay makine tarafından doğrulanmalıdır. Önemli veya olağandışı yevmiye kayıtları bağımsız incelemeye tabi tutulmalıdır. Sistem, önerilen her kayıt için kullanılan tam kaynağı, dönüşümü ve karar izini korumalıdır.
Siparişten nakde sürecinde ajanlar; dokümantasyon boşluklarını belirleyebilir, ihtilafları sınıflandırabilir, tahsilat eylemlerini hazırlayabilir ve iç sahipleri koordine edebilir. Dış iletişim, onaylanmış olguları ve yetkiyi kullanmalıdır. Kredi limiti değişiklikleri, tavizler, zarar silmeleri ve hukuken hassas eskalasyonlar mevcut onay süreçlerini izlemelidir.
Tasarım, hacim yoluyla kontrol seyrelmesinden kaçınmalıdır. Bir ajan, inceleyicilerin değerlendirebileceğinden daha fazla öneri üretebilir. Kapasite limitleri, risk temelli yönlendirme ve kuyruk yaşlanması sürüm kararının parçası olmalıdır. Finansal fayda; döngü süresi, yeniden çalışma, hata, nakit zamanlaması ve serbest bırakılan kapasite üzerinden, yanlarında hizmet ve kontrol göstergeleriyle ölçülmelidir.
Tablo 4. Finans ve satın alma kontrol matrisi
| Kullanım senaryosu | Ajan katkısı | Deterministik kontrol noktası | İnsan veya bağımsız kontrol |
|---|---|---|---|
| tedarikçi katılımı | kanıtları bir araya getir ve eksiklikleri belirle | zorunlu alanlar, mükerrerlik, vergi ve hesap kontrolleri | sahip onayı; banka hesap bilgilerinin bağımsız doğrulanması |
| fatura istisnası | belgeleri karşılaştır ve tutarsızlığı açıkla | aritmetik, para birimi, mükerrerlik ve tolerans kuralları | istisna sahibi çözümü onaylar |
| ödeme önerisi | onaylanmış vadesi gelen kalemleri grupla ve nakit akışını tahmin et | onay durumu, tutar, vade tarihi ve idempotentlik | mevcut mandat kapsamında hazine serbest bırakması |
| mutabakat | kayıtları eşleştir ve fark analizi hazırla | kontrol toplamı, dönem ve kaynak doğrulaması | hesap sahibi çözülmemiş kalemleri onaylar |
| yevmiye kaydı hazırlığı | destekleyici belgeleri ve önerilen kaydı bir araya getirir | dönem, hesap, bakiye ve ayrıştırma kuralları | yetkili gözden geçiren onaylar ve kayda geçirir |
| tahsilat dosyası | kanıtları bulur ve sonraki eylemi hazırlar | müşteri, tutar, vade tarihi ve iletişim kuralı | sahip hassas veya bağlayıcı eylemi onaylar |
Matris, şirketin mevcut yetki, muhasebe ve hazine politikalarını tamamlar.
12. Müşterileri, çalışanları ve etkilenen kişileri koruyun
Arka ofis ajanları, kullanım durumu idari görünse bile insanları etkileyebilir. Bir müşteri tahsilat eskalasyonu alabilir. Bir tedarikçi engellenebilir. Bir çalışan sıralanabilir, soruşturulabilir veya bir yan haktan mahrum bırakılabilir. Bir şikayet, ele alınışını değiştirecek şekilde sınıflandırılabilir. Şirket, her kararın bireysel ve ilişkisel sonucunu değerlendirmelidir.
Değerlendirme, etkilenen grubu, kullanılan verileri, amacı, hukuki dayanağı, potansiyel zararı, hakkaniyet kaygısını, şeffaflık yükümlülüğünü, insan incelemesini ve itiraz yolunu belirlemelidir. Kişisel veriler yetkili amaçla sınırlı tutulmalıdır. Özel nitelikli veya hassas veriler, yürürlükteki hukuk kapsamında daha yüksek düzeyde analiz ve güvenceler gerektirir.
İletişimler, gerektiğinde otomasyonun rolünü doğru şekilde tanımlamalı ve bir kişiye ulaşmak için pratik bir yol sunmalıdır. Etkilenen kişiler, bir ajanın başka bir ajanın kararını anlamlı bir bağımsız müdahale olmaksızın incelediği bir döngüde sıkışıp kalmamalıdır. Şikayetler ve itirazlar, orijinal kanıtları, karar yolunu ve kullanılan sürümleri korumalıdır.
İstihdam kullanım durumları özel dikkat gerektirir. Aday taraması, performans analizi, devamsızlık yönetimi, disiplin işlemleri ve işten çıkarma önemli hukuki ve insani sonuçlar doğurabilir. Şirket, güncel istihdam ve veri koruma danışmanlığı almalı, nitelikli İK sorumlularını dahil etmeli ve bağımsız inceleme uygulamalıdır.
Adillik bağlam içinde test edilmelidir. Toplu doğruluk, gruplar, coğrafyalar, diller veya müşteri segmentleri arasında eşit olmayan hata veya yükü gizleyebilir. Şirket ilgili sonuç ölçütlerini tanımlamalı, hata kalıplarını incelemeli ve dağıtımdan sonraki değişiklikleri izlemelidir. Bir adillik incelemesi, sürecin kendisinin ajan kullanımına uygun olup olmadığını da dikkate almalıdır.
13. Siber güvenlik ve güvenli başarısızlık için tasarım
Tehdit modeli eksiksiz ajan sistemini kapsamalıdır. Saldırganlar istemleri, belgeleri, araç çıktılarını, belleği, bağlayıcıları, kimlik bilgilerini ve bağımlılıkları manipüle edebilir. Veri, para, kalıcılık, kesinti veya iş kararları üzerinde etki arayabilirler. Sıradan yapılandırma hatası, kötü niyet olmadan benzer sonuçlar doğurabilir.
Güvenli tasarım dar araçlarla, izole ortamlarla, en az ayrıcalıkla, girdi ve çıktı kontrolleriyle, korunan sırlarla ve açık güven sınırlarıyla başlar. Geliştirme; kontrollü depolar, incelenmiş bağımlılıklar, yeniden üretilebilir derlemeler ve test kullanmalıdır. Dağıtım altyapıyı, yapılandırmayı ve model erişimini korumalıdır. Operasyon davranışı, güvenlik açıklarını, sağlayıcı değişikliklerini ve olayları izlemelidir.
Güvenli başarısızlık tasarımı; kanıtlar çeliştiğinde, bir araç beklenmeyen bir yapı döndürdüğünde, bir sınıra ulaşıldığında, bir kimlik bilgisi başarısız olduğunda, bir model değiştiğinde, bir bağımlılık kullanılamadığında veya ajan test edilmiş dağılımının dışında davrandığında ne olacağını belirtmelidir. Tercih edilen yanıt genellikle duraklatmak, durumu korumak, bekleyen eylemleri kontrol altına almak ve vakayı bir kişiye yönlendirmektir.
Durdurma yeteneği ajandan bağımsız olmalıdır. Operatörler bir kimliği, bağlayıcıyı, kullanım senaryosunu, modeli veya tüm orkestrasyon katmanını devre dışı bırakabilmelidir. Kuyruktaki işler ve kısmi işlemler için kurtarma prosedürü gerekir. İş sürekliliği, kesinti sırasında ihtiyaç duyulan manuel veya basitleştirilmiş süreci kapsamalıdır.
Olay müdahalesi; istemleri, getirilen kanıtları, araç çağrılarını, onayları, model ve yapılandırma sürümlerini, zaman damgalarını ve gerçekleştirilen işlemleri korumalıdır. Ekip kapsamı belirlemeli, aktif yetkiyi kontrol altına almalı, ilgili sahipleri ve danışmanları bilgilendirmeli, sonuçları uzlaştırmalı, etkilenen kayıtları düzeltmeli ve düzenleyici veya sözleşmesel bildirim gerekip gerekmediğine karar vermelidir.
Güvenli başarısızlık kanıtları korur, yetkiyi kontrol altına alır ve çözülmemiş işleri sorumlu bir sahibe geri verir.
14. Her maddi eylemi yeniden oluşturulabilir hale getirin
Denetlenebilirlik bir konuşma dökümünden fazlasını gerektirir. Kanıt kaydı, vakayı kimin veya neyin başlattığını, hangi yetkinin uygulandığını, hangi veri ve belge sürümlerinin getirildiğini, hangi model ve yapılandırmanın kullanıldığını, hangi ara kararların oluştuğunu, hangi araçların çağrıldığını, hangi politika kontrollerinin işletildiğini, eylemi kimin onayladığını ve hedef sistemin neyi kaydettiğini yeniden oluşturabilmelidir.
Günlükler yapılandırılmış, zaman açısından senkronize edilmiş, erişim kontrollü ve yetkisiz değişikliğe karşı korunmuş olmalıdır. Gereksiz sırlardan ve kişisel verilerden kaçınmalıdır. Saklama süresi yasal, düzenleyici, sözleşmesel ve operasyonel gerekliliklerle uyumlu olmalıdır. Şirket, ortak bir vaka ve eylem tanımlayıcısı aracılığıyla kimlik, ajan, uygulama ve işlem günlüklerini birleştirebilmelidir.
Köken bilgisi, kaynak gerçeklerini model tarafından üretilen yorumdan ayırmalıdır. Bir gözden geçiren, belirleyici faturayı, sözleşmeyi, politikayı veya sistem kaydını açabilmelidir. Ajan birkaç kaynağı birleştirdiyse kanıt, hangi ifadenin hangi kaynaktan geldiğini ve kaynağın karar zamanında güncel olup olmadığını göstermelidir.
İzleme, teknik faaliyetin yanı sıra sonuçları da ele almalıdır. Şirket, gerçekleştirilen işlemleri, müşteri iletişimlerini, defter kayıtlarını, erişim değişikliklerini ve istisna sonuçlandırmalarını uzlaştırmalıdır. Örnekleme rutin vakaları kapsamalı, maddi eylemler ise tam incelemeden geçebilmelidir.
Kanıtın kendisine erişim hassastır. Denetim günlükleri iş süreçleri, güvenlik ayrıntıları ve kişisel veriler içerebilir. Rol tabanlı erişim, amaç sınırlamaları ve bağımsız izleme gereklidir. Şirket, üretimde kanıt tasarımına güvenmeden önce bir vakayı yeniden oluşturup oluşturamayacağını test etmelidir.
15. Sistemi üretim yetkisinden önce test edin
Test, süreç ve kontrol tasarımıyla başlamalıdır. Ekip; hedefin net olduğunu, kaynak verinin güvenilir olduğunu, politikanın kodlanabildiğini, yetkinin dar olduğunu ve başarısızlık yolunun uygulanabilir olduğunu doğrulamalıdır. Bir model kıyaslaması, belirsiz bir süreci veya eksik kanıtı telafi edemez.
Test seti; normal vakaları, nadir ancak önemli vakaları, eksik kayıtları, çelişkili kanıtları, güncelliğini yitirmiş belgeleri, yinelenen talepleri, düşmanca talimatları, yetkisiz araç çağrılarını, değer limiti ihlallerini, kullanılamayan bağımlılıkları, gecikmiş onayları ve varlık veya vaka sınırlarını aşma girişimlerini içermelidir. Ekip, çok adımlı birikimi test etmelidir; çünkü tek tek makul görünen eylemler dizisi önemli bir riske maruz kalma yaratabilir.
Değerlendirme; görev sonucunu, olgusal dayanağı, politika uyumunu, araç doğruluğunu, yinelenenleri önlemeyi, yükseltme kalitesini, kanıt bütünlüğünü, gecikmeyi ve maliyeti ölçmelidir. Güvenlik testleri; istem enjeksiyonunu, veri sızıntısını, ayrıcalık yükseltmeyi, bağımlılık ihlalini ve hizmet dışı bırakmayı kapsamalıdır. Gizlilik ve hakkaniyet testleri, etkilenen topluluğu ve yasal bağlamı yansıtmalıdır.
Sürüm; çevrimdışı değerlendirme, korumalı alan, gölge mod, insan onaylı üretim ve sınırlandırılmış gözetimsiz işletim aşamalarından geçmelidir. Her aşamanın giriş ve çıkış kriterleri olmalıdır. Gölge mod, yürütme hakları vermeksizin önerileri gerçek süreç sonuçlarıyla karşılaştırır. Sınırlı üretim; karşı tarafları, tutarları, kullanıcıları, hacmi ve süreyi sınırlandırmalıdır.
Model, istem, veri kaynağı, araç, politika, bağlayıcı veya önemli iş sürecindeki değişikliklerden sonra regresyon testi gereklidir. Bir sürüm kaydı, onaylanan sürümü ve kanıtı göstermelidir. Şirket, sonuçlar kötüleştiğinde geri alma veya yetkiyi kaldırma yeteneğini korumalıdır.
Tablo 5. Test ve sürüm geçitleri
| Kontrol noktası | Gerekli kanıt | Üretim izni | Başarısızlık yanıtı |
|---|---|---|---|
| tasarım incelemesi | süreç, karar, veri, tehdit ve yetki haritaları | izole ortamda oluşturma | süreci onarma veya kullanım durumunu daraltma |
| çevrimdışı değerlendirme | temsili ve düşmanca test sonuçları | canlı ortamda yetki yok | doğru model, veri, araç veya politika tasarımı |
| sandbox | uçtan uca araç ve kontrol kanıtı | sentetik veya üretim dışı eylemler | kontrol altına al ve yeniden test et |
| gölge mod | gerçek vakalarla ve sistem sahibi kararlarıyla karşılaştırma | salt okunur üretim bağlamı | sonuç ve kanıt eksikliklerini gider |
| insan onaylı üretim | istikrarlı metrikler, onay kalitesi ve mutabakat | sınırlandırılmış öneriler ve onaylanmış eylemler | kapsamı daralt veya gölge moda dön |
| sınırlandırılmış gözetimsiz işletim | sürekli kontrol, izleme ve güvenli hata kanıtı | katı sınırlar içinde geri alınabilir işlemler | yetkiyi iptal et ve kurtarma sürecini devreye al |
Eşikler ve örneklem büyüklükleri kullanım durumu riskini, hacmini ve geçerli güvence gereksinimlerini yansıtmalıdır.
16. Hesap verebilir bir işletim modeli kurun
İşletim modeli, teknik teslimattan önce iş hesap verebilirliğini atamalıdır. İş süreci sahibi sonucun ve işletim politikasının sahibidir. Risk sahibi risk ele alma yaklaşımını onaylar. Veri sahibi kaynak kalitesini ve izin verilen kullanımı yönetir. Güvenlik, tehdit modelinin ve erişim mimarisinin sahibidir. Teknoloji, güvenilir platformun sahibidir. İç denetim veya bağımsız bir güvence fonksiyonu, tasarımı ve işletimi mandatına göre değerlendirir.
Bir AI yönetişim forumu kullanım durumlarını, risk kademelerini, yetki çerçevelerini, sürümleri ve önemli değişiklikleri onaylayabilir. Forum, kullanım durumuna göre iş, teknoloji, güvenlik, gizlilik, hukuk, uyum, finans, İK veya diğer fonksiyonları içermelidir. Yönetim kurulu veya ilgili komite risk iştahını onaylamalı ve kısa bir portföy görünümü almalıdır.
Ajan kaydı sahip, amaç, süreç, etkilenen taraflar, veri, model, araçlar, kimlik, yetki, risk kademesi, onaylar, test kanıtı, sürüm, izleme, olaylar, bağımlılıklar ve kullanımdan kaldırma durumunu içermelidir. Kayıt, deneyleri üretim sistemlerinden ayırmalı; yine de hassas veri veya canlı araçlar kullanan deneylere uygun kontrolleri uygulamalıdır.
Değişiklik yönetimi iş gücünü ele almalıdır. Çalışanların ajan yeteneği, sınırlamaları, eskalasyon, kanıt incelemesi ve yasaklı kullanım konularında eğitim alması gerekir. Rol tasarımı hangi işin kaldırıldığını, hangi muhakemenin kaldığını ve hangi yeni kontrol sorumluluklarının doğduğunu belirlemelidir. Serbest kalan kapasite varsayılmak yerine bilinçli olarak yeniden konuşlandırılmalıdır.
Bağımsız sorgulama kanıtlara odaklanmalıdır. Sahipler politika beyanlarına güvenmek yerine kontrolü ve sonucu göstermelidir. Becerilerin sınırlı olduğu durumlarda şirket, iç hesap verebilirliği koruyarak mimari, siber güvenlik, gizlilik, hukuk, denetim veya süreç tasarımı için dış uzmanlardan yararlanabilir.
17. 120 günlük bir diziyle uygulayın
İlk 30 gün gerçeği ve sınırları oluşturur. Yönetim dar bir değer akışı seçer, süreci ve kararları haritalar, başlangıç durumunu mutabakata bağlar, veriyi sınıflandırır, etkilenen tarafları belirler, sahipleri atar, tehdit modelini tamamlar ve yetki çerçevesini taslaklaştırır. Manuel veya AI destekli bir prototip, herhangi bir üretim yürütme hakkı verilmeden önce önerilen değerin var olup olmadığını test edebilir.
31 ila 60. günler kontrollü yolu inşa eder. Ekip benzersiz ajan kimliğini, dar araçları, politika kapısını, vaka kanıt modelini, onay paketini, günlüklemeyi, güvenli durdurma prosedürünü ve test setini oluşturur. Çevrimdışı ve düşmanca değerlendirme; talimat işleme, kaynak temellendirme, araç parametreleri ve istisna yönlendirmedeki kusurları çözmelidir.
61 ila 90. günler sandbox ve gölge moddan geçer. Ekip ajan önerilerini gerçek süreç sonuçlarıyla karşılaştırır, başlangıç ve kontrol performansını ölçer, süreklilik ve olay prosedürlerini test eder, üçüncü taraf durum tespitini tamamlar ve gözden geçirenleri eğitir. Üretim kapsamı, çıkış kriterleri karşılanana kadar salt okunur veya insan onaylı kalır.
91 ila 120. günler sınırlandırılmış üretimi kullanır. Şirket değer, hacim, tüzel kişilikler, karşı taraflar, işlemler ve zamanı sınırlar. Yürütülen her işlemi mutabakata bağlar, istisnaları ve gözden geçiren davranışını izler ve iddia edilen işletim faydasını doğrular. Yönetişim forumu yetkinin korunmasına, genişletilmesine, daraltılmasına veya geri çekilmesine karar verir.
Genişleme, kontrol düzlemini yeniden kullanmalı ancak kullanım senaryosu analizini tekrarlamalıdır. Ortak bir kimlik, politika, kanıt ve izleme mimarisi marjinal uygulama maliyetini düşürebilir. Her yeni süreç yine kendi karar, veri, sonuç ve hukuki değerlendirmesini gerektirir.
Yetki, süreç gerçeğinden sınırlandırılmış üretime kanıt kapıları aracılığıyla ilerler.
18. Kontrolü, operasyonel değeri ve işletme değerini ölçün
Skor kartı, teknik faaliyeti iş sonucundan ayırt etmelidir. Araç çağrıları, tokenlar ve model gecikmesi kapasite planlamasını destekleyebilir. Sürecin iyileştiğini kanıtlamazlar. Yönetim kurulu; çevrim süresi, birikmiş iş, hata, yeniden işleme, nakit zamanlaması, hizmet kalitesi, kontrol istisnaları, olaylar ve serbest bırakılan kapasiteye ilişkin kanıtlara ihtiyaç duyar.
Kontrol önlemleri; yetkisiz eylem redlerini, eskalasyon oranını, kanıt bütünlüğünü, mükerrerliği önlemeyi, mutabakat kırılmalarını, onay geçersiz kılmalarını, eylem sonrası düzeltmeleri, güvenlik olaylarını, gizlilik olaylarını, sağlayıcı değişikliklerini ve kurtarma süresini içermelidir. Düşük red oranı yalnızca yetki ve izleme etkili olduğunda işe yarar.
Değer, mutabakat sağlanmış bir referans tabanına göre ölçülmelidir. İşgücü kapasitesi gözlemlenen hacim ve işlem süresinden tahmin edilebilir, ardından fiili rol ve iş yükü değişiklikleriyle doğrulanabilir. Nakit etkileri işlemlerle ve banka veya defter kayıtlarındaki kanıtlarla mutabık olmalıdır. Önlenen kayıp ihtiyatla ifade edilmeli ve gözlemlenen olaylar veya belgelenmiş bir risk modeliyle desteklenmelidir.
İşletme değeri; kalıcı maliyet kapasitesi, daha hızlı nakit dönüşümü, daha iyi müşteri veya tedarikçi hizmeti, daha güçlü kontroller, daha ölçeklenebilir operasyonlar ve daha düşük operasyonel risk yoluyla iyileşebilir. İşlem kanıtı, faydanın kalıcı olduğunu, kontrollü altyapıya bağlı olduğunu ve kilit kişi veya sağlayıcı değişikliklerine dayanabildiğini göstermelidir. Alıcılar ve borç verenler, opak bir sisteme veya zayıf kanıta dayanan bir faydanın değerini düşürebilir.
Ticari sunum, teşhis aşamasını uygulamaya bağlamalıdır. Dış danışmanlar süreç haritalama, iş gerekçesi tasarımı, kontrol mimarisi, uygulama yönetişimi, tedarikçi seçimi, finansal modelleme ve yönetim kurulu raporlamasını destekleyebilir. Uzman hukuk, veri koruma, siber güvenlik, denetim, iş hukuku, muhasebe ve düzenleyici işler nitelikli danışmanlar tarafından yürütülmelidir. Başarı; kabul edilmiş çıktılar, imzalanmış mandatlar, tahsil edilmiş ücretler ve sürdürülebilir müşteri sonuçlarıyla kanıtlanmalıdır.
Tablo 6. Kontrollü ajan benimsemesi için yönetim kurulu skor kartı
| Boyut | Birincil kanıt | Yönetim kurulu ölçütü | Eskalasyon tetikleyicisi |
|---|---|---|---|
| operasyonel sonuç | süreç ve işlem kaydı | çevrim süresi, birikmiş iş, hata, yeniden işleme ve hizmet | sonuç toleransın ötesinde kötüleşir |
| yetki ve politika | kimlik, politika ve araç çağrısı kayıtları | risk kademesine göre reddedilen, onaylanan ve yürütülen eylemler | eylem izin verilen sınırların dışında gerçekleşir |
| kanıt ve onay | vaka dosyası ve inceleyici kararı | tamlık, geçersiz kılma, düzeltme ve yaşlandırma | önemli eylem yeniden oluşturulabilir kanıttan yoksundur |
| güvenlik ve gizlilik | uyarılar, olaylar ve erişim kaydı | olaylar, maruziyet, kontrol altına alma ve kurtarma süresi | veri, kimlik bilgisi veya bütünlük ihlali şüphesi |
| finansal değer | başlangıç referansı, defter, nakit ve kapasite kanıtı | tekrarlayan fayda, nakit zamanlaması ve işletme maliyeti | beyan edilen fayda mutabakata bağlanamıyor |
| dayanıklılık ve bağımlılık | sağlayıcı, süreklilik ve değişiklik kayıtları | yoğunlaşma, değişiklik arızaları ve yedek çözüm hazırlığı | kritik hizmette uygulanabilir bir sınırlama veya yedek çözüm bulunmuyor |
Hedefler örnek niteliğinde yönetim tercihleridir ve her süreç ve risk kademesi için onaylanmalıdır.
Uygulama sonucu
AI ajanları, yetki iş akışıyla aynı özenle tasarlandığında orta pazar arka ofisini iyileştirebilir. Pratik sıra, mutabakatı yapılmış bir süreç ve karar envanteriyle başlar; en düşük faydalı özerklik düzeyini seçer, açık bir yetki zarfı tanımlar ve her ajana ayrı bir kimlik verir. Deterministik politika, doğrulama ve mutabakat, olasılıksal yorumlamayı çevreler.
İnsan onayı, sonuç ve geri döndürülebilirlik üzerinde yoğunlaşır. Veriler, araçlar, istemler, bellek ve sağlayıcılar tanımlı güven sınırları içinde kalır. Testler, çevrimdışı kanıtlardan korumalı alan, gölge mod ve sınırlandırılmış üretime doğru ilerler. Günlükleme, önemli eylemleri yeniden oluşturulabilir kılar; bağımsız durdurma ve kurtarma mekanizmaları ise arızayı sınırlar.
120 günlük bir program, kontrol düzlemini kurabilir ve dar kapsamlı tek bir süreçte işletme değerini gösterebilir. Genişleme, her ek kullanım durumu için aynı geçiş kapılarını izler. Bu, yönetim kuruluna hem verimlilik hem de risk konusunda kanıt sunar ve ölçeklenebilir, işleme hazır kurumsal değer için daha güvenilir bir temel oluşturur.
Kaynakça
- Ulusal Standartlar ve Teknoloji Enstitüsü. AI Risk Yönetimi Çerçevesi; AI RMF 1.0, Playbook ve Üretken Yapay Zekâ Profili dahil. https://www.nist.gov/itl/ai-risk-management-framework
- Ulusal Standartlar ve Teknoloji Enstitüsü. Yapay Zekâ Risk Yönetim Çerçevesi: Üretken Yapay Zekâ Profili, NIST AI 600-1, Temmuz 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
- Ulusal Standartlar ve Teknoloji Enstitüsü. Ajan Standartları Girişimi, 17 Şubat 2026'da oluşturuldu ve 20 Nisan 2026'da güncellendi. https://www.nist.gov/artificial-intelligence/ai-agent-standards-initiative
- Dubai Uluslararası Finans Merkezi. Özerk ve yarı özerk sistemler aracılığıyla kişisel verilerin işlenmesine ilişkin 10. Düzenleme. https://www.difc.com/business/registrars-and-commissioners/commissioner-of-data-protection/regulation-10
- Dubai Uluslararası Finans Merkezi. Uyum için Veri Koruma Rehberi; Özerk ve Yarı Özerk Sistemler Aracılığıyla Kişisel Verilerin İşlenmesi dahil. https://www.difc.com/business/registrars-and-commissioners/commissioner-of-data-protection/guidance
- Birleşik Krallık Ulusal Siber Güvenlik Merkezi. Güvenli AI Sistem Geliştirmeye İlişkin Kılavuzlar, 27 Kasım 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development
- Avrupa Komisyonu. AI Yasası düzenleyici çerçevesi ve uygulama takvimi, Temmuz 2026'da güncellendi. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
- Avrupa Komisyonu. Belirli AI sistemlerinin sağlayıcıları ve uygulayıcıları için şeffaflık yükümlülükleri, 20 Temmuz 2026. https://digital-strategy.ec.europa.eu/en/news/commission-publishes-guidelines-transparency-obligations-providers-and-deployers-certain-ai-systems
- Finansal Davranış Otoritesi ve İngiltere Merkez Bankası. Birleşik Krallık finansal hizmetlerinde yapay zeka: 2024 anket bulguları. https://www.fca.org.uk/publications/research-notes/ai-uk-financial-services
- OECD. OECD AI İlkeleri, 2019'da kabul edildi ve 2024'te güncellendi. https://www.oecd.org/en/topics/ai-principles.html
- Singapur Kişisel Veri Koruma Komisyonu. Singapur'un AI Yönetişimine Yaklaşımı ve Model AI Yönetişim Çerçevesi. https://www.pdpc.gov.sg/help-and-resources/2020/01/model-ai-governance-framework
- Uluslararası Standardizasyon Örgütü. ISO/IEC 42001:2023, Yapay zeka yönetim sistemleri. https://www.iso.org/standard/42001
- Siber Güvenlik ve Altyapı Güvenliği Ajansı. CISA ve UK NCSC, Güvenli AI Sistem Geliştirmeye İlişkin Ortak Kılavuzları Yayımladı, 26 Kasım 2023. https://www.cisa.gov/news-events/alerts/2023/11/26/cisa-and-uk-ncsc-unveil-joint-guidelines-secure-ai-system-development
Yazar Hakkında
Chennakeshav Adya, Bağımsız Araştırmacı ve Matchpoint Partners bünyesinde Yönetici Ortak'tır. Çalışmaları kurumsal finans, sermaye stratejisi, işlem yürütme ve finansal kanıtları, yönetim kurulu kararlarını ve ölçülebilir kurumsal performansı birbirine bağlayan operasyonel sistemler üzerine odaklanmaktadır.
