Düzgün yazılmış bir yanıtı doğru kabul etmek kolay. Başlıkları yerli yerinde, dili kendinden emin, kaynakları da var gibi görünüyor. Ancak akıcı anlatım, bilginin doğrulandığı anlamına gelmiyor.
Üretken yapay zekâyı işte kullanırken her çıktıya aynı ayrıntıda inceleme yapmak gerekmeyebilir. Bir başlık önerisiyle müşteriye gidecek teknik açıklamanın riski farklıdır. Aşağıdaki yedi soru, kontrolü işin önemine göre düzenlemek için kullanılabilir.
1. İstenen işi gerçekten yapmış mı?
Önce doğruluğa değil, göreve bakın. İstenen müşteri grubunu esas almış mı? Süreyi, dili ve biçimi korumuş mu? Sorduğunuz problem yerine yanıtlaması daha kolay başka bir probleme mi kaymış?
Örneğin üç seçenek arasında karşılaştırma istediğinizde yalnızca üçünün özelliklerini sıralamak yeterli olmayabilir. Seçim ölçütlerini ve farkların sizin işinize etkisini de arayın. Eksik görevi, güzel anlatımın içinde kaybetmeyin.
2. Hangi cümle bilgi, hangisi varsayım?
“Bu çözüm süreyi azaltır” bir beklenti olabilir. Ne kadar azaltacağı, sizin sürecinizde ölçülmeden bilinemeyebilir. Metindeki kesin ifadeleri ayırın ve bunların dayanağını sorun.
Varsayımlar tümüyle kötü değildir; plan yapmak için gerekebilir. Ancak varsayımın görünür olması gerekir. Kendi müşteri sayınız, bütçeniz veya teknik altyapınız bilinmiyorsa sistemin bunları sessizce tamamlamasına izin vermeyin.
3. Kaynak gerçekten var mı ve iddiayı destekliyor mu?
Bir bağlantının bulunması yeterli değil. Açın, doğru belgeye gidip gitmediğine bakın ve ileri sürülen bilginin orada yer aldığını kontrol edin. Bir kaynağın konuya yakın olması, bütün paragrafı desteklediği anlamına gelmez.
Ürün özelliğinde resmi belgeyi, araştırma sonucunda asıl çalışmayı aramak kontrolü kolaylaştırır. Belgenin tarihini ve sürümünü de inceleyin. Güncel karar verirken eski bir açıklamayı bugünün koşulu gibi kullanmayın.
4. Sayılar ve birimler tutuyor mu?
Toplamı yeniden hesaplayın. Yüzde artış ile yüzde puan artışını, saat ile iş gününü, aylık tutar ile yıllık tutarı ayırın. Karşılaştırılan değerlerin aynı döneme ve kapsama ait olduğundan emin olun.
Bir tabloyu başka bir araca aktarmak da kendi başına doğrulama değildir. Formülü, kullanılan veriyi ve eksik satırları incelemek gerekir. Sonuç önemliyse bağımsız bir hesap yapın.
5. Bu çıktı hangi koşulda yanlış olur?
Modele karşı örnek sormak yararlı bir başlangıç olabilir: Veri eksikse ne değişir? Talep iki katına çıkarsa öneri hâlâ geçerli mi? İnternet bağlantısı kesilirse süreç nasıl devam eder?
Ancak modelin kendi cevabını kontrol etmesi bağımsız doğrulama yerine geçmez. Gerçek kayıt, belge, test veya konunun sorumlusu gibi başka bir dayanak arayın. “Kendini kontrol etti” ifadesini son güvence olarak kullanmayın.
6. Paylaşılmaması gereken bilgi var mı?
Metne yanlışlıkla müşteri adı, çalışan bilgisi, özel bağlantı veya iç fiyat eklenmiş olabilir. Girdiyi hazırlarken gösterdiğiniz dikkati çıktıda da gösterin. Dışarıya gönderilecek metni yalnızca dil açısından okumayın; bilgi sınırları açısından da inceleyin.
Bir çalışanın erişebildiği her bilgi, bütün alıcılara iletilebilir değildir. Çıktının kimlerle paylaşılacağını ve buna kimin karar vereceğini belirleyin.
7. Son kararı kim verecek?
Çıktının bir sahibi olmalı. Sağlık, hukuk, finans veya iş güvenliği gibi alanlarda uygun uzman incelemesi gerekebilir. Diğer işlerde de gönderme, değiştirme veya uygulama yetkisi açık olmalı.
Kontrolün sonunda basit bir kayıt tutabilirsiniz: Kullanım amacı, doğrulanan noktalar, açık kalan sorular ve onaylayan kişi. Böylece bir hata çıktığında yalnızca modele ne sorulduğunu değil, sonucun nasıl kullanıldığını da anlayabilirsiniz.
Kaynak ve kullanım notu
NIST Generative AI Profile, üretken yapay zekâda yanlış fakat inandırıcı çıktı üretimi ve insanla sistem arasındaki sorumluluklar dahil riskleri ele alır. Buradaki yedi soru, o belgenin resmi kontrol listesi değildir; günlük kullanım için hazırlanmış editoryal bir rehberdir.