Yapay zekâ ajanı nedir? Sohbet botundan farkı ne?
Yapay zekâ ajanı, kendisine verilen bir hedefe ulaşmak için ortamı gözleyip araç kullanan ve adım adım karar veren bir yazılımdır. Sohbet botundan farkı, yalnızca metin üretmesi değil; e-posta göndermek, kayıt oluşturmak, dosya okumak gibi eylemler yapabilmesidir. İşletmede en çok işe yaradığı yer, kuralları net ama adımları sıkıcı olan işlerdir. Eylem yapabildiği için de yetkilerinin dar tutulması, kritik adımlarda insan onayı istenmesi ve her adımın kayda geçmesi gerekir.
- Ajan yalnızca konuşmaz, araç kullanır
- Yetki ne kadar darsa risk o kadar küçüktür
- Kritik adımlarda insan onayı şarttır
- Her eylem kaydedilmeli ve geri alınabilmelidir
Ajan nedir?
Yapay zekâ literatüründe ajan kavramı yeni değildir: akıllı ajan, ortamı algılayan ve hedefine ulaşmak için o ortam üzerinde eylemde bulunan bir sistemdir. Büyük dil modelleriyle birlikte bu kavram pratikte şu hâle geldi: model, bir hedefi alır; hangi aracı çağıracağına kendisi karar verir; sonucu görür ve bir sonraki adımı planlar.
Sohbet botundan farkı
| Sohbet botu | Ajan | |
|---|---|---|
| Çıktı | Metin | Metin + eylem |
| Araç kullanımı | Yok ya da sınırlı | API, dosya, veritabanı, e-posta |
| Adım sayısı | Tek soru-tek cevap | Çok adımlı, kendi planını yapar |
| Risk | Yanlış bilgi | Yanlış bilgi + yanlış işlem |
İşletmede nerede işe yarar?
- Gelen e-postadaki siparişi okuyup sisteme kaydetmek ve eksik bilgi varsa sormak.
- Teklif taleplerini sınıflandırmak, ilgili kişiye yönlendirmek.
- Faturaları okuyup muhasebe kalemleriyle eşleştirmek, emin olmadığında insana bırakmak.
- Uzun raporlardan özet çıkarmak ve anormal kalemleri işaretlemek.
Buna karşılık, kuralları net ve değişmeyen işler için ajana gerek yoktur; klasik otomasyon daha ucuz, daha hızlı ve daha öngörülebilirdir. Otomasyon yazımızda bu ayrımı ayrıntılı anlatıyoruz.
Riskler ve sınırlar
Ajanlar hata yaptığında sonuç yalnızca yanlış cümle değil, yanlış işlemdir. OWASP'ın büyük dil modeli uygulamaları için hazırladığı Top 10 listesi, en başta istem enjeksiyonunu (prompt injection) sayar: modele okuttuğunuz bir belgeye ya da web sayfasına gizlenmiş bir talimat, ajanı kendi hedefinden saptırabilir. Bu yüzden:
- Ajana yalnızca işini yapacak kadar yetki verin; silme ve para hareketi gibi adımları dışarıda bırakın.
- Geri alınamaz adımlarda insan onayı isteyin.
- Dışarıdan gelen metni talimat değil veri olarak işleyin.
- Her adımı kaydedin; ne yaptığı sonradan denetlenebilsin.
Kurumsal çerçeve ve düzenleme
Risk yönetimi için ABD standart kurumu NIST'in Yapay Zekâ Risk Yönetimi Çerçevesi iyi bir başlangıçtır. Avrupa'da ise Yapay Zekâ Yasası 1 Ağustos 2024'te yürürlüğe girdi ve yükümlülükleri kademeli olarak uygulanıyor; Avrupa Komisyonu'nun sayfası takvimi güncel tutuyor. Avrupa'ya hizmet veren bir sistem kuruyorsanız bu takvimi izlemek gerekir.
Ajanı işe alırken şunu sorun: bu adımı yanlış yaparsa ne olur? Cevap "geri alınamaz bir şey" ise, orada insan onayı olmalı.
Kaynaklar
- Wikipedia, Intelligent agent
- NIST, AI Risk Management Framework
- OWASP, Top 10 for LLM Applications
- Avrupa Komisyonu, AI Act
Sık sorulan sorular
Ajan, çalışanın yerini alır mı?
Pratikte sıkıcı adımları alır, kararı insana bırakır. Kurulumu ve denetimi de yine insan yapar.
Verilerimiz modele gider mi?
Kullandığınız sağlayıcının sözleşmesine bağlıdır. Kurumsal planlarda verinin eğitimde kullanılmaması taahhüt edilebilir; bunu yazılı olarak teyit etmek gerekir.
Ajan yanlış yaparsa sorumlu kim?
Sistemi kuran ve çalıştıran taraf. Bu yüzden yetki sınırı ve onay adımları tasarımın parçasıdır.
Küçük bir işletme için pahalı mı?
Kapsam dar tutulduğunda değil. Tek bir sıkıcı işi otomatikleştirmek çoğu zaman birkaç günlük iştir.
