Yapay Zekâ ve LLM Entegrasyonları

Makinelerin algılama, tahmin, karar veya dil gibi görevleri gerçekleştirmesi alanı.

Sistemin açıkça her kural yazılmadan veriden örüntü öğrenmesi yaklaşımı.

Eğitim verisinden öğrenilen ve girdiden çıktı üreten matematiksel sistem.

Model parametrelerini veri ve hedefe göre optimize etme süreci.

Eğitilmiş modelin yeni girdi için çıktı üretmesi.

Eğitim, değerlendirme veya uygulama için kullanılan veri koleksiyonu.

Modelin tahmin yaparken kullandığı girdi özelliği.

Denetimli öğrenmede tahmin edilmesi istenen doğru hedef değer.

Büyük metin verisi üzerinde eğitilmiş, dil anlama ve üretme yeteneği olan model.

Modelin metni işlerken kullandığı kelime parçası veya karakter grubu.

Metni model token'larına ayırma işlemi.

Modelin tek istekte dikkate alabildiği maksimum token miktarı.

Modele görev, bağlam ve formatı anlatan girdi.

Modelin genel rol, kurallar ve davranış sınırlarını belirleyen üst talimat.

Son kullanıcının modele gönderdiği istek.

Modele birkaç örnek girdi-çıktı göstererek davranışı yönlendirme.

Örnek vermeden yalnızca talimatla görev isteme.

Değişken alanlarla tekrar kullanılan standart prompt yapısı.

Kullanıcı veya harici içeriğin model talimatlarını kötü niyetle değiştirmeye çalışması.

Web sayfası veya doküman içindeki gizli talimatın agent davranışını etkilemesi.

Modelin güvenlik veya sistem kurallarını aşmaya çalışan prompt yaklaşımı.

Model çıktısının JSON alan ve türlerini belirleyen yapı.

Modelin serbest metin yerine doğrulanabilir şemalı veri üretmesi.

Model çıktısını geçerli JSON biçiminde sınırlayan özellik.

Modelin kullanılacak araç/fonksiyon ve argümanlarını yapılandırılmış biçimde seçmesi.

Modelin veri okuma veya işlem yapma için çağırabildiği dış fonksiyon.

Modelin hedefe ulaşmak için plan, araç çağrısı ve sonuç değerlendirmesi yaptığı sistem.

Modelin gözlem, karar, araç ve yeni gözlem adımlarını tekrarlaması.

Bir veya çok model, tool, memory ve workflow'un birlikte yönetilmesi.

Önceden belirlenmiş AI ve uygulama adımlarından oluşan süreç.

LLM yerine normal kodla kesin olarak gerçekleştirilen işlem.

AI giriş/çıkışını güvenlik, format ve iş kuralları açısından sınırlayan kontrol.

Kritik AI kararının insan onayı veya düzeltmesiyle tamamlanması.

Model veya sınıflandırıcının çıktıya duyduğu tahmini güven değeri.

Modelin doğru görünse de kaynağa dayanmayan yanlış bilgi üretmesi.

Model çıktısını güvenilir doküman, veri veya araç sonucu üzerine dayandırma.

Kullanıcı sorusuyla ilgili veriyi arayıp modele bağlam olarak vererek yanıt üretme.

Sorguya ilgili belge veya kayıt parçalarını bulma.

Metin veya nesneyi anlamsal benzerliği temsil eden sayısal vektöre dönüştürme.

Embedding boyutlarındaki sayısal değer dizisi.

Embedding'leri saklayıp benzerlik sorgusu yapan veri sistemi.

Sorgu vektörüne en yakın kayıtları uzaklık metriğiyle bulma.

İki vektörün yön benzerliğini ölçen metrik.

Uzun dokümanı retrieval için daha küçük anlamlı parçalara ayırma.

Tek belge parçasının token veya karakter büyüklüğü.

Bağlam kaybını azaltmak için ardışık parçaların ortak metin taşıması.

Retrieval sonucunu tenant, tarih veya doküman türüne göre sınırlama.

Keyword ve vector arama sonuçlarını birlikte kullanma.

İlk retrieval sonuçlarını daha güçlü modelle yeniden sıralama.

Retrieval'dan modele gönderilecek en iyi sonuç sayısı.

AI yanıtındaki bilginin hangi kaynak parçasına dayandığını gösterme.

AI sisteminin arayıp kullanacağı doküman ve veri koleksiyonu.

Dosyayı alma, ayrıştırma, chunk, embedding ve index sürecine sokma.

PDF, HTML veya DOCX içeriğini yapılandırılmış metne dönüştüren bileşen.

Taranmış görsel dokümandan metin çıkarma.

İçeriği işleyip search/vector index'e yazan asenkron süreç.

Yalnızca değişen veya yeni dokümanları tekrar index'leme.

Metni vektör temsilinə dönüştüren model.

Yanıt veya içerik üreten dil modeli.

Hazır modeli belirli örnek ve davranışlara uyarlamak için ek eğitim.

Modeli talimat takip edecek biçimde örneklerle eğitme.

Az sayıda ek parametreyle model uyarlamayı sağlayan verimli fine-tuning yöntemi.

AI çıktısının doğruluk, uygunluk, güvenlik ve maliyet açısından ölçülmesi.

Model davranışını düzenli test etmek için hazırlanmış girdi ve beklenen sonuç seti.

Değerlendirmede referans olarak kullanılan uzman onaylı cevap.

Bir model çıktısını başka modelle rubric üzerinden değerlendirme yaklaşımı.

Yanıtın sağlanan kaynaklarla desteklenme düzeyi.

Yanıtın kullanıcı sorusunu ne ölçüde doğrudan karşıladığı.

İhtiyaç duyulan ilgili kaynakların retrieval sonuçlarına girme oranı.

AI isteğinin tamamlanma süresi.

İstekten ilk üretilen token'ın kullanıcıya ulaşmasına kadar geçen süre.

Model çıktısını tamamlanmasını beklemeden parça parça kullanıcıya gönderme.

İstek ve yanıtta işlenen token sayısı.

Model, embedding ve altyapı kullanımının tek istek başına maliyeti.

Model sağlayıcısının zaman içinde izin verdiği request veya token sınırı.

Ana model kullanılamadığında veya görev basitse kullanılan alternatif model.

Görev türü, maliyet veya kaliteye göre uygun modeli seçme.

Aynı veya benzer AI isteklerinin sonucunu yeniden kullanma.

Anlamsal olarak benzer prompt'lara önceki yanıtı döndürme.

Prompt değişikliklerini sürüm, deney ve sonuçlarla takip etme.

AI davranışını kullanılan model sürümüyle ilişkilendirme.

Prompt, model, token, latency, tool ve hata verilerini izleme.

Tek AI isteğinin retrieval, model ve tool adımlarını uçtan uca kaydetme.

Kullanıcı ve model mesajlarının aynı bağlam altında tutulduğu oturum.

Conversation içindeki system, user, assistant veya tool girdisi.

Agent'ın önceki kullanıcı bilgisi veya görev durumunu gelecekte kullanması.

Mevcut conversation bağlamında tutulan geçici bilgi.

Kullanıcı onayı ve politika kapsamında kalıcı saklanan seçilmiş bilgi.

Uzun konuşmayı daha az tokenla temsil eden özet bağlam.

Gereksiz ayrıntıyı çıkarıp gerekli bilgiyi küçük bağlama dönüştürme.

Model sağlayıcısına gitmeden kişisel veriyi maskeleme veya kaldırma.

AI girdileri, çıktıları ve loglarının gizlilik kurallarıyla yönetilmesi.

Prompt ve output verilerinin ne kadar süre saklanacağını belirleyen politika.

Bir tenant doküman veya memory bilgisinin başka tenant retrieval'ına girmemesini sağlama.

Girdi ve çıktıyı zararlı veya yasak içerik kategorilerine karşı kontrol etme.

Riskli model isteği veya yanıtını engelleyen sınıflandırıcı/kural.

AI tarafından hazırlanan içerik veya aksiyonun yayın öncesi insan onayına gitmesi.

Kullanıcıya bilgi, öneri veya işlem desteği veren konuşmalı AI özelliği.

Kullanıcının mevcut iş akışında öneri ve taslakla yardımcı olan AI.

Sınırlı insan müdahalesiyle çok adımlı görev ve araç çağrısı yapabilen sistem.

Keyword, vector ve üretken yanıtı birleştiren arama deneyimi.

Kullanıcı davranışından ürün veya içerik önerisi üreten model.

Girdiyi önceden tanımlanmış kategori veya etiketlerden birine atama.

Metinden isim, tarih, tutar veya ürün gibi yapılandırılmış alan çıkarma.

Uzun içeriği ana bilgileri koruyarak kısaltma.

Metindeki olumlu, olumsuz veya nötr duygu yönünü tahmin etme.

Normal davranıştan anlamlı biçimde ayrılan veri noktalarını tespit etme.

Geçmiş zaman serisinden gelecekteki değerleri tahmin etme.