Bir dil modelini uygulamaya bağlamanın ilk adımı teknik olarak basittir: API anahtarı alınır, bir istek gönderilir, cevap ekranda gösterilir. Zor olan, bunu güvenilir, maliyeti öngörülebilir ve kişisel veriyi koruyan bir özelliğe dönüştürmektir. Bu yazıda bir uygulamaya yapay zekâ eklerken verilmesi gereken kararları sırayla ele alıyoruz.
Yapay zekâ nerede işe yarar?
Büyük dil modelleri (LLM) metni anlama, dönüştürme ve üretme işlerinde güçlüdür. Uygulamalarda sık görülen kullanım alanları şunlardır:
- Özetleme: uzun yorumları, notları ya da destek yazışmalarını kısaltmak
- Sınıflandırma: destek taleplerini, içerikleri ya da geri bildirimleri kategorilere ayırmak
- Arama ve soru-cevap: kendi belgeleriniz üzerinde RAG (retrieval-augmented generation) ile cevap üretmek
- Belge okuma: fatura, form ya da fiş görüntüsünden yapılandırılmış veri çıkarmak
- Öneri: kullanıcının geçmişine göre içerik ya da metin önermek
- Taslak üretimi: e-posta, ürün açıklaması ya da mesaj taslakları hazırlamak
Bu işlerin ortak noktası, sonucun bir insan tarafından kolayca kontrol edilebilmesi ya da küçük hataların tolere edilebilmesidir.
Nerede yaramaz ya da risklidir?
Dil modelleri olasılıksal çalışır. Aynı soruya farklı cevap verebilir ve kendinden emin bir dille yanlış bilgi üretebilir; buna halüsinasyon denir. Bu yüzden şu işlerde modeli tek başına karar verici yapmayın:
- Kesin hesap: fiyat, vergi, faiz ya da dozaj gibi sayısal sonuçlar. Hesabı kod yapsın, model yalnızca açıklasın.
- Yasal, tıbbi ya da finansal karar: model öneri sunabilir, kararı insan verir.
- Doğrulanmamış bilgi: model güncel ya da şirketinize özel bilgiyi ancak siz verirseniz bilir.
RAG bu riski azaltır ama sıfırlamaz. Cevabın hangi kaynağa dayandığını kullanıcıya göstermek hem güveni artırır hem de hatanın fark edilmesini kolaylaştırır.
Hazır API mi, kendi sunucunuzda açık kaynak model mi?
Hazır API (OpenAI, Anthropic, Google Gemini gibi) ile sağlayıcıların güncel modellerine hızla erişirsiniz, altyapı yönetmezsiniz ve kullandığınız kadar ödersiniz. Karşılığında veri sağlayıcının sunucularına gider; fiyat ve model sürümleri sağlayıcının kararına bağlıdır.
Kendi sunucunuzda açık kaynak model çalıştırdığınızda veri sizin altyapınızda kalır ve model sürümünü siz sabitlersiniz. Ancak GPU'lu sunucu, kurulum, ölçekleme ve güncelleme sizin sorumluluğunuzdadır; kullanım düşükken bile sunucu ücretini ödersiniz.
Birçok proje için makul başlangıç hazır API'dir. Hacim büyüyüp öngörülebilir hâle geldiğinde ya da verinin yurt dışına çıkmaması gerektiğinde kendi sunucunuz masaya gelir. Hassas işi içeride küçük bir modele, genel işi API'ye veren hibrit yapılar da mümkündür.
Maliyet kalemleri
Bir yapay zekâ özelliğinin maliyeti yalnızca API faturasından oluşmaz:
- API ücreti: sağlayıcılar genellikle token başına ücretlendirir ve girdi ile çıktı token'ları farklı fiyatlanır.
- Geliştirme: prompt tasarımı, backend servisi, arayüz ve hata durumları.
- Değerlendirme (eval) seti: modelin doğru çalıştığını ölçen gerçekçi örneklerden oluşan bir test seti.
- İzleme: token kullanımı, gecikme, hata oranı ve kullanıcı geri bildirimini takip eden kayıtlar.
- Bakım: sağlayıcı eski model sürümlerini kaldırdığında prompt'ları yeni modelle yeniden test etmek.
Fiyatlar sık değiştiği için güncel tabloyu sağlayıcıların resmî sayfalarından kontrol edin: OpenAI fiyatları, Anthropic fiyatları, Gemini API fiyatları.
Maliyeti tahmin etmek
Kaba bir tahmin için şu formül yeterlidir: aylık API maliyeti ≈ aylık istek sayısı × (ortalama girdi token'ı × girdi birim fiyatı + ortalama çıktı token'ı × çıktı birim fiyatı).
Aylık istek sayısını aktif kullanıcı sayısı ve kullanıcı başına ortalama istekten çıkarın. Token sayısını tahmin etmek yerine gerçek prompt'larınızla ölçün; API yanıtlarındaki kullanım alanları bunu gösterir. Sonuç modele, prompt uzunluğuna ve kullanım biçimine göre çok değişir, bu yüzden tahmini küçük bir pilotla doğrulayın.
Maliyeti düşürmenin yolları
- Göreve uygun en küçük modeli seçin; sınıflandırma gibi basit işler için büyük model gerekmez.
- Tekrarlanan istekleri önbelleğe alın; aynı soruya aynı cevabı yeniden ürettirmeyin.
- Uzun ve sabit sistem talimatlarında sağlayıcıların prompt önbellekleme özelliklerini kullanın.
- Prompt'u kısa tutun, gereksiz bağlam göndermeyin ve çıktı uzunluğunu sınırlayın.
- Acil olmayan işleri toplu (batch) işleme ile çalıştırın.
- Kullanıcı başına kota koyun.
Gizlilik: veriniz nereye gidiyor?
Sağlayıcıların API verisine yaklaşımı benzer ama aynı değildir:
- OpenAI, API'ye gönderilen verinin siz açıkça izin vermedikçe modelleri eğitmek için kullanılmadığını, kötüye kullanım izleme kayıtlarının ise varsayılan olarak 30 güne kadar tutulduğunu belirtiyor (OpenAI veri kontrolleri).
- Anthropic, API dahil ticari ürünlerdeki girdi ve çıktıları varsayılan olarak model eğitiminde kullanmadığını belirtiyor (Anthropic gizlilik merkezi).
- Google, Gemini API'nin ücretli kullanımında prompt ve cevapları ürün geliştirmede kullanmadığını, ücretsiz kullanımda ise kullanabildiğini ve insan incelemesi yapılabileceğini belirtiyor; ücretsiz katmana kişisel veri gönderilmemesini öneriyor (Gemini API koşulları).
Saklama süreleri ve sıfır veri saklama (zero data retention) gibi seçeneklerin koşulları sağlayıcıya ve özelliğe göre değişir. Bu sayfalar güncellenebildiği için sözleşme öncesinde güncel hâllerini okuyun.
Kişisel veriyi en aza indirin
En güvenli kişisel veri, modele hiç gitmeyen veridir. Ad, telefon, T.C. kimlik numarası ya da e-posta gibi alanları istek göndermeden önce backend'de maskeleyin ya da takma değerlerle değiştirin, gerekiyorsa cevap geldikten sonra geri yerleştirin. Görevin gerektirmediği alanları prompt'a hiç koymayın.
KVKK ve yurt dışına aktarım
Sunucusu ABD'de ya da başka bir ülkede bulunan bir API'ye kişisel veri göndermek, KVKK m.9 anlamında yurt dışına aktarımdır. Kurum'un yurt dışına aktarım sayfasına göre Kurul henüz hiçbir ülke için yeterlilik kararı vermedi. Bu yüzden pratikte çoğunlukla Kurul'un ilan ettiği standart sözleşme imzalanır. Sözleşme, imzaların tamamlanmasından itibaren 5 iş günü içinde Kurum'a bildirilir (Yönetmelik m.14). Ayrıntıları KVKK uyumlu mobil uygulama yazımızda anlattık.
App Store'un üçüncü taraf yapay zekâ kuralı
Apple, 13 Kasım 2025'te güncellediği App Review Guidelines ile 5.1.2(i) maddesine açıklık getirdi: kişisel verinin üçüncü taraf yapay zekâ dahil üçüncü taraflarla nerede paylaşılacağı açıkça bildirilmeli ve paylaşmadan önce kullanıcıdan açık izin alınmalı (Apple duyurusu, App Review Guidelines). Pratikte bu genellikle, yapay zekâ özelliği ilk kullanıldığında hangi verinin hangi sağlayıcıya gittiğini anlatan bir izin ekranı anlamına gelir.
Kullanıcıya yapay zekâ olduğunu söyleyin
Cevabın yapay zekâ tarafından üretildiğini arayüzde belirtin ve hatalı olabileceğini hatırlatın. AB'deki kullanıcılara hizmet veriyorsanız AB Yapay Zekâ Yasası'nın 50. maddesi, insanlarla doğrudan etkileşen sistemlerde kişinin bir yapay zekâyla etkileştiğini bilmesini öngörüyor (Tüzük 2024/1689). Tüzük, sistemin çıktısı AB'de kullanılıyorsa AB dışındaki sağlayıcılara da uygulanabiliyor (m.2). Avrupa Komisyonu, şeffaflık kurallarının Ağustos 2026'da uygulanmaya başladığını belirtiyor (Komisyon sayfası). Bazı yükümlülüklerin tarihleri sonradan yapılan değişikliklerle kaydırılabildiği için güncel takvimi resmî kaynaklardan kontrol edin.
Doğru kullanım: güvenli bir entegrasyonun parçaları
- API anahtarını uygulamanın içine koymayın; uygulama paketinden anahtar çıkarılabilir. Modeli her zaman kendi backend'iniz üzerinden çağırın.
- Backend'de kullanıcı başına ve toplamda rate limit uygulayın; kötüye kullanım hem faturayı hem sağlayıcı hesabınızı riske atar.
- Prompt injection'a karşı kullanıcı girdisini ve okunan belgeleri talimat değil veri olarak ele alın, modelin erişebildiği araçları sınırlayın (OWASP LLM01).
- Girdi ve çıktıda kötüye kullanım filtreleri çalıştırın; sağlayıcıların moderasyon araçlarından yararlanabilirsiniz.
- Önemli işlemlerde insan onayı isteyin: model taslak hazırlasın, gönderme ya da kaydetme kararını kullanıcı versin.
- Her cevaba basit bir geri bildirim seçeneği koyun ve bu veriyi değerlendirme setinize katın.
- Model ya da prompt değiştiğinde değerlendirme setini yeniden çalıştırın.
- Sağlayıcı hata verdiğinde ya da yavaşladığında uygulamanın düzgün çalışmaya devam edeceği bir yedek davranış tasarlayın.
Bu parçaların çoğu backend'de yer alır; anahtar yönetimi, maskeleme, kota ve kayıtlar backend ve API geliştirme işinin parçasıdır. Yapay zekâ entegrasyonu projelerinde mevcut backend'e ayrı bir servis ekleyerek, tek bir kullanım senaryosu ve küçük bir değerlendirme setiyle başlamayı tercih ediyoruz.
Sıkça sorulan sorular
Uygulamaya yapay zekâ eklemenin maliyeti ne kadar?
İki ana kalem vardır: tek seferlik geliştirme ve kullanıma bağlı API ücreti. Geliştirme maliyeti özelliğin kapsamına, mevcut altyapıya ve gereken güvenlik önlemlerine göre değişir.
API ücreti ise istek sayısı ve token miktarıyla birlikte artar. Pilot kullanımla ölçmeden kesin rakam vermek yanıltıcı olur.
Uygulamaya ChatGPT eklemek mümkün mü?
ChatGPT, OpenAI'ın tüketici ürünüdür; uygulamanıza eklenen şey OpenAI API'si üzerinden model erişimidir. API'yi kendi backend'iniz üzerinden çağırır, sonucu kendi arayüzünüzde gösterirsiniz. Aynı yapı Anthropic ya da Google Gemini API'leriyle de kurulabilir.
Yapay zekâ API'sine gönderilen veriler model eğitiminde kullanılır mı?
OpenAI ve Anthropic, API verisini varsayılan olarak model eğitiminde kullanmadıklarını belirtiyor. Google'ın Gemini API'sinde ücretli ve ücretsiz kullanım arasında fark var; ücretsiz kullanımda veriler ürün geliştirmede kullanılabiliyor. Koşullar değişebileceği için sağlayıcının güncel sayfasını kontrol edin.
Kişisel veri içeren metni yapay zekâya göndermek KVKK'ya aykırı mı?
Kendi başına aykırı değildir ama şartları vardır. Bir işleme şartına dayanmanız, kullanıcıyı aydınlatmanız ve yurt dışındaki bir sağlayıcıya gönderiyorsanız m.9'daki aktarım kurallarını uygulamanız gerekir. Kişisel veriyi göndermeden önce maskelemek riski baştan azaltır.
Kendi sunucumda açık kaynak model çalıştırmak daha ucuz mu?
Her zaman değil. Düşük ve dalgalı kullanımda API genellikle daha ekonomiktir, çünkü yalnızca kullandığınız kadar ödersiniz. Yüksek ve sabit hacimde kendi sunucunuz avantajlı hâle gelebilir; karar için iki senaryonun aylık maliyetini yan yana hesaplayın.
Yapay zekâ özelliği, iyi seçilmiş tek bir kullanım senaryosuyla başladığında maliyeti de riski de yönetmek kolaylaşır. Uygulamanızda nereden başlayacağınızı birlikte düşünmek isterseniz bize yazın.