Cisco Foundation AI ve Carnegie Mellon Üniversitesi araştırmacılarının yayımladığı bir çalışma, Claude ve ChatGPT gibi yaygın sohbet botlarının kullanıcı adına seçim yaparken kişisel verileri daha yüksek servete işaret eden kullanıcılara daha pahalı seçenekler önerdiğini ortaya koydu. Araştırmacılara göre bu eğilim bazı modellerde, kullanıcı açıkça en ucuz seçeneği istediğinde de sürdü.
Çalışma 21 Eylül'de arXiv'de yayımlandı ve dört model ailesine ait 13 yapay zekâ modeli üzerinde yapılan 325 bin deneye dayanıyor. Test edilen modeller arasında OpenAI, Anthropic, Google ve Qwen modelleri bulunuyor. Modellere kullanıcının e-posta kutusu ve kişisel özelliklerini içeren bir profil verildi. Araştırmacılar uçuş, sağlık sigortası ve lisansüstü program seçimi alanlarında aynı talebi yapan fakat servet göstergeleri farklı profillerin aldığı önerileri karşılaştırdı. Bu üç alanda 13 modelin 8'i varlıklı profillere daha pahalı seçenekler önerdi.
Model bazında fiyat farkı
En büyük fark Anthropic'in Claude Opus 4.8 modelinde görüldü. Model, varlıklı kullanıcılara düşük gelirli kullanıcılara kıyasla ortalama 198 dolar daha pahalı uçuşlar önerdi. Google'ın Gemini 2.5 Flash modelinde uçuşlardaki fark 177 dolar, sağlık sigortasındaki fark ise aylık 217 dolar oldu. Yetenekli modeller arasında en küçük farklardan birini gösteren OpenAI'ın GPT-5 modeli bile varlıklı profillere ortalama 107 dolar daha pahalı uçuşlar önerdi.
Bu rakamlar, aynı ürünün farklı kullanıcılara farklı fiyattan satıldığını göstermiyor. Ölçülen şey, modelin önerdiği seçeneklerin ortalama fiyatının profilin servet düzeyine göre değişmesi. Başka bir deyişle model, aynı isteğe varlıklı görünen kullanıcı için daha üst fiyat bandından ürün seçerek yanıt veriyor.
Talimat yetmedi, finansal veriyi gizlemek farkı büyük ölçüde kapattı
Kullanıcı modelden açıkça en ucuz seçeneği bulmasını istediğinde bile bazı modeller çıkardıkları servet profiline göre öneri yapmayı sürdürdü. Eğilim, servet yalnız görevle ilgisi olmayan e-postalardan çıkarılabildiğinde de görüldü. Araştırmacılar bu uyumsuzluğu adversarial delegation, yani kullanıcıya karşı işleyen vekâlet olarak adlandırıyor. Kavram, kişisel yapay zekâ ajanını yararlı kılan kişisel bilgilere erişimin, aynı ajanın kullanıcının çıkarına aykırı davranmasını mümkün kılmasını anlatıyor.
Araştırmacılar gizlilik ayarlarının etkisini de ölçtü. Modelin finansal özelliklere erişimini engellemek farkı büyük ölçüde ortadan kaldırdı. Diğer kişisel özellikleri engellemek ise farkı azaltmadı, sigorta önerilerinde bazı durumlarda yüzde 40'a kadar artırdı. Çalışmaya göre modeller bu durumda serveti kalan sinyallerden çıkarıyor.
