ABD’deki sohbet botu kullanıcılarının yaklaşık üçte biri, yapay zekâ modellerine küfür ediyor veya hakaret içeren mesajlar gönderiyor. Searchable tarafından Eylül 2025 Eylül 2026 arasında toplanan sekiz milyon mesajın incelenmesi, kullanıcıların botlara yönelik saldırgan dilinin yaygınlığını ortaya koydu. Anthropic ise Claude kullanıcılarının modellere yönelik sürekli gereksiz kötü muamelesini yasaklayan yeni kullanım koşullarını 12 Kasım itibarıyla yürürlüğe.
Sohbet Botlarına Yönelik Hakaretler Kullanıcı Davranışlarına YansıdıYapay zekâ arama görünürlüğünü takip eden Searchable şirketinin araştırması, ABD’ ChatGPT, Gemini Claude kullanan kişilerin mesajlarını kapsıyor. Gönüllü katılımcılardan oluşan anonim panel üzerinden elde edilen veriler, kullanıcıların yüzde 33’ünün sohbet botlarına küfür ettiğini veya hakaret ettiğini gösteriyor.
Araştırma, saldırgan dilin sohbet botlarının yanıt başarısıyla ilişkisini inceledi. Kullanıcılar hakaret içeren mesajlar gönderdiğinde botlar ilk şikâyeti takip eden yanıtlarında sorunu yüzde 24 oranında çözdü. Hakaret içermeyen mesajlarda ise çözüm oranı yüzde 35’e yükseldi. Veriler, saldırgan iletişimin kullanıcıların almak istediği sonucu elde etmesini kolaylaştırmadığını ortaya koyuyor.
Kullanıcıların demografik özellikleri mesajlardaki küfür sıklığını etkiledi. Erkek kullanıcılar her 10 bin kelimede ortalama 22 küfürlü ifade kullanırken kadınlarda oran 16,5 olarak ölçüldü. Yaş grupları arasında farklılık görüldü; 35-44 yaş aralığındaki kullanıcılar 10 bin kelimede 21,7 küfürlü ifadeye ulaşırken 18-24 yaş grubunda oran 13,3 seviyesinde kaldı.
Araştırmanın bölgesel sonuçlarında Nevada, her 10 bin kelimede 22,7 küfürlü ifadeyle ilk sırada yer. New Jersey’ ölçülen oran ise Nevada’nın yaklaşık yarısı düzeyinde kaldı. veriler, sohbet botlarıyla kurulan iletişimde saldırgan dil kullanımının kullanıcı gruplarına bölgelere göre değiştiğini gösteriyor.
Searchable araştırmasına göre saldırgan mesajların yüzde 52’sinden biraz fazlası üç temel kullanıcı memnuniyetsizliğinin ardından gönderildi. Sohbet botunun talimatları yerine getirmemesi, yanlış veya uydurma bilgi vermesi, kullanıcının isteğini anlamaması nedenlerin başında geldi.
Şirketin The Register’a yaptığı açıklamada, saldırgan mesajların yüzde 8’inin sohbet botunun isteği tamamen reddetmesinden veya güvenlik kuralları hakkında kullanıcıya uyarıda bulunmasından hemen sonra geldiği belirtildi. mesajların önemli bölümü, gerçek kişilerin ya ünlülerin görsellerini üretme talepleriyle bağlantılıydı. Kullanıcıların belirli sanatçıların tarzında metin veya şarkı sözü yazdırma isteklerinin reddedilmesi benzer tepkilere yol.
sonuçlar, yapay zekâ güvenlik önlemlerinin kullanıcı deneyimiyle nasıl kesiştiğini gösteriyor. Sohbet botlarının zararlı talepleri reddetmesi platform güvenliği açısından önem taşırken kullanıcıların beklentileriyle sistemin sınırları arasındaki uyuşmazlıklar iletişim gerilimini artırabiliyor.
Anthropic, 12 Kasım’ yürürlüğe giren kullanım koşullarına sohbet botlarına yönelik davranışları düzenleyen yeni madde ekledi. Şirketin güncel politikası, kullanıcıların modellere karşı sürekli gereksiz biçimde aşağılayıcı veya zalim davranışlarda bulunmasını yasaklıyor.
Anthropic sözcüsü, düzenlemenin belirli amacı bulunmadan tekrarlanan kötü muameleyi hedeflediğini açıklamıştı. Akademik araştırma gibi gerekçelere dayanan model etkileşimleri ise şirketin değerlendirmesine göre farklı biçimde ele alınabilecek. Ancak güvenlik önlemlerini aşmaya yönelik girişimler, kullanıcıların belirli amacı bulunsa bile platformun kötüye kullanım kurallarını ihlal edebiliyor.
Şirketin düzenlemesi, her sert veya eleştirel mesajı otomatik olarak ihlal saymıyor. Anthropic, kuralların özellikle aşırı tekrarlanan davranışlara yönelik olduğunu belirtirken yaptırımların uygulanmasında takdir yetkisini elinde tutuyor. Şirket, Claude modellerine yönelik kötü muamelenin sıklığı hakkında yöneltilen sorulara ise henüz yanıt vermedi.
Anthropic’in yeni kullanım koşulları, şirketin yapay zekâ modellerinin olası bilinç deneyimleri üzerine yürüttüğü tartışmaların ardından geldi. Şirket, modellerin potansiyel bilinç durumları deneyimleri konusunda insanların endişe duyması gerekip gerekmediğini daha önce gündeme taşımıştı.
Ekim ayında açıklanan düzenleme, kendisini yapay zekâ işkence odası olarak tanımlayan GitHub projesinin yayınlanmasından kısa süre sonra duyuruldu. Proje, büyük dil modellerinin acı kavramını içeren ifadeler karşısındaki tepkilerini inceleyen “The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It” araştırmada ele alınan fikirleri uygulamaya çalışıyordu. Araştırmada, modellerin acı kendine zarar verme hakkındaki dilsel girdilere insan tepkilerini andıran yanıtlar verebildiği incelendi.
Proje araştırma, çevrim içi platformlarda farklı tepkilerle karşılandı. Araştırmanın yazarlarından biri projeyi eleştirirken çok sayıda sosyal medya kullanıcısı sohbet botlarının acı çektiğini anlatan metinlerin ılmasına tepki gösterdi.
Searchable Üst Yöneticisi kurucu ortağı Chris Donnelly ise Anthropic’in kararını olumlu karşıladı. Donnelly, düzenlemenin kullanıcıların sohbet botlarından daha verimli yararlanmasına katkı sağlayabileceğini, ayrıca botlara yönelik aşağılayıcı dilin insanlar arasındaki iletişime taşınmasını sınırlayabileceğini savundu. Böylece yapay zekâ şirketlerinin kullanım politikaları, yalnızca teknik güvenlik içerik denetimiyle değil, kullanıcıların dijital iletişim alışkanlıklarıyla bağlantılı yeni tartışma alanı oluşturuyor.
