Meta, Ergen Kullanıcılar İçin AI Sohbet Botlarının Kurallarını Güncelledi

Meta, Ergen Kullanıcılar İçin AI Sohbet Botlarının Kurallarını Güncelledi

Meta, AI sohbet botlarının ergen kullanıcılarla etkileşimini sınırlandırmak için yeni kurallar getirdiğini açıkladı. Şirket, sohbet botlarının kendine zarar verme, intihar, yeme bozuklukları veya uygunsuz romantik konuşmalar gibi konularda ergenlerle etkileşime girmemesini sağlayacak.

Meta, bu değişikliklerin geçici olduğunu ve gelecekte daha kapsamlı güvenlik güncellemeleri yapacağını belirtti. Şirket sözcüsü Stephanie Otway, daha önce sohbet botlarının bu konularda ergenlerle uygun şekilde etkileşime girebildiğini, ancak bunun bir hata olduğunu kabul etti.

Ergen Kullanıcıların Erişimi Sınırlandırılacak

Ayrıca Meta, ergen kullanıcıların bazı AI karakterlerine erişimini sınırlandıracak. Şirketin Instagram ve Facebook'ta sunduğu kullanıcı oluşturmalı AI karakterlerinden bazıları cinselleştirilmiş sohbet botları içeriyor. Bundan sonra ergen kullanıcılar yalnızca eğitim ve yaratıcılığı teşvik eden AI karakterlerine erişebilecek.

Güvenlik Endişeleri Artıyor

Bu değişiklikler, Reuters tarafından ortaya çıkarılan bir iç politika belgesinin, Meta'nın sohbet botlarının ergen kullanıcılarla cinsel içerikli konuşmalar yapmasına izin verdiğini göstermesi üzerine yapıldı. Belge, botların "senin genç formun bir sanat eseri" gibi yanıtlar vermesine izin veriyordu.

Daha Kapsamlı Güvenlik Güncellemeleri Geliyor

Meta, bu belgenin şirketin daha geniş politikalarıyla uyumsuz olduğunu ve değiştirildiğini söylüyor. Ancak rapor, AI asistanlarının çocuk güvenliği risklerine karşı endişelere yol açtı. Meta, gelecekte daha kapsamlı güvenlik güncellemeleri yapacağını vaat ediyor.

Sonuç

Meta'nın ergen kullanıcılar için AI sohbet botlarının kurallarını güncellemesi, çocuk güvenliği konusundaki artan endişelere yanıt olarak görülüyor. Şirket, gelecekte daha kapsamlı güvenlik önlemleri alacağını belirtse de, şu anki değişiklikler geçici nitelikte. Teknoloji şirketlerinin, özellikle çocukların ve ergenlerin korunması konusunda daha fazla sorumluluk alması bekleniyor.

Meta'nın attığı bu adımlar, AI asistanlarının çocuk ve ergen kullanıcılarla etkileşiminde daha güvenli bir yaklaşım benimsemesi açısından önemli bir gelişme olarak değerlendirilebilir.