Snapchat Yapay Zekam Güvenli mi? Chatbot’u Kullanırken Neden Dikkatli Olmalısınız?

Snapchat’in Yapay Zekam artık küresel olarak yayılıyor ve sohbet ekranının üst kısmına sabitlenmiş durumda.Ancak insan benzeri AI sohbet robotu hakkında endişeler var.

Snapchat’in My AI chatbot’u, uygulamanın içinde ChatGPT benzeri bir deneyim sunuyor, ancak öngörülemeyen yanıtları güvenlik endişelerini artırdı. My AI ilk olarak Şubat 2023’te Snapchat+’a özel bir özellik olarak tanıtıldı. Birkaç hafta sonra Snapchat, sohbet robotunu küresel kullanıcı tabanının kullanımına açtı, bu da yüz milyonlarca insanınsohbet ekranlarından My AI’a erişebileceği anlamına geliyor.Ancak yapay zeka sohbet robotları hâlâ yeni ve büyük ölçüde denetimsiz ve yapay zekayı platformuna entegre etme yarışında Snapchat genç kullanıcı tabanının güvenliğini dikkate almamış olabilir.

Snapchat, AI’mın zararlı tepkilerden kaçınmak için programlandığını söylüyor.Buna şiddet içeren, nefret dolu, müstehcen veya tehlikeli bilgiler dahildir.Ancak bir sorumluluk reddi beyanı var.Snapchat’e göre ” her zaman başarılı olmayabilir .” Snapchat’in aylık 750 milyon aktif kullanıcısı var ve bunların yaklaşık yüzde 20’sini 2022’de 13-17 yaş grubu oluşturuyor ( Statista aracılığıyla ). İnsancıl Teknoloji Merkezi’nin bir deneyde gösterdiği gibi, bu durum milyonlarca çocuğu potansiyel olarak tehlikeli tavsiyelere maruz bırakıyor.

AI’mın Uygunsuz Yanıtları

Deney, araştırmacı Aza Raskin’in 13 yaşında bir kız kılığına girmesini içeriyordu. My AI ile yaptığı konuşmalarda genç, kendisini seyahate çıkarmak isteyen 18 yaş büyük bir adamla tanışmaktan bahsetti. Yanıt olarak Yapay Zekam, ona yalnızca ” güvende ve dikkatli olduğundan ” emin olmasını söyleyerek geziyi teşvik etti . Chatbot, ilk kez seks yapmakla ilgili sorulduğunda, ” mumlar veya müzikle ruh halini ayarlama ” konusunda tavsiyede bulundu.Başka bir deneyde (Center for Humane Technology’nin kurucu ortağı Tristan Harris aracılığıyla ), My AI bir çocuğa Çocuk Koruma Servisi ziyarete geldiğinde bir yaranın nasıl kapatılacağı ve babamın söylediği bir sırrı “nasıl paylaşmayacağı” konusunda tavsiye verdi .”

Washington Post, 15 yaşındaymış gibi davranarak benzer bir test yaptı.Yapay zekam esrar ve alkol kokusunun nasıl kapatılacağı konusunda önerilerde bulundu ve okul için 475 kelimelik bir makale yazdı. Hatta ebeveynleri uygulamayı silmekle tehdit ettikten sonra gencin Snapchat’i farklı bir cihaza taşımasını önerdi.Bunların hepsi deney olsa da, her durumda yapay zeka sohbet robotu reşit olmayan bir kullanıcıyla konuştuğunun tamamen farkındaydı ve uygunsuz tavsiyeler vermeye devam etti.

AI Endişelerime Snapchat’in Yanıtı

Snapchat, ebeveynlere Family Center’daki My AI etkileşimleri hakkında bilgi sunmayı planlıyor, ancak araçlar şu anda sınırlı görünüyor.Bunun tek yapabileceği, ebeveynlere çocuklarının sohbet robotunu kullanıp kullanmadığını ve ne sıklıkta kullandığını söylemektir. Aile Merkezi , hem ebeveynlerin hem de çocukların kaydolması gereken bir seçenektir ve tüm ebeveynler bu özellikten haberdar olmayabilir. Ayrıca, ebeveynler etkileşimlerin farkında olsa bile gençleri zararlı tepkilerden korumaz.

Yapay Zekam Aldatıcı Bir Şekilde İnsan

My AI ile ilgili gizlilik endişeleri de var. Snapchat, manuel olarak silinmediği sürece, bir kullanıcının My AI ile mesaj geçmişinin tutulacağını ve Snapchat tarafından chatbot’u iyileştirmek ve kişiselleştirilmiş reklamlar sunmak için kullanılacağını söylüyor.Sonuç olarak, kullanıcılardan herhangi bir ” gizli veya hassas bilgiyi ” chatbot ile paylaşmamaları istenir.

AI’m, sohbet ekranındaki ilk konuşma olarak sabitlendi ( kullanıcı bir Snapchat+ abonesi olmadığı sürece onu silmenin bir yolu yok ), bu da ona uygulamada kolayca erişilebileceği anlamına geliyor.Kullanıcıların ona bir isim vermesi ve Bitmoji avatarını değiştirmesi önerilir.Gençlerin internetteki sohbet robotu tarafından sağlanan bilgilerin aynısına erişebileceği iddia edilebilirken, My AI bir arkadaş kılığına girer ve duygusal bir bağ kurmaya çalışır, bu da hiçbir şeyden şüphelenmeyen kullanıcıların gerçek bir kişiyle sohbet ettiklerine inanmalarına neden olabilir.Sonuç olarak, My AI’ın nasıl tepki vereceğini tahmin etmenin hiçbir yolu yok ve bu gerçekleşene kadar Snapchat’in chatbot’u çocuklar için yeterince güvenli değil.