2017 yılının Mart ayında Facebook yapay zeka yardımıyla intiharı önlemek için iddialı bir proje başlattı. Fa ebook ortamında yayınlanan bir dizi intiharın ardından, bir algoritma hazırlayan Facebook, proaktif davranarak olası intihar vakalarını önleme işine girdi. Algoritma, Facebook’taki neredeyse her gönderiye dokunuyor, bir Facebook temsilcisine göre, her bir içerik parçasını sıfırdan bire bir puanlıyor.

Ancak, bir yıl sonra, Facebook’un gizlilik skandalı patladı. Bu skandalın ardından insanlar bu şirketin kullanıcı izni olmadan eyleme geçirilebilir zihinsel sağlık verileri oluşturma ve onları saklama fikrini yeniden tartışmaya başladı.

Bir kişinin intihara meyilli olup olmadığını incelerseniz muhtemelen onun en önemli kişisel bilgilerini edinmiş olursunuz. Ama bir diğer bakış açısıyla eğer bir kişinin intihara meyilli olup olmadığını inceliyor ve bunu intihar gibi çok önemli bir eylemi engellemek için yaptığınızı söylüyorsanız, onun mental bakış açısının tamamını ele geçirme imkanınız var. Mental derken kesinlikle psikolojik rahatsızlıkları düşünmeyin: Onun oy verme şekli, ürün seçme şekli, hayata karşı bakışı… Sizce Facebook sadece intiharla ilgili bölümleri alıp diğerlerini bırakır mı?

ABD yasalarına bakacak olursanız birinin sağlığına ilişkin tıbbi olmayan veri kaynaklarından sağladığı çıkarımlar yapan Facebook gibi şirketler gizlilik şartlarına tabi değil. Business Insider haberine göre Facebook neredeyse sıfır intihar riskine sahip olanların verilerini bile uzun süre saklamış. Neden? Facebook öyle br şirket işte.

Facebook; İngilizce, İspanyolca, Portekizce ve Arapça gönderileri taramak için intihar algoritmasını kullanıyor. Ancak Avrupa Birliği’ndeki mesajları tarayamıyorlar. Algoritmayı AB’de kullanma olasılığı, bölgenin kullanıcıların zihinsel sağlığı ile ilgili olanlar gibi toplu olarak hassas bilgiler için özel olarak onay vermesini gerektiren web sitelerinin özel onay vermesini gerektiren Genel Veri Koruma Yönetmeliği (GDPR) uyarınca özel gizlilik korumaları nedeniyle durduruldu.

Facebook’un sizin intihar edip etmeyeceğinizi anlamak ve öncesinden öngörmek için verilerinizi taramasını ister miydiniz? Bu soruya büyük bir çoğunluğun cevabı hayır. Ama Facebook’un bir yakınınızın intiharını önlemek için bir şeyler yapmasını ister miydiniz diye sorduğunuzda insanlar buna göreli olarak yüksek bir oranda tamam diyorlar.

İntihar gibi delice bir olayın engellenmesine kim karışabilir? Ama böylesine karmaşık bir işin engellenmesi için toplanacak korkunç miktardaki veriyi ikide bir ben sizin verinizi kaptırdım özür dilerim diyen Facebook’a emanet eder misiniz?

Bu sorunun cevabı çok açık aslında.

Paylaş