Google Jigsaw’dan tacize Karşı Yeni Bir Araç Geliyor Google’ın Jigsaw ünitesi, Taciz Yöneticisi (Harassment Manager) isimli açık kaynaklı bir taciz tedbire aracının kodunu yayınlıyor. Gazeteciler ve başka kamusal bireyler için tasarlanan araç, kullanıcıların Twitter’dan başlayarak toplumsal medya platformlarında potansiyel olarak berbata kullanım maksatlı yorumları sıralamasına imkan tanımak için Jigsaw’ın Perspektif API’sini kullanıyor. Geliştiricilerin geliştirmeleri için kaynak kodu olarak yayınlanmasının akabinde araç, Haziran ayında Thomson Reuters Vakfı gazetecileri için fonksiyonel bir uygulama olarak piyasaya sürülecek.
Taciz Yöneticisi, tweet karşılıklarını gizleme ve hesapları sessize alma yahut engelleme üzere denetleme seçeneklerini toplu filtreleme ve raporlama sistemiyle birleştirmek için şu anda Twitter’ın API’siyle bir arada çalışabiliyor. Perspektif, tehditler, hakaretler ve küfür üzere ögelere dayalı olarak iletilerin lisanını “toksisite” seviyeleri açısından denetim ediyor. İletileri, kullanıcıların Twitter’ın var iseyılan denetleme araçları aracılığıyla tek tek değil toplu olarak ele alabilecekleri bir gösterge panosunda sıralamalarına imkan tanıyor ve kullanıcılar burada bildirilerin metnini bulanıklaştırmayı seçebiliyor. bu biçimdece her birini okumalarına gerek kalmıyor ve otomatik olarak oluşturulan sıraları kullanmanın yanı sıra anahtar sözleri arayabiliyorlar.
Taciz Yöneticisi ayrıyeten kullanıcıların berbata kullanım maksatlı bildiriler içeren bağımsız bir rapor indirmesine de imkan tanıyarak, patronları yahut direkt tehditler üzere yasa dışı içerik olması durumunda kolluk kuvvetleri için bir iz oluşturulmasını sağlıyor. Lakin şimdilik, kullanıcıların indirebileceği bağımsız bir uygulama bulunmuyor. Bunun yerine geliştiriciler, Thomson Reuters Vakfı üzere ortaklar tarafınca başlatılacak olan, fonksiyonelliğini ve hizmetlerini içeren uygulamaları özgürce oluşturabilecek.
Google, daha evvel de otomatik denetleme için Perspektif’ten yararlanmıştı. 2019’da, toplumsal medya kullanıcılarının toksik olma mümkünlüğü yüksek iletileri görmekten kaçınmasına müsaade veren Tune isimli bir tarayıcı uzantısı da yayınladı ve biroldukça yorum platformu tarafınca insan kontrolünü desteklemek için kullanıldı.
Fakat Perspektif ve Tune’ın piyasaya sürülmesi sırasında lisan tahlili modeli tarihî olarak harika olmaktan uzaktı. kimi vakit hiciv içeriğini yanlış sınıflandırılabiliyor yahut berbata kullanım gayeli iletileri tespit edemeyebiliyordu.
Twitter ve Instagram üzere hizmetlerde yapay zeka dayanaklı denetlemenin tersine, Taciz Yöneticisi platform tarafı denetleme özelliği değil. Görünüşe nazaran, toplumsal medya geri bildirimlerinin kimi vakit muazzam olabilen ölçeğini yönetmeye yardımcı olmak için bir sıralama aracı. Şimdilik kullanamasalar bile, gazetecilik alanının epey haricindeki beşerler için bile kullanışlı olacağını düşünüyoruz…
Taciz Yöneticisi, tweet karşılıklarını gizleme ve hesapları sessize alma yahut engelleme üzere denetleme seçeneklerini toplu filtreleme ve raporlama sistemiyle birleştirmek için şu anda Twitter’ın API’siyle bir arada çalışabiliyor. Perspektif, tehditler, hakaretler ve küfür üzere ögelere dayalı olarak iletilerin lisanını “toksisite” seviyeleri açısından denetim ediyor. İletileri, kullanıcıların Twitter’ın var iseyılan denetleme araçları aracılığıyla tek tek değil toplu olarak ele alabilecekleri bir gösterge panosunda sıralamalarına imkan tanıyor ve kullanıcılar burada bildirilerin metnini bulanıklaştırmayı seçebiliyor. bu biçimdece her birini okumalarına gerek kalmıyor ve otomatik olarak oluşturulan sıraları kullanmanın yanı sıra anahtar sözleri arayabiliyorlar.
Taciz Yöneticisi ayrıyeten kullanıcıların berbata kullanım maksatlı bildiriler içeren bağımsız bir rapor indirmesine de imkan tanıyarak, patronları yahut direkt tehditler üzere yasa dışı içerik olması durumunda kolluk kuvvetleri için bir iz oluşturulmasını sağlıyor. Lakin şimdilik, kullanıcıların indirebileceği bağımsız bir uygulama bulunmuyor. Bunun yerine geliştiriciler, Thomson Reuters Vakfı üzere ortaklar tarafınca başlatılacak olan, fonksiyonelliğini ve hizmetlerini içeren uygulamaları özgürce oluşturabilecek.
Google, daha evvel de otomatik denetleme için Perspektif’ten yararlanmıştı. 2019’da, toplumsal medya kullanıcılarının toksik olma mümkünlüğü yüksek iletileri görmekten kaçınmasına müsaade veren Tune isimli bir tarayıcı uzantısı da yayınladı ve biroldukça yorum platformu tarafınca insan kontrolünü desteklemek için kullanıldı.
Fakat Perspektif ve Tune’ın piyasaya sürülmesi sırasında lisan tahlili modeli tarihî olarak harika olmaktan uzaktı. kimi vakit hiciv içeriğini yanlış sınıflandırılabiliyor yahut berbata kullanım gayeli iletileri tespit edemeyebiliyordu.
Twitter ve Instagram üzere hizmetlerde yapay zeka dayanaklı denetlemenin tersine, Taciz Yöneticisi platform tarafı denetleme özelliği değil. Görünüşe nazaran, toplumsal medya geri bildirimlerinin kimi vakit muazzam olabilen ölçeğini yönetmeye yardımcı olmak için bir sıralama aracı. Şimdilik kullanamasalar bile, gazetecilik alanının epey haricindeki beşerler için bile kullanışlı olacağını düşünüyoruz…