Yazın 2017’de Wisconsin’de üç genç yüksek hızlı bir araba kazasında öldü. Çarpışma anında, çocuklar Snapchat’in Hız Filtresini kullanarak hızlarını kaydediyorlardı – saatte 123 mil. Bu, bu türdeki ilk olay değildi: Aynı filtre, 2015 ile 2017 arasındaki birkaç başka kazayla bağlantılıydı.
Wisconsin’li gençlerin ebeveynleri, Snapchat’e, saatte 100 mili aşan kullanıcılara “ödüller, galibiyetler ve sosyal takdir” veren ürününün, tehlikeli yüksek hızlı sürüşü teşvik etmek için ihmal edilerek tasarlandığını iddia ederek dava açtı. Bir alt mahkeme başlangıçta, İletişim Ahlakı Yasası’nın 230. Maddesinin, uygulamanın Hız Filtresini kullanan kişiler tarafından oluşturulan üçüncü taraf içerikten sorumlu olmadığını iddia ederek Snapchat’i sorumluluktan muaf tuttuğuna karar verdi. Ancak 2021’de Dokuzuncu Daire, alt mahkemenin kararını bozdu.
Platformlar, Bölüm 230 nedeniyle bu tür içeriklerden sorumlu tutulmaktan büyük ölçüde muaftır. Ancak, bu önemli durumda–Lemmon v. Snap–Ninth Circuit, bir platformun kendi zararlı ürün tasarımı ile zararlı üçüncü taraf içeriği barındırması arasında kritik bir ayrım yaptı. Argüman, Snapchat’in zararlı içerik oluşturduğu veya barındırdığı değil, tehlikeli davranışı teşvik eden bir özelliği, Hız Filtresini ihmal ederek tasarladığıydı. Dokuzuncu Daire, alt mahkemenin bir savunma olarak Bölüm 230’a başvurmakla hata ettiğini doğru bir şekilde tespit etti. Yanlış yasal araçtı. Bunun yerine mahkeme, Snapchat’in ihmalkar Hız Filtresi tasarımına odaklandı; bu, yaygın bir ürün sorumluluk haksız fiilidir.
Sinir bozucu bir şekilde, aradan geçen yıllarda ve en son olarak da geçen ay ABD Yüksek Mahkemesi’nde Gonzalez – Google, mahkemeler zararlı içerik ile zararlı tasarım seçimlerini anlamadı veya ayırt edemedi. Bu davaları gören yargıçlar ve çevrimiçi suiistimalleri ve zararlı faaliyetleri dizginlemek için çalışan yasa koyucular, bu ayrımı akılda tutmalı ve zararlı içerikle ilgili geniş kapsamlı 230.
Kalbinde gonzalez Bölüm 230’ün YouTube’u yalnızca üçüncü taraf içeriği barındırdığında değil, aynı zamanda kullanıcıların izlemesi gerekenler konusunda hedefe yönelik önerilerde bulunduğunda da koruyup korumadığı sorusudur. Gonzalez’in avukatı, YouTube’un video tavsiye ettiği için Bölüm 230 dokunulmazlığı almaması gerektiğini savundu ve gösterdiği üçüncü taraf malzemeyi seçme ve tavsiye etme eyleminin kendi başına içerik oluşturma olduğunu iddia etti. Google’ın avukatı, öneri algoritmasının tarafsız olduğunu ve kullanıcılara önerdiği tüm içeriğe aynı şekilde davrandığını söyledi. Ancak bu argümanlar hedefi kaçırıyor. Bu davada zararların dikkate alınmasını önlemek için Bölüm 230’a başvurmaya hiç gerek yoktur. YouTube’un öneri özelliğinin yeni içerik oluşturması değil, “tarafsız” öneri algoritmalarının, örneğin ISIS videoları ile kedi videoları arasında ayrım yapmayacak şekilde ihmalkar bir şekilde tasarlanmış olmasıdır. Aslında, öneriler aktif olarak zararlı ve tehlikeli içeriği desteklemektedir.
YouTube’un Sıradakini İzle ve Sizin İçin Önerilenler gibi öneri özellikleri; gonzalez– aşırı ve sansasyonel malzemeye öncelik verdikleri için maddi olarak zarara katkıda bulunurlar ve kullanıcıları bu tür içerik oluşturmaları için teşvik eder ve parasal olarak ödüllendirirler. YouTube, öneri özelliklerini kullanıcı etkileşimini ve reklam gelirini artıracak şekilde tasarladı. Bu sistemin yaratıcıları, bunun zararlı davranışları teşvik edeceğini ve teşvik edeceğini bilmeleri gerekirdi.
Çoğu mahkeme, Bölüm 230’ün yalnızca platformları tehlikeli üçüncü şahıs içeriğinden sorumlu olmaktan muaf tutmanın ötesine geçen kapsamlı bir yorumunu kabul etse de, bazı yargıçlar daha da ileri gitti ve ürün sorumluluğunu öne sürerek ihmalkar tasarım konusunda daha katı incelemeler uygulamaya başladı. Örneğin, 2014 yılında, rastgele kullanıcıları eşleştiren bir görüntülü sohbet hizmeti olan Omegle, 11 yaşındaki bir kızı, onu yıllarca tımarlayacak ve cinsel tacizde bulunacak 30 yaşındaki bir adamla eşleştirdi. 2022 yılında bu davaya bakan yargıç, AM – Omegle, Bölüm 230’ün her iki tarafça gönderilen gerçek materyali büyük ölçüde koruduğunu tespit etti. Ancak platform, cinsel yırtıcıları reşit olmayan kurbanlarla birleştirmek için ihmalkar tasarım seçiminden yine de sorumluydu. Daha geçen hafta Grindr’e benzer bir dava açıldı. Kanada’dan 19 yaşındaki bir çocuk, küçükken dört günlük bir süre boyunca kendisine tecavüz eden yetişkin erkeklerle bağlantılı olduğu için uygulamayı dava ediyor. Yine dava, Grindr’in yaş doğrulama sürecinde ihmalkar davrandığını ve TikTok’taki reklamlarını reşit olmayanları hedef alarak aktif olarak reşit olmayan kullanıcıların uygulamaya katılmasını sağlamaya çalıştığını iddia ediyor. Bu durumlar, mesela Lemmon v. Snapzararlı içerik yerine zararlı ürün tasarım özelliklerine odaklanmanın önemini teyit ediyor.
Bu vakalar, platformların nasıl daha güvenli hale getirileceği konusunda umut verici bir emsal teşkil ediyor. Çevrimiçi suistimalleri dizginleme girişimleri üçüncü taraf içeriğine ve Bölüm 230’e odaklandığında, anlamlı bir değişiklik gerçekleştirmeyi zorlaştıran çetrefilli ifade özgürlüğü sorunlarına saplanırlar. Ancak davacılar, yargıçlar ve düzenleyiciler bu içerik meselelerini bir kenara bırakıp bunun yerine ürün sorumluluğuna odaklanırlarsa, sorunun kökenine ineceklerdir. Zararlı içeriğin oluşturulmasını ve çoğalmasını teşvik eden ve bunlardan para kazanan ihmalkar tasarım seçimlerinden platformları sorumlu tutmak, çevrimiçi ortamda devam eden birçok tehlikeyi ele almanın anahtarıdır.
KABLOLU Görüş çok çeşitli bakış açılarını temsil eden dış katkıda bulunanların makalelerini yayınlar. Daha fazla görüş oku Buradave gönderim yönergelerimize bakın Burada. Şuraya bir makale gönderin: görüş@ adana haberleri.com.
Bir yanıt bırakın