Porcornie’nin yasal davası devam ediyor. Aralık ayında, Hollanda İnsan Hakları Enstitüsü, VU Amsterdam tarafından kullanılan yazılımın ayrımcı olduğundan şiddetle şüphelendiğini belirten ve üniversiteye savunmasını yapması için 10 hafta süre veren bir ara karar yayınladı. Bu savunma henüz kamuoyuna açıklanmadı, ancak VU Amsterdam daha önce Pocornie’nin sınava ne kadar sürede giriş yaptığını ve yazılımı kaç kez yeniden başlatmak zorunda kaldığını gösteren günlük verilerinin, sorunlarının dengesiz bir internetten kaynaklandığını ima ettiğini iddia etmişti. yüz algılama teknolojisindeki sorunların aksine bağlantı. Kararın bu yıl içinde çıkması bekleniyor.
Sınav salonlarının yerini öğrencilerin kendi evleri aldığından, Proctorio’nunki gibi kopya önleme yazılımı üreticileri pandemi tarafından desteklendi. Dijital izleme, okulların ve üniversitelerin sokağa çıkma yasağı boyunca işlerini her zamanki gibi sürdürmelerine yardımcı olmayı amaçlıyordu – gözetimsiz öğrencilerin kopya çekmesine fırsat yaratmadan. Ancak pandemi sona erdi ve dünyanın dört bir yanındaki öğrenciler yüz yüze eğitime geri dönerken bile yazılım kullanılmaya devam ediyor. ABD merkezli Electronic Frontier Foundation’da öğrenci gözetimine odaklanan Jason Kelly, Aralık ayında öğrenci mahremiyetinin durumuna ilişkin 2022 tarihli bir incelemede, “Bunun ortadan kalkacağına inanmıyoruz” dedi.
ABD’de Amaya Ross, Ohio’daki okulunun hâlâ hile önleme yazılımı kullandığını söylüyor. Ancak her giriş yaptığında, pandemi sırasında yaşadığı deneyimin tekerrür edeceğinden endişe duyuyor. Siyah olan Ross, 2021’de yazılımla ilk karşılaştığında testine erişemediğini de söylüyor. O sırada 20 yaşında olan Ross, “Yüzünüzü tanıyamıyoruz” diyordu. Bu mesajı üç dört kez aldıktan sonra yakındaki lambalar ve panjurlarla oynamaya başladı. Hatta tavan lambasının hemen altında ayakta test yapmaya çalıştı.
Sonunda, masasının yanındaki bir rafta duran bir LED el fenerini dengeleyip yüzüne doğrulttuğunda, ışık neredeyse kör edici olmasına rağmen bilim sınavına girebileceğini keşfetti. Deneyimini, farları tam açıkken diğer yönden yaklaşan bir araba ile gece sürüş deneyimine benzetiyor. “Bitene kadar güç vermen gerekiyordu,” diyor.
Ross, halen kullanmakta olduğu yazılımı yapan şirketin adını vermeyi reddediyor (Proctorio, eleştirmenlerinden en az birine dava açtı). Ama annesi Janice Wyatt-Ross’tan sonra, gönderildi Twitter’da olanlar hakkında Ross, işletmeden bir temsilcinin ona ulaşarak beyaz duvarların önünde test yapmayı bırakmasını tavsiye ettiğini söylüyor. Şimdi arkasında çok renkli bir duvar asılıyken testler yapıyor ve şimdiye kadar işe yaramış gibi görünüyor. Ross, Siyah veya daha koyu tenli bazı arkadaşlarına yazılımı sorduğunda, birçoğu benzer sorunlar yaşamıştı. “Ama sonra beyaz arkadaşlarıma sordum ve ‘Karanlıkta testler yapıyorum’ dediler” diyor.
Mozilla Vakfı’nın bir üyesi olan Deborah Raji, şirketler çeşitli veri kümeleriyle eğitilmemiş modeller kullandığında, yüz tanıma ve algılama teknolojisinin daha koyu tenli insanları tanımada tipik olarak başarısız olduğunu söylüyor. 2019’da Raji, ticari olarak kullanılan yüz tanıma ürünleriyle ilgili bir denetim yayınladı ve bu ürünlerden bazılarının daha koyu tenli kadınları tanımada beyaz erkeklere göre yüzde 30’a kadar daha kötü olduğunu buldu. “Daha önce yüz tanıma alanında yaygın kullanımda olan birçok veri seti [2019] yüzde 90’dan fazla daha açık tenli denekler, yüzde 70’ten fazla erkek denekler içeriyordu” diyor ve o zamandan beri ilerleme kaydedildiğini, ancak bunun “çözülmüş” bir sorun olmadığını da sözlerine ekliyor.
Bir yanıt bırakın