Çin’in sansür rejimi, Baidu ve diğer internet şirketlerinin belirli web sitelerine erişimi engellemesini ve siyasi açıdan hassas konulardan kaçınmasını gerektiriyor. Engellenmesi gereken kelimeler veya ifadeler, protestolara yanıt olarak veya özel etkinlikler sırasında hızla güncellenebilir.
Ancak Çin’in teknoloji endüstrisini inceleyen Georgetown Üniversitesi’nde yardımcı doçent olan Jeffrey Ding, sansürle ilgili endişelerin Çin’deki büyük dil modellerinin gelişimini yavaşlatmadığını söylüyor. Baidu’nun yeni botunun temelini oluşturan Ernie dil modelini bir süredir bir API aracılığıyla kullanılabilir hale getirdiğini ve diğer şirketlerin de benzer modeller sunduğunu belirtiyor.
Baidu, Ernie Bot’un eğitim verilerinin ayrıntılarını vermedi, ancak büyük olasılıkla Çin internetinden alıntılandı. Bu, botun hammaddesinin büyük ölçüde, örneğin hükümete yönelik eleştirileri sınırlamayı amaçlayan Çin’in sansür kuralları tarafından küratörlüğünü yaptığı anlamına gelir.
Sansür, Çinli sohbet robotlarını daha ince şekillerde de etkileyebilir. Çin’de yasaklanan Wikipedia’nın Çince versiyonunda algoritmaları eğiten 2021 tarihli bir akademik araştırma projesi ve hükümet sansürüne tabi kitle kaynaklı bir ansiklopedi olan Baidu’s Baike, sansürlenmiş eğitim verilerinin kullanılmasının yapay zeka yazılımının atandığı anlamı önemli ölçüde değiştirdiğini buldu. farklı kelimelere.
Çince Vikipedi’de eğitilen algoritma, “demokrasi” kelimesini “istikrar” gibi pozitif kelimelere daha yakın ilişkilendirdi. Sansürlü Baike materyali üzerinde eğitilen algoritma, Çin hükümetinin politikasına daha uygun olan “demokrasiyi” “kaosa” daha yakın bir şekilde temsil ediyordu. Ancak ChatGPT gibi sohbet robotları son derece esnek olabildiğinden ve eğitim verilerinde materyalleri yeniden düzenleyebildiğinden, Baidu muhtemelen ek güvenlik önlemleri almak zorunda kalmıştır.
Karışık tepkilere rağmen Ernie Bot, ChatGPT için yetenekli bir rakip gibi görünüyor. Bot şu anda yalnızca sınırlı sayıda kullanıcı tarafından kullanılabilir ve bunlardan bazıları etkilendiklerini söylüyor. ChatGPT, Çince konuşabilmesine rağmen Çin’de mevcut değildir.
UC Sant Barbara’da yapay zeka konusunda uzmanlaşmış ve daha önce Ernie bot’un arkasındaki makine öğreniminin bir kısmını oluşturmak için kullanılan teknoloji üzerinde çalışan bir profesör olan Lei Li, Baidu’nun yaklaşık on yıldır temel teknoloji üzerinde çalıştığına dikkat çekiyor. Buna karşılık Microsoft, Bing’in yeni sohbet robotu için temel teknolojiyi ve Office için yakında çıkacak olan bazı metin oluşturma özelliklerini OpenAI’den lisansladı ve yarattıkları üzerindeki özel haklar karşılığında milyarlarca dolar yatırım yaptı.
Li ayrıca, öyküler ve iş raporları oluşturma yeteneği de dahil olmak üzere Ernie Bot’un yapabildiği bazı şeylerden de etkilendiğini söylüyor. Halüsinasyon probleminin bu tür tüm dil modelleri için bir meydan okuma olduğunu ekliyor. “Araştırmacıların hala yapacak işleri olduğu yer burası” diyor.
Bir WeChat posteri, Çinli botun tanıtılan yeteneklerini ChatGPT’ninkilerle karşılaştırdı ve Çince deyimleri işlemede daha iyi ve bazı durumlarda daha doğru buldu. Örneğin, ChatGPT yanlış bir şekilde bilim kurgu yazarı Liu Cixin’in atalarının evi olduğunu iddia etti. Üç Cisim Problemi, Hubei’dir, Ernie Bot ise Henan’a doğru bir şekilde yanıt vermiştir. ChatGPT Çin’de engellendi, ancak birçok kişi ona erişmenin yollarını buldu.
Bir yanıt bırakın