Elon Musk neden oldu Geçen hafta (yakın zamanda kovulan) sağcı provokatör Tucker Carlson’a OpenAI’nin ChatGPT’sine rakip olan “TruthGPT”yi kurmayı planladığını söylediğinde ortalığı karıştırdı. Musk, inanılmaz derecede popüler olan botun “uyandırma” önyargısı gösterdiğini ve versiyonunun “gerçeği arayan maksimum yapay zeka” olacağını söylüyor – yalnızca kendi siyasi görüşlerinin gerçeği yansıttığını öne sürüyor.
Musk, dil modellerindeki siyasi önyargılardan endişe duyan tek kişi değil, ancak diğerleri belirli bakış açılarını zorlamak yerine siyasi bölünmeler arasında köprü kurmak için yapay zekayı kullanmaya çalışıyor.
Yeni Zelanda merkezli bir veri bilimcisi olan David Rozado, ChatGPT’de siyasi önyargı konusuna dikkat çeken ilk kişilerden biriydi. Birkaç hafta önce, vergilendirme, silah sahipliği ve serbest piyasalar gibi konularda bottan liberal eğilimli olarak gördüğü yanıtları belgeledikten sonra, daha muhafazakar bakış açılarını ifade eden RightWingGPT adlı bir yapay zeka modeli yarattı. Silah sahibi olmaya meraklıdır ve vergilerden hoşlanmaz.
Rozado, ChatGPT’ye güç verene benzer ancak ondan daha az güçlü olan Davinci GPT-3 adlı bir dil modelini aldı ve bulut bilgi işlemine harcanan birkaç yüz dolarlık bir maliyetle ek metinle ince ayar yaptı. Proje hakkında ne düşünürseniz düşünün, gelecekte insanların farklı bakış açılarını dil modellerine dönüştürmenin ne kadar kolay olacağını gösteriyor.
Rozado bana, LeftWingGPT adlı daha liberal bir dil modelinin yanı sıra DepolarizingGPT adlı ve “kutupsuzlaştırıcı bir siyasi konum” göstereceğini söylediği bir model oluşturmayı planladığını söyledi. Rozado ve Kültürel Evrim Enstitüsü adlı merkezci bir düşünce kuruluşu, bu yaz üç modeli de çevrimiçi hale getirecek.
Rozado bir e-postada, “Bu tarafların her birini -sağ, sol ve ‘bütünleştirici’- düşünceli yazarların (provokatörlerin değil) kitaplarını kullanarak eğitiyoruz” diyor. DepolarizingGPT metni, Thomas Sowell, Milton Freeman ve William F. Buckley gibi muhafazakar seslerin yanı sıra Simone de Beauvoir, Orlando Patterson ve Bill McKibben gibi liberal düşünürlerin yanı sıra diğer “düzenlenmiş kaynaklar”dan geliyor.
Şimdiye kadar, politik olarak daha uyumlu yapay zeka botları geliştirmeye duyulan ilgi, politik bölünmeyi canlandırmakla tehdit etti. Bazı muhafazakar kuruluşlar zaten ChatGPT’ye rakipler oluşturuyor. Örneğin, aşırı sağcı kullanıcı tabanıyla tanınan sosyal ağ Gab, “kodunun etrafına sıkıca sarılmış liberal propaganda kısıtlamaları olmadan özgürce içerik üretme yeteneğine” sahip yapay zeka araçları üzerinde çalıştığını söylüyor.
Araştırmalar, dil modellerinin kullanıcıların ahlaki bakış açılarını ince bir şekilde etkileyebileceğini, dolayısıyla sahip oldukları herhangi bir siyasi çarpıklığın önemli olabileceğini öne sürüyor. Çin hükümeti kısa bir süre önce, bu modellerin davranışlarını evcilleştirmeyi ve siyasi hassasiyetlerini şekillendirmeyi amaçlayan üretken yapay zeka hakkında yeni yönergeler yayınladı.
OpenAI, daha yetenekli AI modellerinin “tüm ideolojileri, dünya görüşlerini, gerçekleri ve gerçek olmayanları güçlendirme konusunda daha büyük potansiyele” sahip olabileceği konusunda uyardı. Şubat ayında şirket, bir blog gönderisinde kullanıcıların değerlerini tanımlamasına izin veren modeller geliştirmeyi araştıracağını söyledi.
Musk ile projesi hakkında konuşmadığını söyleyen Rozado, belirli bir dünya görüşünü yayan botlar yaratmaktan ziyade düşünmeye teşvik etmeyi amaçlıyor. “Umarım bir toplum olarak… bölünme ekmek yerine köprüler kurmaya odaklanan yapay zekalar yaratmayı öğrenebiliriz” diyor.
Rozado’nun hedefi takdire şayan, ancak siyasi bölünme sisi içinde nesnel olarak doğru olana karar verme ve bunu dil modellerine öğretme sorunu en büyük engel olabilir.
ChatGPT ve benzeri konuşma botları, büyük miktarda metinle beslenen ve bir dizi kelimeyi hangi kelimenin takip etmesi gerektiğini tahmin etmek üzere eğitilen karmaşık algoritmalar üzerine kuruludur. Bu süreç son derece tutarlı çıktılar üretebilir, ancak tükettikleri eğitim materyallerinden pek çok ince önyargıyı da yakalayabilir. Daha da önemlisi, bu algoritmalara nesnel gerçekleri anlamaları öğretilmiyor ve bir şeyler uydurma eğilimindeler.
Bir yanıt bırakın