Bir Yüzlerce önde gelen yapay zeka uzmanı, teknoloji girişimcisi ve bilim insanı tarafından imzalanan açık mektup, OpenAI’nin dil modeli GPT-4’ten daha güçlü yapay zeka teknolojilerinin geliştirilmesine ve test edilmesine ara verilmesi çağrısında bulunuyor, böylece oluşturabileceği riskler düzgün bir şekilde incelenebilir.
GPT-4 gibi dil modellerinin, giderek artan sayıda görevde insanlarla şimdiden rekabet edebileceği ve işleri otomatikleştirmek ve yanlış bilgi yaymak için kullanılabileceği konusunda uyarıda bulunuyor. Mektup aynı zamanda, insanların yerini alabilecek ve medeniyeti yeniden yaratabilecek yapay zeka sistemlerinin uzak olasılığını da gündeme getiriyor.
İmzacıları arasında Yoshua Bengio’nun da bulunduğu mektupta, “Tüm yapay zeka laboratuvarlarını, GPT-4’ten daha güçlü yapay zeka sistemlerinin (şu anda eğitilmekte olan GPT-5 dahil) eğitimine en az 6 ay süreyle derhal ara vermeye çağırıyoruz” deniyor. modern yapay zekanın öncüsü olarak kabul edilen Montreal Üniversitesi’nden bir profesör, tarihçi Yuval Noah Harari, Skype’ın kurucu ortağı Jaan Tallinn ve Twitter CEO’su Elon Musk.
İnsanlığa yönelik teknolojik risklere odaklanan bir kuruluş olan Future of Life Enstitüsü tarafından yazılan mektup, duraklamanın “kamuya açık ve doğrulanabilir” olması gerektiğini ve GPT-4 gibi gelişmiş yapay zeka modelleri üzerinde çalışan herkesi içermesi gerektiğini ekliyor. Kalkınmada bir duraklamanın nasıl doğrulanabileceğine dair bir öneride bulunmuyor, ancak “böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetlerin devreye girmesi ve bir moratoryum başlatması gerektiğini” ekliyor, bu altı ay içinde pek mümkün görünmeyen bir şey.
Microsoft ve Google, mektupla ilgili yorum taleplerine yanıt vermedi. İmzacılar, görünüşe göre Microsoft ve Google da dahil olmak üzere gelişmiş dil modelleri oluşturan çok sayıda teknoloji şirketinden insanları içeriyor. OpenAI sözcüsü Hannah Wong, şirketin modeli eğittikten sonra GPT-4’ün güvenliği ve hizalanması üzerinde altı aydan fazla çalıştığını söylüyor. OpenAI’nin şu anda GPT-5 eğitimi vermediğini ekliyor.
Mektup, AI sistemleri giderek daha cesur ve etkileyici sıçramalar yaparken geliyor. GPT-4 sadece iki hafta önce duyurulmuştu, ancak yetenekleri büyük bir coşku ve oldukça fazla endişe uyandırdı. OpenAI’nin popüler sohbet robotu ChatGPT aracılığıyla sunulan dil modeli, birçok akademik testte yüksek puanlar alıyor ve genellikle AI sistemlerinin daha önce gösterdiğinden daha gelişmiş zeka gerektirdiği düşünülen zor soruları doğru bir şekilde çözebiliyor. Yine de GPT-4 ayrıca pek çok önemsiz, mantıksal hata yapar. Ve selefleri gibi, bazen yanlış bilgi “halüsinasyonu” görür, kökleşmiş toplumsal önyargılara ihanet eder ve nefret dolu veya potansiyel olarak zararlı şeyler söylemesi istenebilir.
Mektubu imzalayanlar tarafından ifade edilen endişelerin bir kısmı, OpenAI, Microsoft ve Google’ın yeni AI modellerini mümkün olan en kısa sürede geliştirmek ve piyasaya sürmek için kâr odaklı bir yarış başlatmasıdır. Mektup, bu hızda, gelişmelerin toplumdan ve düzenleyicilerin uzlaşabileceğinden daha hızlı gerçekleştiğini öne sürüyor.
Değişimin hızı ve yatırımın ölçeği önemlidir. Microsoft, OpenAI’ye 10 milyar dolar aktardı ve yapay zekasını arama motoru Bing’de ve diğer uygulamalarda kullanıyor. Google, GPT-4’ü oluşturmak için gereken yapay zekanın bir kısmını geliştirmesine ve daha önce kendi güçlü dil modellerini oluşturmasına rağmen, bu yıla kadar etik kaygılar nedeniyle bunları yayınlamamayı tercih etti.
Bir yanıt bırakın