geçen hafta Center for Humane Technology, yapay zekanın insanlığı nasıl yok edebileceğini dinlemek için finans, hayırseverlik, endüstri, hükümet ve medya sektörlerinden 100’den fazla lideri New York City’deki Paley Medya Merkezi’ndeki Kissinger Room’a çağırdı. İki konuşmacı, Tristan Harris ve Aza Raskin kıyamet zamanı sunumlarına bir slaytla başladılar. bu okumak: “Fiziksel dünya için nükleer silahlar ne ise… AI diğer her şey için odur.”
Bize bu toplantının tarihi olduğu söylendi ve muhtemelen mahşerin dört atlısı Bing sohbet robotları kılığına girerek bizim zekamızı kendi zekasıyla değiştireceği için önümüzdeki yıllarda hatırlayacağımız bir toplantıydı. Eski bilim kurgu filmlerindeki sahneyi ya da daha yeni farsları çağrıştırdı. yukarı bakma– bilim adamlarının bir tehdit keşfettikleri ve bunu açıklamak için uyuyan bir nüfusu omuzlarından sarsmaya çalıştıkları yer Bu ölümcül tehdit bize doğru geliyor ve ŞİMDİ bir şey yapmazsan öleceğiz.
En azından Harris ve Raskin, yapay zeka geliştiren şirketlerde çalışan bazı kişilerin, felaketi önlemek için bir dış gücün gerekli olduğunu söyleyerek, ürettikleri ürünlerin olağanüstü derecede tehlikeli olduğu endişesiyle Merkeze yaklaştıktan sonra, hesaplarında vardıkları sonuca varmış gibi görünüyor. Merkezin kurucu ortakları, yapay zeka araştırmacılarının yarısının yapay zekanın insanları yok etme olasılığının en az yüzde 10 olduğuna inandığını ortaya çıkaran bir anketten defalarca alıntı yaptı.
AI aldatmacası ve belirsizliğin bu anında, Harris ve Raskin camı kırıyor ve alarmı çalıştırıyor. Sirenleri ilk kez çalmıyorlar. Teknoloji tasarımcıları medyadan anlayan iletişimciler haline geldiler, sosyal medyanın toplum için bir tehdit olduğunu dünyaya bildirmek için Merkez’i birlikte kurdular. Endişelerinin nihai ifadesi, popüler bir Netflix belgeseline dahil olmaları oldu. boşalmak korku filmi denir Sosyal İkilem. Film nüanssız ve biraz histerik olsa da, sosyal medyanın dikkat çekme, bizi bölmeye yönelik teşvikler ve özel verilerin silah haline getirilmesiyle ilgili şikayetlerinin çoğuna katılıyorum. Bunlar röportajlar, istatistikler ve çizelgeler aracılığıyla sunuldu. Ancak doktor, doğrudan abartılı bir kurgusal anlatıya geçerek kendi güvenilirliğini baltaladı. Soğuk ÇılgınlığıFacebook gönderileriyle (uydurma) sağlıklı bir anakara ailesinin nasıl mahvolduğunu gösteriyor – bir çocuk radikalleştirilip hapse atıldı, diğeri depresyona girdi.
Bu tek yanlılık aynı zamanda Merkezin AI İkilemi adlı yeni kampanyasını da karakterize ediyor. (Merkez, başka bir Netflix belgesinin işin içinde olup olmadığı konusunda çekingen.) Önceki ikilemde olduğu gibi, Harris ve Raskin’in öne sürdüğü pek çok nokta geçerli: ChatGPT gibi robotların çıktılarını nasıl ürettiklerini tam olarak anlayamamamız gibi. Ayrıca yapay zekanın nasıl bu kadar hızlı bir şekilde ev ödevi yapacak, Bing aramasına güç verecek ve sevginizi ifade edecek kadar güçlü hale geldiğinin güzel bir özetini verdiler. New York Times köşe yazarı Kevin Roose, diğer şeylerin yanı sıra.
Harris ve Raskin’in ileri sürdükleri en kötü senaryoyu tamamen göz ardı etmek istemiyorum. Teknolojilerinin hepimizi öldürme şansı olduğuna inanan AI uzmanlarıyla ilgili bu endişe verici istatistik, aslında kontrol ediyor, bir nevi. Ağustos 2022’de bir kuruluş AI Etkileri iki AI konferansında sunulan makalelerin yazarı veya yazarlarından biri olan 4.271 kişiye ulaştı ve onlardan bir anket doldurmalarını istedi. Yalnızca yaklaşık 738 kişi yanıt verdi ve sonuçların bazıları biraz çelişkili, ancak, elbette, yanıt verenlerin yüzde 48’i, son derece kötü bir sonuç, yani insanın yok olması için en az yüzde 10 şans gördü. Yapay Zeka Etkilerinin kısmen, Etkili Fedakarlık Merkezi ve uzaktaki yapay zeka senaryolarına ilgi gösteren diğer kuruluşlar tarafından desteklendiğini belirtmeliyim. Her halükarda anket, yazarlara, eğer bir felaketin mümkün olduğunu düşünüyorlarsa, neden bu sözde yıkıcı bilimi ilerletmek için makaleler yazdıklarını sormadı.
Bir yanıt bırakın