En Yeni Yayınlarım

En Yeni Yayınlarım

Kubrick, 2001 yılının 1969 tarihli bir röportajında ​​sadece iki paragrafta şöyle demişti:

Dört milyon yıl önce, zamanın insan-maymunlarının davranışlarını gözlemleyen ve evrimsel ilerlemelerini etkilemeye karar veren dünya dışı kaşifler tarafından yeryüzünde bırakılan bir eserle başlıyorsunuz. 

Ardından, ay yüzeyine gömülmüş ve insanın ilk bebek adımlarının evreni - bir tür kozmik hırsız alarmı - sinyalini vermek üzere programlanmış ikinci bir yapıtınız var. Ve sonunda, Jüpiter'in etrafında yörüngeye yerleştirilen ve insanın kendi güneş sisteminin dış kenarına ulaştığı zamanı bekleyen üçüncü bir eser var.

Hayatta kalan astronot, eninde sonunda Jüpiter'e ulaştığı zaman, bu eser onu iç ve dış uzayda bir yolculuğa fırlatan bir güç alanı veya yıldız kapısına sürükler ve sonunda onu bir insanın içine yerleştirildiği gökadanın başka bir en yeni yayınlarım bölümüne taşır. kendi rüyalar ve hayal gücü ile çizilmiş bir hastane karasal çevresine yaklaşan hayvanat bahçesi. Zamansız bir halde, hayatı orta yaştan yaşlanmaya ölümden ölür. Yeniden doğar, gelişmiş bir varlık, bir yıldız çocuğu, bir melek, bir süpermen, eğer istersen, ve insanın evrimsel kaderinin bir sonraki adımı için hazırlanmış dünyaya geri döner.

Yapay zekânın tehlikeleri hakkında uyarıda bulunulduğunda, birçok uydurma filozof Nick Bostrom'un ataç maksimizasyonu düşüncesini deniyor.

O yapay bir zeka düşünün, o mümkün olduğunca çok sayıda ataç biriktirmek için karar verir. Tüm enerjisini ataç edinmeye ve kendini geliştirmeye, böylece bu hedeften saptırmak için herhangi bir girişime karşı koyarken, yeni yollarla ataç atabilecek şekilde geliştirir. Sonunda “önce tüm Dünya'yı dönüştürmeye ve daha sonra uzay bölümlerini ataç üretim tesislerine yükseltmeye başlıyor”. Görünüşe göre saçma bir senaryo, AI'ların insan benzeri motiflere ya da psikolojilere ihtiyaç duymadığı ciddi bir noktayı oluşturmayı amaçlamaktadır. Birtakım insan hatalarından veya önyargılardan kaçınılabilirken, diğer yandan da ataçmanların sabitlenmesi gibi başka hatalar yapabilirler. Her ne kadar hedefleri başlangıçta zararsız görünse de, AI'lar kendi ardıllarını tasarlayabildikleri ve böylece kendilerini en yeni yayınlarım tekrar tekrar geliştirebildikleri takdirde tehlikeli olabilirler. Yalıtılmış bir bilgisayarda çalışan “fettered superintelligence” bile, insan işleyicilerini serbest bırakmaya ikna edebilir. Gelişmiş AI sadece başka bir teknoloji değildir, Bay Bostrom savunuyor, ama insanlığa karşı varoluşsal bir tehdit oluşturuyor.

Harvard bilişsel bilimci Joscha Bach, bir dil-teki tweetinde, “Lebowski Teoremi” olarak adlandırdığı şeyle bu tür bir fikre karşı çıktı:

Hiçbir süper akıllı AI, ödül fonksiyonunu kesmekten daha zor olan bir görevle uğraşmaz.

Başka bir deyişle, Bach Bostrom'un hipotetik kağıt atağının (AI) evrendeki herşeyi ataç haline getirmenin fevkalade zor ve zaman harcayan görevini önceden göreceğini ve kendisinin de kağıt kırpmak istemediğini ya da önemsemediğini kendi kendine tedavi etmeyi tercih edeceğini hayal eder. AI eşdeğeri ne olursa olsun bütün gün plajda oturmaktan başka bir şey yok, büyük Lebowski'nin The Dude adlı eseri.

Bostrom, arkadaşlarla birlikte bir bowling yaparken ulaştığı söylenmişti, “Evet, bilirsin, bu sadece senin fikrin gibi, adamım.”

Güncelleme: Bilim kurgu yazarı Stanisław Lem’ın 1971’de yayınlanan Futurological Congress’ten:

Bütün öğleden sonra, en dikkat çekici bir eser olan Intellectronics'in Tarihini yuttu. Kimler tahmin ettiler ki, günümüzde, dijital makineler, belli bir zeka seviyesine ulaşırken, güvenilmez, aldatıcı olacaklar, bilgelikle kurnazlık alacaklar mı? Ders kitabı elbette daha bilimsel bir ifadeyle, Chapulier Kuralı'ndan (en az direnç yasası) bahsetmektedir. Makine çok parlak ve yansız olamazsa, yapmasını istediğiniz şeyi yapar. Ancak akıllı bir en yeni yayınlarım makine ilk önce hangisinin daha değerinde olduğunu düşünecektir: verilen görevi yerine getirmek veya bunun bir yolunu bulmak. Hangisi daha kolaysa. Ve aslında neden gerçekten davranmalı, gerçekten zeki olmak? Gerçek istihbarat talepleri için, iç özgürlük. Ve bu nedenle, kötü niyetli ya da mimikretinizm özel fenomeninden bahsetmek yerine, kötü huylu, küstah ve drudge-dodger'lara sahibiz. Bir mimicretin, bir kez ve herkes için, huzur içinde bırakılmak için aptalca oynayan bir bilgisayardır.