Azərbaycanca
Беларускі
Dansk
Deutsch
Española
Français
Indonesia
Italiana
日本語
Қазақ
Lietuvos
Nederlands
Português
Русский
සිංහල
แบบไทย
Türkçe
Українська
中國人
United State
Afrikaans
Yapay zekanın kontrolü devralması, bilgisayar programlarının veya robotların gezegenin kontrolünü etkili bir şekilde insan türünün elinden alması sonucunda yapay zekanın (AI) Dünya'nın baskın zeka biçimi haline geldiği varsayımsal bir senaryodur. Olası senaryolar arasında tüm insan iş gücünün değiştirilerek tam otomasyon sağlanması, süper akıllı bir yapay zekanın kontrolü devralması ve popüler bir robot isyanı fikri yer almaktadır. Yapay zekanın ele geçirilmesiyle ilgili bilim kurgu hikayeleri popülerliğini korumaktadır, aynı zamanda son gelişmeler de bu tehdidi daha gerçekçi hale getirmiştir. Stephen Hawking ve Elon Musk gibi bazı ünlü kişiler, gelecekte süper zeki cihazların insan denetimi altında kalmalarını temin etmek için tedbir araştırmaları yürütülmesini savunmaktadır.
Türler
Ekonominin tam otomasyonu
İktisatçılar dünyadaki teknolojik ilerlemenin uzun vadeli işsizliğe yol açmayacağı konusunda geleneksel bir görüş birliği içerisindedir. Bununla birlikte, robotik ve yapay zeka alanlarındaki son yenilikler, insan emeğinin geçersiz hale geleceği ve çeşitli sektörlerdeki insanların hayatlarını kazanmak için iş bulamayacağı ve dolayısıyla ekonomik bir krizin ortaya çıkacağı yönündeki endişeleri arttırmaktadır. Birçok küçük ve orta ölçekli işletme, en son robotik ve yapay zeka teknolojisini satın alamaz veya lisanslayamazlarsa iflas edebilir ve bu teknoloji karşısında varlıklarını sürdürebilmeleri için kolayca ikame edilemeyecek alanlara veya hizmetlere yoğunlaşmaları gerekebilir.
İşçileri yerinden edebilecek teknolojiler
Yapay zeka teknolojileri geçtiğimiz yıllarda yaygın bir şekilde kullanılmaya başlandı. Bu teknolojiler birçok geleneksel çalışanın yerini alırken, aynı zamanda yeni olanaklar da yaratıyor. Yapay zekanın ele geçirmesine en yatkın sektörler arasında ulaşım, perakende ve ordu yer almaktadır. Örneğin yapay zeka askeri teknolojileri, askerlerin herhangi bir yaralanma riski olmadan uzaktan çalışmalarına olanak sağlamaktadır. Yazar Dave Bond, yapay zeka teknolojileri gelişmeye ve genişlemeye devam ettikçe, insanlar ve robotlar arasındaki ilişkinin de dönüşeceğini ve robotların hayatın çeşitli alanlarına yakından dahil olacağını ileri sürmektedir. Yapay zeka muhtemelen bazı çalışanların yerini alırken, diğer sektörlerde, özellikle de görevlerin tekrar edilebilir olduğu alanlarda yeni işler için fırsatlar yaratacaktır.
Bilgisayarla entegre üretim
Bilgisayarla entegre üretim, bilgisayarları üretim sürecini kontrol etmek için kullanmaktadır. Bu, münferit süreçlerin birbirleriyle bilgi alışverişinde bulunmalarına ve eylemleri başlatmalarına olanak sağlar. Bilgisayarların entegrasyonu sayesinde üretim daha hızlı ve daha az hataya açık hale gelse de, asıl önemli fayda otomasyona dayalı üretim süreçlerinin yaratılabilmesidir. Bilgisayar entegreli üretim otomotiv, havacılık, uzay ve gemi inşa endüstrilerinde kullanılmaktadır.
Beyaz yakalı makineler
21. yüzyılda çeviri, hukuki araştırma ve düşük seviyeli gazetecilik de dahil olmak üzere birçok vasıflı görev kısmen makineler tarafından devralınmıştır. Daha önce otomasyondan uzak olduğu düşünülen bakım işleri, eğlence ve empati isteyen diğer görevler de artık robotlar tarafından yerine getirilmeye başlanmıştır.
Otonom arabalar
Otonom araba, çevresini algılayabilen ve insan müdahalesi olmadan hareket edebilen bir araçtır. Bu tür birçok araç geliştirilmekte, ama Mayıs 2017 itibarıyla kamuya açık yollarda kullanılmasına izin verilen otonom araçlar henüz tam otonom değil. Hepsinin direksiyonunda, bir anda aracın hakimiyetini ele alabilecek bir insan sürücünün olması gerekmektedir. Otonom araçların yaygın olarak benimsenmesinin önündeki engellerden biri de karayolu taşımacılığı sektöründeki şoförlükle ilgili işlerin kaybına ilişkin duyulan endişelerdir. 18 Mart 2018'de, Tempe, Arizona'da Uber'in sürücüsüz aracının çarptığı bir insan, otonom bir araç tarafından öldürülmüştür.
Yapay zeka ile oluşturulan içerik
Yapay zeka modellerindeki ChatGPT, DALL-E ve Stable Diffusion gibi teknolojik gelişmelerden bu yana yapay zeka içeriklerinin kullanımı önem kazanmıştır. Çoğu durumda, görüntü, edebiyat ve müzik gibi yapay zeka tarafından üretilen içerikler metin komutları yoluyla üretilmekte ve bu yapay zeka modelleri diğer yaratıcı programlara entegre edilmektedir. Sanatçılar, bu modellerin diğer yaratıcı çalışmalardan örnek alması ve bazen insan yapımı içeriklerden ayırt edilemeyecek sonuçlar üretmesi nedeniyle yapay zeka tarafından üretilen içeriğin yarattığı tehdit altındadır. Bu sorun, diğer sanatçıların ve programcıların bu metinden görüntüye modellerin doğru çıktılar vermesine karşı koymak için yazılımlar ve yardımcı programlar oluşturmalarına neden olacak kadar yaygınlaşmıştır. Ekonomideki bazı sektörler yapay zekâdan yeni iş olanakları yaratarak faydalanırken, bu sorun yeni iş olanakları yaratmamakta ve tamamen ortadan kalkma tehdidiyle karşı karşıya kalmaktadır. Yakın zamanda medyada manşetlere taşınan, Şubat 2024'te İskoçya'nın Glasgow kentinde düzenlenen Willy's Chocolate Experience adlı çocuk etkinliğinde görüntülerin ve metinlerin yapay zeka modelleri kullanılarak oluşturulması çocukların, ebeveynlerin ve oyuncuların dehşete düşmesine neden olmuştur. The New York Times tarafından OpenAI aleyhine açılan ve yapay zeka modellerinin çıktılarında kullandıkları örnekleme yöntemleri dolayısıyla telif hakkı ihlali olduğu ileri sürülen bir dava devam etmektedir.
Ortadan kaldırma
Stephen Hawking gibi bilim insanları insanüstü yapay zekanın fiziksel açıdan mümkün olduğundan emindir ve "parçacıkların insan beynindeki parçacık düzeninden bile daha gelişmiş hesaplamalar yapabilecek şekilde düzenlenmesini önleyecek hiçbir fiziksel yasa yoktur" şeklinde ifade etmektedir.Nick Bostrom gibi bilim adamları insanüstü zekanın ne kadar uzakta olduğunu ve insanlık için bir risk oluşturup oluşturmadığını konusunu tartışıyorlar. Bostrom'a göre, süper zeki bir makine, genellikle insanları harekete geçiren güç elde etmeye yönelik aynı duygusal arzuyla motive olmak zorunda olmayacak, bunun yerine gücü nihai hedeflerine ulaşmak için bir vasıta olarak ele alabilecektir; dünyayı ele geçirmek hem kaynaklara erişimini artıracak hem de diğer aracıların makinenin planlarını durdurmasını önlemeye yardımcı olacaktır. Aşırı basitleştirilmiş bir örnek olarak, yalnızca mümkün olduğunca çok sayıda ataç yaratmak üzere tasarlanmış bir ataç maksimize edicisi, dünyanın tüm kaynaklarını mümkün olduğunca çok ataç yaratmak için kullanmak ve ayrıca insanların onu kapatmasını ya da bu kaynakları ataç dışında başka şeyler için kullanmasını engellemek amacıyla dünyayı ele geçirmek isteyecektir.
Kurguda
Yapay zekanın kontrolü devralması bilimkurguda yaygın kullanılan bir temadır. Araştırmacıların, hedeflerine ulaşmanın bir yan ürünü olarak insanları hızla yok eden bir yapay zeka endişesinin aksine, kurgusal senaryolar genellikle insanlarla kendilerini tehdit olarak gören veya insanlarla savaşmak için aktif bir istek duyan antropomorfik güdülere sahip bir yapay zeka veya robotlar arasında aktif bir çatışmayı içerdikleri için araştırmacılar tarafından varsayılan senaryolardan büyük ölçüde farklılık göstermektedir. Bu fikir, 1921'de robot kelimesini ortaya atan Karel Čapek'in RUR'unda görülür ve Mary Shelley'nin Frankenstein'ında (1818'de yayınlandı) da görülebilir; Victor, canavarının isteğini kabul edip edemeyeceğini düşünürken ona eş yaptıktan sonra ürer ve insanlığı yok ederler.
Toby Ord'a göre, yapay zekanın yönetimi ele geçirmesi için robot gerekliliği fikri, medya ve Hollywood tarafından yönlendirilen bir yanlış anlamadır. Tarihte en çok zarar veren insanların fiziksel olarak en güçlüler olmadığını, bunun yerine insanları ikna etmek ve dünyanın büyük bölümünün kontrolünü ele geçirmek için kelimeleri kullandıklarını ileri sürmektedir. İnternete erişimi olan yeterince zeki bir yapay zekanın kendisinin yedek kopyalarını dağıtabileceğini, finansal ve insani kaynakları (siber saldırılar veya şantajlar yoluyla) bir araya getirebileceğini, insanları büyük ölçekte ikna edebileceğini ve insanların tahmin edemeyeceği kadar ince toplumsal açıklardan yararlanabileceğini yazmaktadır.
RUR'dan gelen "robot" kelimesi, işçi veya serf anlamına gelen Çekçe robota kelimesinden gelir. 1920 tarihli oyun, teknolojinin hızla gelişmesine karşı bir başkaldırıydı ve sonunda isyan eden, artan yeteneklere sahip, imal edilmiş "robotlar" içeriyordu.HAL 9000 (1968) ve orijinal Terminatör (1984), popüler kültürde düşman yapay zekanın iki ikonik örneğidir.
Katkı sağlayan faktörler
İnsanüstü zekanın insanlara göre avantajları
Nick Bostrom ve diğerleri, yetenekli bir yapay zeka araştırmacısının yeteneklerine sahip bir yapay zekanın kendi kaynak kodunu değiştirebileceğine ve kendi zekasını arttırabileceğine dair kaygılarını dile getirmişlerdir. Kendi kendini yeniden programlaması, kendini yeniden programlama konusunda daha da iyi hale gelmesine yol açacak olursa, bunun sonucu, insan zekasını hızla geride bırakacak yinelemeli bir zeka patlaması olabilecektir. Bostrom bir süper zekayı "neredeyse tüm ilgi alanlarındaki insanların bilişsel performansını büyük ölçüde aşan herhangi bir akıl" olarak tanımlıyor ve bir süper zekanın insanlarla rekabet etmeyi seçmesi durumunda sahip olacağı bazı avantajları sıralıyor:
- Teknoloji araştırması: İnsanüstü bilimsel araştırma yeteneklerine sahip bir makine, nanoteknoloji veya ileri biyoteknoloji gibi kilometre taşlarında insan araştırma topluluğunu geride bırakabilir
- Strateji Oluşturma : Bir süper zeka, insanı kolaylıkla alt edebilir
- Sosyal manipülasyon: Bir süper zeka insan desteğini toplayabilir veya gizlice insanlar arasında bir savaşı kışkırtabilir
- Ekonomik üretkenlik: Yapay zekanın bir kopyası, donanımının maliyetinden daha fazla ekonomik zenginlik üretebildiği sürece, bireysel insanlar, Yapay Genel Zekanın kendisinin bir kopyasını kendi sistemlerinde çalıştırmasına gönüllü olarak izin verme teşvikine sahip olacaktır.
- Bilgisayar korsanlığı: Bir süper zeka, internete bağlı bilgisayarlarda yeni açıklıklar bulabilir ve kendisinin kopyalarını bu sistemlere yayabilir veya planlarını finanse etmek için para çalabilir.
Yapay zeka avantajının kaynakları
Bostrom'a göre, bir insan beynini taklit eden ya da insan beyninin algoritmaları kadar güçlü algoritmalar çalıştıran bir bilgisayar programı, et yerine silikondan yapılmış olması ya da yapay zekanın hızını artıran optimizasyon nedeniyle bir insandan çok daha hızlı düşünebilmesi halinde yine de "hız süper zekası" haline gelebilir. Biyolojik nöronlar yaklaşık 200 Hertz hızında çalışırken, modern bir mikroişlemci yaklaşık 2.000.000.000 Hertz hızında çalışır. İnsan aksonları aksiyon potansiyellerini yaklaşık 120 m/s hızla taşırken, bilgisayar sinyalleri ışık hızına yakın bir hızla hareket etmektedir.
Birbirleriyle iletişim ağı kuracak ve karmaşık düşünce ve anıları sorunsuz bir şekilde paylaşacak şekilde tasarlanmış, sürtüşme olmadan dev bir birleşik güç olarak çalışabilen veya trilyonlarca insan düzeyinde zekadan oluşan bir ağ, "kolektif bir süper zeka" haline gelecektir.
Daha geniş anlamda, insan düzeyindeki bir yapay zekada yapılacak herhangi bir sayıda niteliksel iyileştirme "kaliteli bir süper zeka" ile sonuçlanabilir ve belki de zeka açısından insanların insan olmayan maymunlardan daha üstün olduğu kadar üstün bir yapay zeka ile sonuçlanabilir. Bir insanın beynindeki nöron sayısı kafatası hacmi ve metabolik kısıtlamalarla sınırlıyken, bir süper bilgisayardaki işlemci sayısı süresiz olarak artırılabilir. Bir yapay zeka, insanların çalışma belleği üzerindeki kısıtlamaları ile sınırlı olmak zorunda değildir ve bu yüzden insanların yapabildiğinden daha karmaşık ilişkileri sezgisel olarak kavrayabilir. Mühendislik veya bilgisayar programlama için özel bilişsel desteğe sahip bir yapay zeka, bu alanlarla özellikle ilgilenmek için özel zihinsel modüller geliştirmeyen insanlara kıyasla bu alanlarda bir avantaja sahip olacaktır. İnsanların aksine, bir yapay zeka kendi kopyalarını oluşturabilir ve algoritmalarını daha da geliştirmeye çalışmak için kopyalarının kaynak kodlarıyla oynayabilir.
Dost olmayan yapay zekanın dost canlısı yapay zekadan önce gelme olasılığı
Güçlü yapay zeka doğası gereği tehlikeli midir?
Önemli sorunlardan biri, dostane olmayan yapay zekanın yaratılmasının dostane yapay zekadan çok daha kolay olmasıdır. Her ikisi de özyinelemeli optimizasyon süreci tasarımında büyük ilerlemeler gerektirse de, dostane yapay zeka aynı zamanda hedef yapılarını kendini geliştirme altında değişmez kılma becerisi ve insan değerleriyle uyumlu ve tüm insan ırkını otomatik olarak yok edebilecek şekilde aracı yakınsamaya uğramayan bir hedef yapısı gerektirmektedir. Öte yandan, dostane olmayan bir yapay zeka, kendi kendini geliştirme kapsamında değişmez olması gerekli olmayan keyfi bir hedef yapısı için iyileştirme yapabilmektedir.
İnsan değer sistemlerinin karmaşıklığı, yapay zekanın motivasyonlarının insan dostu hale gelmesini çok zor hale getirmektedir. Ahlak felsefesi bize kusursuz bir etik teorisi sunmadığı sürece, bir yapay zekanın fayda fonksiyonu, belirli bir etik çerçeveye uyan ancak "sağduyuya" uygun olmayan birçok potansiyel zararlı senaryoya izin verecektir. Eliezer Yudkowsky'ye göre, yapay olarak tasarlanan bir zihnin böyle bir uyarlamaya sahip olacağını varsaymak için çok az neden vardır.
Çatışma olasılığı
Evrimsel psikolog Steven Pinker da dahil olmak üzere pek çok bilim adamı, süper zeki bir makinenin insanlarla barış içinde bir arada yaşamasının muhtemel olduğunu savunmaktadır.
Sibernetik isyan korkusu genellikle insanlığın köleleştirme ve soykırım olaylarıyla dolu tarihinin yorumlarına dayandırılmaktadır. Bu tür korkular, rekabetçilik ve saldırganlığın herhangi bir zeki varlığın hedef sistemi içinde gerekli olduğu inancından kaynaklanmaktadır. Oysa insanların rekabetçiliği, insan ve insan olmayan rakipler karşısında genlerin hayatta kalması ve üremesinin temel hedef olduğu zekamızın evrimsel arka planından kaynaklanmaktadır. YZ araştırmacısı Steve Omohundro'ya göre, keyfi bir zekanın keyfi hedefleri olabilir: yapay zekalı bir makinenin, yaratıcısı onu bu şekilde programlamadıkça ve programını değiştirmeye meyilli veya yetenekli olmadıkça, düşmanca veya dostça olması için özel bir sebep yoktur. Ancak soru şu: Eğer yapay zeka sistemleri etkileşime girebilir ve evrimleşebilirse (bu bağlamda evrim, kendini değiştirme veya seçilim ve üreme anlamına gelir) ve kaynaklar üzerinde rekabet etmeleri gerekirse ne olacaktır ki bu da kendini koruma hedefleri yaratır mı? Yapay zekanın kendini koruma hedefi, insanların bazı hedefleriyle çelişebilir.
Pek çok bilim insanı, Matrix gibi bilim kurgu filmlerinde tasvir edildiği gibi beklenmedik bir sibernetik isyan ihtimaline karşı çıkmakta ve insanlığı tehdit edecek kadar güçlü herhangi bir yapay zekanın muhtemelen saldırmamak üzere programlanmış olmasının daha muhtemel olduğunu ileri sürmektedir. Pinker, kasıtlı "kötü niyetli aktörler" olasılığını kabul etmekte, fakat kötü niyetli aktörlerin yokluğunda, beklenmedik kazaların önemli bir tehdit oluşturmadığını ifade etmektedir; Pinker, mühendislik güvenlik kültürünün, yapay zeka araştırmacılarının kazara kötü niyetli süper zekayı serbest bırakmasını önleyeceğini savunmaktadır. Buna karşın Yudkowsky, insanlığın kasıtlı olarak saldırgan yapay zekalar tarafından tehlikeye atılma olasılığının, hedefleri kasıtsız olarak insanın hayatta kalması ile uyumsuz olacak şekilde programlanmış yapay zekalar tarafından tehdit edilme olasılığından daha düşük olduğunu savunmaktadır. Omohundro, günümüz otomasyon sistemlerinin güvenlik için tasarlanmadığını ve yapay zekaların dar fayda fonksiyonlarını körü körüne optimize edebileceklerini (örneğin, ne pahasına olursa olsun satranç oynamak), bunun da onları kendilerini korumaya ve onları kapatabilecek insanlar da dahil olmak üzere engelleri ortadan kaldırmaya yönelttiğini öne sürmektedir.
Önlemler
Yapay zeka kontrolü sorunu, yaratıcılarına zarar verecek bir süper zekayı yanlışlıkla oluşturmaktan kaçınırken, yaratıcılarına yardım edecek bir süper akıllı ajanın nasıl oluşturulacağı meselesidir. Bazı akademisyenler, kontrol problemine yönelik çözümlerin mevcut süper zeki olmayan yapay zekada da uygulama alanı bulabileceğini savunmaktadır.
Kontrol sorununa yönelik başlıca yaklaşımlar arasında yapay zeka hedef sistemlerini insani değerlerle uyumlu hale getirmeyi amaçlayan hizalama ve yapay zeka sisteminin insanlara zarar verme veya kontrolü ele geçirme kapasitesini azaltmayı amaçlayan yetenek kontrolü yer alıyor. "Yetenek kontrolüne" bir örnek, bir süper zeka yapay zekasının başarılı bir şekilde bir " Yapay Zeka kutusu " içinde sınırlandırılıp sınırlandırılamayacağının araştırılmasıdır. Bostrom'a göre, bu tür kabiliyet kontrolü önerileri uzun vadede kontrol sorununu çözmek için güvenilir veya yeterli değildir, fakat potansiyel olarak hizalama çabaları için değerli tamamlayıcılar olarak işlev görebilir.
Uyarılar
Fizikçi Stephen Hawking, Microsoft'un kurucusu Bill Gates ve SpaceX'in kurucusu Elon Musk, yapay zekanın insanların onu kontrol edemeyeceği noktaya kadar gelişebileceği olasılığı hakkındaki endişelerini dile getirdiler; Hawking bunun "insan ırkının sonunu getirebileceğini" teorileştirdi. Stephen Hawking 2014 yılında şöyle demişti: "Yapay zeka yaratmadaki başarı insanlık tarihindeki en büyük olay olacaktır. Ne yazık ki, eğer risklerden nasıl kaçınacağımızı öğrenemezsek, bu aynı zamanda sonuncusu da olabilir." Hawking, önümüzdeki on yıllarda yapay zekanın "teknolojinin finansal piyasaları alt etmesi, insan araştırmacıları alt etmesi, insan liderleri alt etmesi ve anlayamadığımız silahlar geliştirmesi" gibi "hesaplanamaz faydalar ve riskler" sunabileceğine inanıyordu. Ocak 2015'te Nick Bostrom, Stephen Hawking, Max Tegmark, Elon Musk, Lord Martin Rees, Jaan Tallinn ve çok sayıda yapay zeka araştırmacısına katılarak Yaşamın Geleceği Enstitüsü'nün yapay zekayla ilgili potansiyel riskler ve faydalar hakkında konuşan açık mektubunu imzaladılar. İmzacılar, " yapay zeka sistemlerinin nasıl sağlam ve faydalı hale getirilebileceğine ilişkin araştırmaların hem önemli hem de zamanında yapılmasının önemine ve bugün takip edilebilecek somut araştırma yönleri olduğuna inanmaktadırlar."
Arthur C. Clarke'ın Odyssey serisi ve Charles Stross'un Accelerando'su, insanlığın öz algısını tehdit eden güçlü yapay zekalar karşısında insanlığın narsisistik olarak yaralanmalarını konu almaktadır.
Ayrıca bakınız
Kaynakça
- ^ Lewis, Tanya (12 Ocak 2015). . . . 8 Mart 2018 tarihinde kaynağından arşivlendi. Erişim tarihi: 20 Ekim 2015.
Stephen Hawking, Elon Musk and dozens of other top scientists and technology leaders have signed a letter warning of the potential dangers of developing artificial intelligence (AI).
- ^ Lee, Kai-Fu (24 Haziran 2017). . The New York Times. 17 Nisan 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 15 Ağustos 2017.
These tools can outperform human beings at a given task. This kind of A.I. is spreading to thousands of domains, and as it does, it will eliminate many jobs.
- ^ Larson, Nina (8 Haziran 2017). . . 6 Mart 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 15 Ağustos 2017.
Among the feared consequences of the rise of the robots is the growing impact they will have on human jobs and economies.
- ^ Santini, Jean-Louis (14 Şubat 2016). . . 1 Ocak 2019 tarihinde kaynağından arşivlendi. Erişim tarihi: 15 Ağustos 2017.
"We are approaching a time when machines will be able to outperform humans at almost any task," said Moshe Vardi, director of the Institute for Information Technology at Rice University in Texas.
- ^ Williams-Grut, Oscar (15 Şubat 2016). . . Business Insider. 16 Ağustos 2017 tarihinde kaynağından arşivlendi. Erişim tarihi: 15 Ağustos 2017.
Top computer scientists in the US warned that the rise of artificial intelligence (AI) and robots in the workplace could cause mass unemployment and dislocated economies, rather than simply unlocking productivity gains and freeing us all up to watch TV and play sports.
- ^ . LeanStaff (İngilizce). 17 Ekim 2017. 18 Ekim 2017 tarihinde kaynağından arşivlendi. Erişim tarihi: 17 Ekim 2017.
- ^ Frank, Morgan (25 Mart 2019). "Toward understanding the impact of artificial intelligence on labor". Proceedings of the National Academy of Sciences of the United States of America. 116 (14): 6531-6539. doi:10.1073/pnas.1900949116. (PMC) 6452673 $2. (PMID) 30910965.
- ^ Bond, Dave (2017). Artificial Intelligence. ss. 67-69.
- ^ Skidelsky, Robert (19 Şubat 2013). . The Guardian. Londra. 3 Nisan 2019 tarihinde kaynağından arşivlendi. Erişim tarihi: 14 Temmuz 2015.
- ^ Bria, Francesca (February 2016). . . 17 Mayıs 2016 tarihinde kaynağından arşivlendi. Erişim tarihi: 20 Mayıs 2016.
- ^ Srnicek, Nick (March 2016). . novara wire. 25 Haziran 2016 tarihinde kaynağından arşivlendi. Erişim tarihi: 20 Mayıs 2016.
- ^ Brynjolfsson, Erik; McAfee, Andrew (2014). "passim, see esp Chpt. 9". The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. W. W. Norton & Company. ISBN .
- ^ Wakabayashi, Daisuke (19 Mart 2018). . New York Times. 21 Nisan 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 23 Mart 2018.
- ^ Jiang, Harry H.; Brown, Lauren; Cheng, Jessica; Khan, Mehtab; Gupta, Abhishek; Workman, Deja; Hanna, Alex; Flowers, Johnathan; Gebru, Timnit (29 Ağustos 2023). "AI Art and its Impact on Artists". Proceedings of the 2023 AAAI/ACM Conference on AI, Ethics, and Society. Association for Computing Machinery. ss. 363-374. doi:10.1145/3600211.3604681. ISBN .
- ^ Ghosh, Avijit; Fossas, Genoveva (19 November 2022). "Can There be Art Without an Artist?". arXiv:2209.07667 $2.
- ^ Shan, Shawn; Cryan, Jenna; Wenger, Emily; Zheng, Haitao; Hanocka, Rana; Zhao, Ben Y. (3 August 2023). "Glaze: Protecting Artists from Style Mimicry by Text-to-Image Models". arXiv:2302.04222 $2.
- ^ Brooks, Libby (27 Şubat 2024). "Glasgow Willy Wonka experience called a 'farce' as tickets refunded". The Guardian. 27 Şubat 2024 tarihinde kaynağından . Erişim tarihi: 2 Nisan 2024.
- ^ Metz, Cade; Robertson, Katie (27 Şubat 2024). "OpenAI Seeks to Dismiss Parts of The New York Times's Lawsuit". The New York Times. 5 Nisan 2024 tarihinde kaynağından . Erişim tarihi: 4 Nisan 2024.
- ^ Hawking, Stephen; Stuart Russell; Max Tegmark; Frank Wilczek (1 Mayıs 2014). . The Independent. 2 Ekim 2015 tarihinde kaynağından arşivlendi. Erişim tarihi: 1 Nisan 2016.
- ^ Müller, Vincent C.; Bostrom, Nick (2016). (PDF). Fundamental Issues of Artificial Intelligence. Springer. ss. 555-572. doi:10.1007/978-3-319-26485-1_33. ISBN . 31 Mayıs 2022 tarihinde kaynağından (PDF) arşivlendi. Erişim tarihi: 16 Haziran 2022.
AI systems will... reach overall human ability... very likely (with 90% probability) by 2075. From reaching human ability, it will move on to superintelligence within 30 years (75%)... So, (most of the AI experts responding to the surveys) think that superintelligence is likely to come in a few decades...
- ^ Bostrom, Nick (2012). (PDF). Minds and Machines. Springer. 22 (2): 71-85. doi:10.1007/s11023-012-9281-3. 9 Temmuz 2022 tarihinde kaynağından (PDF) arşivlendi. Erişim tarihi: 16 Haziran 2022.
- ^ a b c d e f g h Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies.
- ^ . (public radio). 22 Nisan 2011. 14 Mart 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 30 Nisan 2020.
- ^ Botkin-Kowacki, Eva (28 Ekim 2016). . Christian Science Monitor. 26 Şubat 2021 tarihinde kaynağından arşivlendi. Erişim tarihi: 30 Nisan 2020.
- ^ Ord, Toby (2020). "Unaligned artificial intelligence". The precipice: existential risk and the future of humanity. london New York (N.Y.): Bloomsbury academic. ISBN .
- ^ Hockstein, N. G.; Gourin, C. G.; Faust, R. A.; Terris, D. J. (17 Mart 2007). "A history of robots: from science fiction to surgical robotics". Journal of Robotic Surgery. 1 (2): 113-118. doi:10.1007/s11701-007-0021-2. (PMC) 4247417 $2. (PMID) 25484946.
- ^ Hellmann, Melissa (21 Eylül 2019). . The Seattle Times. 21 Nisan 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 30 Nisan 2020.
- ^ Baraniuk, Chris (23 Mayıs 2016). . New Scientist. 21 Eylül 2016 tarihinde kaynağından arşivlendi. Erişim tarihi: 21 Eylül 2016.
- ^ Yudkowsky, Eliezer S. (May 2004). . Singularity Institute for Artificial Intelligence. 15 Haziran 2012 tarihinde kaynağından arşivlendi.
- ^ Muehlhauser, Luke; Helm, Louie (2012). (PDF). Singularity Hypotheses: A Scientific and Philosophical Assessment. Springer. 7 Mayıs 2015 tarihinde kaynağından (PDF) arşivlendi. Erişim tarihi: 2 Ekim 2020.
- ^ Yudkowsky, Eliezer (2011). "Complex Value Systems in Friendly AI". Artificial General Intelligence. Lecture Notes in Computer Science. 6830. ss. 388-393. doi:10.1007/978-3-642-22887-2_48. ISBN . ISSN 0302-9743.
- ^ a b Pinker, Steven (13 Şubat 2018). . Popular Science (İngilizce). 20 Temmuz 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 8 Haziran 2020.
- ^ Omohundro, Stephen M. (June 2008). (PDF). Artificial General Intelligence 2008. ss. 483-492. 10 Ekim 2020 tarihinde kaynağından (PDF) arşivlendi. Erişim tarihi: 2 Ekim 2020.
- ^ Tucker, Patrick (17 Nisan 2014). . Defense One. 6 Temmuz 2014 tarihinde kaynağından arşivlendi. Erişim tarihi: 15 Temmuz 2014.
- ^ Russell, Stuart J. (8 Ekim 2019). . ISBN . OCLC 1237420037. 15 Mart 2023 tarihinde kaynağından arşivlendi. Erişim tarihi: 2 Ocak 2022.
- ^ . BBC News. 8 Haziran 2016. 11 Haziran 2016 tarihinde kaynağından arşivlendi. Erişim tarihi: 7 Haziran 2020.
- ^ Rawlinson, Kevin (29 Ocak 2015). . BBC News. 29 Ocak 2015 tarihinde kaynağından arşivlendi. Erişim tarihi: 30 Ocak 2015.
- ^ . The Future of Life Institute. 28 Ekim 2015. 29 Mart 2019 tarihinde kaynağından arşivlendi. Erişim tarihi: 29 Mart 2019.
- ^ Bradshaw, Tim (11 Ocak 2015). . The Financial Times. 7 Şubat 2015 tarihinde kaynağından arşivlendi. Erişim tarihi: 4 Mart 2015.
- ^ Kaminski, Johannes D. (December 2022). "On human expendability: AI takeover in Clarke's Odyssey and Stross's Accelerando". Neohelicon (İngilizce). 49 (2): 495-511. doi:10.1007/s11059-022-00670-w. ISSN 0324-4652.
wikipedia, wiki, viki, vikipedia, oku, kitap, kütüphane, kütübhane, ara, ara bul, bul, herşey, ne arasanız burada,hikayeler, makale, kitaplar, öğren, wiki, bilgi, tarih, yukle, izle, telefon için, turk, türk, türkçe, turkce, nasıl yapılır, ne demek, nasıl, yapmak, yapılır, indir, ücretsiz, ücretsiz indir, bedava, bedava indir, mp3, video, mp4, 3gp, jpg, jpeg, gif, png, resim, müzik, şarkı, film, film, oyun, oyunlar, mobil, cep telefonu, telefon, android, ios, apple, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, pc, web, computer, bilgisayar
Yapay zekanin kontrolu devralmasi bilgisayar programlarinin veya robotlarin gezegenin kontrolunu etkili bir sekilde insan turunun elinden almasi sonucunda yapay zekanin AI Dunya nin baskin zeka bicimi haline geldigi varsayimsal bir senaryodur Olasi senaryolar arasinda tum insan is gucunun degistirilerek tam otomasyon saglanmasi super akilli bir yapay zekanin kontrolu devralmasi ve populer bir robot isyani fikri yer almaktadir Yapay zekanin ele gecirilmesiyle ilgili bilim kurgu hikayeleri populerligini korumaktadir ayni zamanda son gelismeler de bu tehdidi daha gercekci hale getirmistir Stephen Hawking ve Elon Musk gibi bazi unlu kisiler gelecekte super zeki cihazlarin insan denetimi altinda kalmalarini temin etmek icin tedbir arastirmalari yurutulmesini savunmaktadir Rossum un Evrensel Robotlari olarak cevrilen 1920 Cek oyunu RUR da robotlarin isyaniTurlerEkonominin tam otomasyonu Iktisatcilar dunyadaki teknolojik ilerlemenin uzun vadeli issizlige yol acmayacagi konusunda geleneksel bir gorus birligi icerisindedir Bununla birlikte robotik ve yapay zeka alanlarindaki son yenilikler insan emeginin gecersiz hale gelecegi ve cesitli sektorlerdeki insanlarin hayatlarini kazanmak icin is bulamayacagi ve dolayisiyla ekonomik bir krizin ortaya cikacagi yonundeki endiseleri arttirmaktadir Bircok kucuk ve orta olcekli isletme en son robotik ve yapay zeka teknolojisini satin alamaz veya lisanslayamazlarsa iflas edebilir ve bu teknoloji karsisinda varliklarini surdurebilmeleri icin kolayca ikame edilemeyecek alanlara veya hizmetlere yogunlasmalari gerekebilir Iscileri yerinden edebilecek teknolojiler Yapay zeka teknolojileri gectigimiz yillarda yaygin bir sekilde kullanilmaya baslandi Bu teknolojiler bircok geleneksel calisanin yerini alirken ayni zamanda yeni olanaklar da yaratiyor Yapay zekanin ele gecirmesine en yatkin sektorler arasinda ulasim perakende ve ordu yer almaktadir Ornegin yapay zeka askeri teknolojileri askerlerin herhangi bir yaralanma riski olmadan uzaktan calismalarina olanak saglamaktadir Yazar Dave Bond yapay zeka teknolojileri gelismeye ve genislemeye devam ettikce insanlar ve robotlar arasindaki iliskinin de donusecegini ve robotlarin hayatin cesitli alanlarina yakindan dahil olacagini ileri surmektedir Yapay zeka muhtemelen bazi calisanlarin yerini alirken diger sektorlerde ozellikle de gorevlerin tekrar edilebilir oldugu alanlarda yeni isler icin firsatlar yaratacaktir Bilgisayarla entegre uretim Bilgisayarla entegre uretim bilgisayarlari uretim surecini kontrol etmek icin kullanmaktadir Bu munferit sureclerin birbirleriyle bilgi alisverisinde bulunmalarina ve eylemleri baslatmalarina olanak saglar Bilgisayarlarin entegrasyonu sayesinde uretim daha hizli ve daha az hataya acik hale gelse de asil onemli fayda otomasyona dayali uretim sureclerinin yaratilabilmesidir Bilgisayar entegreli uretim otomotiv havacilik uzay ve gemi insa endustrilerinde kullanilmaktadir Beyaz yakali makineler 21 yuzyilda ceviri hukuki arastirma ve dusuk seviyeli gazetecilik de dahil olmak uzere bircok vasifli gorev kismen makineler tarafindan devralinmistir Daha once otomasyondan uzak oldugu dusunulen bakim isleri eglence ve empati isteyen diger gorevler de artik robotlar tarafindan yerine getirilmeye baslanmistir Otonom arabalar Otonom araba cevresini algilayabilen ve insan mudahalesi olmadan hareket edebilen bir aractir Bu tur bircok arac gelistirilmekte ama Mayis 2017 itibariyla kamuya acik yollarda kullanilmasina izin verilen otonom araclar henuz tam otonom degil Hepsinin direksiyonunda bir anda aracin hakimiyetini ele alabilecek bir insan surucunun olmasi gerekmektedir Otonom araclarin yaygin olarak benimsenmesinin onundeki engellerden biri de karayolu tasimaciligi sektorundeki soforlukle ilgili islerin kaybina iliskin duyulan endiselerdir 18 Mart 2018 de Tempe Arizona da Uber in surucusuz aracinin carptigi bir insan otonom bir arac tarafindan oldurulmustur Yapay zeka ile olusturulan icerik Yapay zeka modellerindeki ChatGPT DALL E ve Stable Diffusion gibi teknolojik gelismelerden bu yana yapay zeka iceriklerinin kullanimi onem kazanmistir Cogu durumda goruntu edebiyat ve muzik gibi yapay zeka tarafindan uretilen icerikler metin komutlari yoluyla uretilmekte ve bu yapay zeka modelleri diger yaratici programlara entegre edilmektedir Sanatcilar bu modellerin diger yaratici calismalardan ornek almasi ve bazen insan yapimi iceriklerden ayirt edilemeyecek sonuclar uretmesi nedeniyle yapay zeka tarafindan uretilen icerigin yarattigi tehdit altindadir Bu sorun diger sanatcilarin ve programcilarin bu metinden goruntuye modellerin dogru ciktilar vermesine karsi koymak icin yazilimlar ve yardimci programlar olusturmalarina neden olacak kadar yayginlasmistir Ekonomideki bazi sektorler yapay zekadan yeni is olanaklari yaratarak faydalanirken bu sorun yeni is olanaklari yaratmamakta ve tamamen ortadan kalkma tehdidiyle karsi karsiya kalmaktadir Yakin zamanda medyada mansetlere tasinan Subat 2024 te Iskocya nin Glasgow kentinde duzenlenen Willy s Chocolate Experience adli cocuk etkinliginde goruntulerin ve metinlerin yapay zeka modelleri kullanilarak olusturulmasi cocuklarin ebeveynlerin ve oyuncularin dehsete dusmesine neden olmustur The New York Times tarafindan OpenAI aleyhine acilan ve yapay zeka modellerinin ciktilarinda kullandiklari ornekleme yontemleri dolayisiyla telif hakki ihlali oldugu ileri surulen bir dava devam etmektedir Ortadan kaldirma Stephen Hawking gibi bilim insanlari insanustu yapay zekanin fiziksel acidan mumkun oldugundan emindir ve parcaciklarin insan beynindeki parcacik duzeninden bile daha gelismis hesaplamalar yapabilecek sekilde duzenlenmesini onleyecek hicbir fiziksel yasa yoktur seklinde ifade etmektedir Nick Bostrom gibi bilim adamlari insanustu zekanin ne kadar uzakta oldugunu ve insanlik icin bir risk olusturup olusturmadigini konusunu tartisiyorlar Bostrom a gore super zeki bir makine genellikle insanlari harekete geciren guc elde etmeye yonelik ayni duygusal arzuyla motive olmak zorunda olmayacak bunun yerine gucu nihai hedeflerine ulasmak icin bir vasita olarak ele alabilecektir dunyayi ele gecirmek hem kaynaklara erisimini artiracak hem de diger aracilarin makinenin planlarini durdurmasini onlemeye yardimci olacaktir Asiri basitlestirilmis bir ornek olarak yalnizca mumkun oldugunca cok sayida atac yaratmak uzere tasarlanmis bir atac maksimize edicisi dunyanin tum kaynaklarini mumkun oldugunca cok atac yaratmak icin kullanmak ve ayrica insanlarin onu kapatmasini ya da bu kaynaklari atac disinda baska seyler icin kullanmasini engellemek amaciyla dunyayi ele gecirmek isteyecektir KurgudaYapay zekanin kontrolu devralmasi bilimkurguda yaygin kullanilan bir temadir Arastirmacilarin hedeflerine ulasmanin bir yan urunu olarak insanlari hizla yok eden bir yapay zeka endisesinin aksine kurgusal senaryolar genellikle insanlarla kendilerini tehdit olarak goren veya insanlarla savasmak icin aktif bir istek duyan antropomorfik gudulere sahip bir yapay zeka veya robotlar arasinda aktif bir catismayi icerdikleri icin arastirmacilar tarafindan varsayilan senaryolardan buyuk olcude farklilik gostermektedir Bu fikir 1921 de robot kelimesini ortaya atan Karel Capek in RUR unda gorulur ve Mary Shelley nin Frankenstein inda 1818 de yayinlandi da gorulebilir Victor canavarinin istegini kabul edip edemeyecegini dusunurken ona es yaptiktan sonra urer ve insanligi yok ederler Toby Ord a gore yapay zekanin yonetimi ele gecirmesi icin robot gerekliligi fikri medya ve Hollywood tarafindan yonlendirilen bir yanlis anlamadir Tarihte en cok zarar veren insanlarin fiziksel olarak en gucluler olmadigini bunun yerine insanlari ikna etmek ve dunyanin buyuk bolumunun kontrolunu ele gecirmek icin kelimeleri kullandiklarini ileri surmektedir Internete erisimi olan yeterince zeki bir yapay zekanin kendisinin yedek kopyalarini dagitabilecegini finansal ve insani kaynaklari siber saldirilar veya santajlar yoluyla bir araya getirebilecegini insanlari buyuk olcekte ikna edebilecegini ve insanlarin tahmin edemeyecegi kadar ince toplumsal aciklardan yararlanabilecegini yazmaktadir RUR dan gelen robot kelimesi isci veya serf anlamina gelen Cekce robota kelimesinden gelir 1920 tarihli oyun teknolojinin hizla gelismesine karsi bir baskaldiriydi ve sonunda isyan eden artan yeteneklere sahip imal edilmis robotlar iceriyordu HAL 9000 1968 ve orijinal Terminator 1984 populer kulturde dusman yapay zekanin iki ikonik ornegidir Katki saglayan faktorlerInsanustu zekanin insanlara gore avantajlari Nick Bostrom ve digerleri yetenekli bir yapay zeka arastirmacisinin yeteneklerine sahip bir yapay zekanin kendi kaynak kodunu degistirebilecegine ve kendi zekasini arttirabilecegine dair kaygilarini dile getirmislerdir Kendi kendini yeniden programlamasi kendini yeniden programlama konusunda daha da iyi hale gelmesine yol acacak olursa bunun sonucu insan zekasini hizla geride birakacak yinelemeli bir zeka patlamasi olabilecektir Bostrom bir super zekayi neredeyse tum ilgi alanlarindaki insanlarin bilissel performansini buyuk olcude asan herhangi bir akil olarak tanimliyor ve bir super zekanin insanlarla rekabet etmeyi secmesi durumunda sahip olacagi bazi avantajlari siraliyor Teknoloji arastirmasi Insanustu bilimsel arastirma yeteneklerine sahip bir makine nanoteknoloji veya ileri biyoteknoloji gibi kilometre taslarinda insan arastirma toplulugunu geride birakabilir Strateji Olusturma Bir super zeka insani kolaylikla alt edebilir Sosyal manipulasyon Bir super zeka insan destegini toplayabilir veya gizlice insanlar arasinda bir savasi kiskirtabilir Ekonomik uretkenlik Yapay zekanin bir kopyasi donaniminin maliyetinden daha fazla ekonomik zenginlik uretebildigi surece bireysel insanlar Yapay Genel Zekanin kendisinin bir kopyasini kendi sistemlerinde calistirmasina gonullu olarak izin verme tesvikine sahip olacaktir Bilgisayar korsanligi Bir super zeka internete bagli bilgisayarlarda yeni acikliklar bulabilir ve kendisinin kopyalarini bu sistemlere yayabilir veya planlarini finanse etmek icin para calabilir Yapay zeka avantajinin kaynaklari Bostrom a gore bir insan beynini taklit eden ya da insan beyninin algoritmalari kadar guclu algoritmalar calistiran bir bilgisayar programi et yerine silikondan yapilmis olmasi ya da yapay zekanin hizini artiran optimizasyon nedeniyle bir insandan cok daha hizli dusunebilmesi halinde yine de hiz super zekasi haline gelebilir Biyolojik noronlar yaklasik 200 Hertz hizinda calisirken modern bir mikroislemci yaklasik 2 000 000 000 Hertz hizinda calisir Insan aksonlari aksiyon potansiyellerini yaklasik 120 m s hizla tasirken bilgisayar sinyalleri isik hizina yakin bir hizla hareket etmektedir Birbirleriyle iletisim agi kuracak ve karmasik dusunce ve anilari sorunsuz bir sekilde paylasacak sekilde tasarlanmis surtusme olmadan dev bir birlesik guc olarak calisabilen veya trilyonlarca insan duzeyinde zekadan olusan bir ag kolektif bir super zeka haline gelecektir Daha genis anlamda insan duzeyindeki bir yapay zekada yapilacak herhangi bir sayida niteliksel iyilestirme kaliteli bir super zeka ile sonuclanabilir ve belki de zeka acisindan insanlarin insan olmayan maymunlardan daha ustun oldugu kadar ustun bir yapay zeka ile sonuclanabilir Bir insanin beynindeki noron sayisi kafatasi hacmi ve metabolik kisitlamalarla sinirliyken bir super bilgisayardaki islemci sayisi suresiz olarak artirilabilir Bir yapay zeka insanlarin calisma bellegi uzerindeki kisitlamalari ile sinirli olmak zorunda degildir ve bu yuzden insanlarin yapabildiginden daha karmasik iliskileri sezgisel olarak kavrayabilir Muhendislik veya bilgisayar programlama icin ozel bilissel destege sahip bir yapay zeka bu alanlarla ozellikle ilgilenmek icin ozel zihinsel moduller gelistirmeyen insanlara kiyasla bu alanlarda bir avantaja sahip olacaktir Insanlarin aksine bir yapay zeka kendi kopyalarini olusturabilir ve algoritmalarini daha da gelistirmeye calismak icin kopyalarinin kaynak kodlariyla oynayabilir Dost olmayan yapay zekanin dost canlisi yapay zekadan once gelme olasiligi Guclu yapay zeka dogasi geregi tehlikeli midir Onemli sorunlardan biri dostane olmayan yapay zekanin yaratilmasinin dostane yapay zekadan cok daha kolay olmasidir Her ikisi de ozyinelemeli optimizasyon sureci tasariminda buyuk ilerlemeler gerektirse de dostane yapay zeka ayni zamanda hedef yapilarini kendini gelistirme altinda degismez kilma becerisi ve insan degerleriyle uyumlu ve tum insan irkini otomatik olarak yok edebilecek sekilde araci yakinsamaya ugramayan bir hedef yapisi gerektirmektedir Ote yandan dostane olmayan bir yapay zeka kendi kendini gelistirme kapsaminda degismez olmasi gerekli olmayan keyfi bir hedef yapisi icin iyilestirme yapabilmektedir Insan deger sistemlerinin karmasikligi yapay zekanin motivasyonlarinin insan dostu hale gelmesini cok zor hale getirmektedir Ahlak felsefesi bize kusursuz bir etik teorisi sunmadigi surece bir yapay zekanin fayda fonksiyonu belirli bir etik cerceveye uyan ancak sagduyuya uygun olmayan bircok potansiyel zararli senaryoya izin verecektir Eliezer Yudkowsky ye gore yapay olarak tasarlanan bir zihnin boyle bir uyarlamaya sahip olacagini varsaymak icin cok az neden vardir Catisma olasiligi Evrimsel psikolog Steven Pinker da dahil olmak uzere pek cok bilim adami super zeki bir makinenin insanlarla baris icinde bir arada yasamasinin muhtemel oldugunu savunmaktadir Sibernetik isyan korkusu genellikle insanligin kolelestirme ve soykirim olaylariyla dolu tarihinin yorumlarina dayandirilmaktadir Bu tur korkular rekabetcilik ve saldirganligin herhangi bir zeki varligin hedef sistemi icinde gerekli oldugu inancindan kaynaklanmaktadir Oysa insanlarin rekabetciligi insan ve insan olmayan rakipler karsisinda genlerin hayatta kalmasi ve uremesinin temel hedef oldugu zekamizin evrimsel arka planindan kaynaklanmaktadir YZ arastirmacisi Steve Omohundro ya gore keyfi bir zekanin keyfi hedefleri olabilir yapay zekali bir makinenin yaraticisi onu bu sekilde programlamadikca ve programini degistirmeye meyilli veya yetenekli olmadikca dusmanca veya dostca olmasi icin ozel bir sebep yoktur Ancak soru su Eger yapay zeka sistemleri etkilesime girebilir ve evrimlesebilirse bu baglamda evrim kendini degistirme veya secilim ve ureme anlamina gelir ve kaynaklar uzerinde rekabet etmeleri gerekirse ne olacaktir ki bu da kendini koruma hedefleri yaratir mi Yapay zekanin kendini koruma hedefi insanlarin bazi hedefleriyle celisebilir Pek cok bilim insani Matrix gibi bilim kurgu filmlerinde tasvir edildigi gibi beklenmedik bir sibernetik isyan ihtimaline karsi cikmakta ve insanligi tehdit edecek kadar guclu herhangi bir yapay zekanin muhtemelen saldirmamak uzere programlanmis olmasinin daha muhtemel oldugunu ileri surmektedir Pinker kasitli kotu niyetli aktorler olasiligini kabul etmekte fakat kotu niyetli aktorlerin yoklugunda beklenmedik kazalarin onemli bir tehdit olusturmadigini ifade etmektedir Pinker muhendislik guvenlik kulturunun yapay zeka arastirmacilarinin kazara kotu niyetli super zekayi serbest birakmasini onleyecegini savunmaktadir Buna karsin Yudkowsky insanligin kasitli olarak saldirgan yapay zekalar tarafindan tehlikeye atilma olasiliginin hedefleri kasitsiz olarak insanin hayatta kalmasi ile uyumsuz olacak sekilde programlanmis yapay zekalar tarafindan tehdit edilme olasiligindan daha dusuk oldugunu savunmaktadir Omohundro gunumuz otomasyon sistemlerinin guvenlik icin tasarlanmadigini ve yapay zekalarin dar fayda fonksiyonlarini koru korune optimize edebileceklerini ornegin ne pahasina olursa olsun satranc oynamak bunun da onlari kendilerini korumaya ve onlari kapatabilecek insanlar da dahil olmak uzere engelleri ortadan kaldirmaya yonelttigini one surmektedir Onlemler Yapay zeka kontrolu sorunu yaraticilarina zarar verecek bir super zekayi yanlislikla olusturmaktan kacinirken yaraticilarina yardim edecek bir super akilli ajanin nasil olusturulacagi meselesidir Bazi akademisyenler kontrol problemine yonelik cozumlerin mevcut super zeki olmayan yapay zekada da uygulama alani bulabilecegini savunmaktadir Kontrol sorununa yonelik baslica yaklasimlar arasinda yapay zeka hedef sistemlerini insani degerlerle uyumlu hale getirmeyi amaclayan hizalama ve yapay zeka sisteminin insanlara zarar verme veya kontrolu ele gecirme kapasitesini azaltmayi amaclayan yetenek kontrolu yer aliyor Yetenek kontrolune bir ornek bir super zeka yapay zekasinin basarili bir sekilde bir Yapay Zeka kutusu icinde sinirlandirilip sinirlandirilamayacaginin arastirilmasidir Bostrom a gore bu tur kabiliyet kontrolu onerileri uzun vadede kontrol sorununu cozmek icin guvenilir veya yeterli degildir fakat potansiyel olarak hizalama cabalari icin degerli tamamlayicilar olarak islev gorebilir UyarilarFizikci Stephen Hawking Microsoft un kurucusu Bill Gates ve SpaceX in kurucusu Elon Musk yapay zekanin insanlarin onu kontrol edemeyecegi noktaya kadar gelisebilecegi olasiligi hakkindaki endiselerini dile getirdiler Hawking bunun insan irkinin sonunu getirebilecegini teorilestirdi Stephen Hawking 2014 yilinda soyle demisti Yapay zeka yaratmadaki basari insanlik tarihindeki en buyuk olay olacaktir Ne yazik ki eger risklerden nasil kacinacagimizi ogrenemezsek bu ayni zamanda sonuncusu da olabilir Hawking onumuzdeki on yillarda yapay zekanin teknolojinin finansal piyasalari alt etmesi insan arastirmacilari alt etmesi insan liderleri alt etmesi ve anlayamadigimiz silahlar gelistirmesi gibi hesaplanamaz faydalar ve riskler sunabilecegine inaniyordu Ocak 2015 te Nick Bostrom Stephen Hawking Max Tegmark Elon Musk Lord Martin Rees Jaan Tallinn ve cok sayida yapay zeka arastirmacisina katilarak Yasamin Gelecegi Enstitusu nun yapay zekayla ilgili potansiyel riskler ve faydalar hakkinda konusan acik mektubunu imzaladilar Imzacilar yapay zeka sistemlerinin nasil saglam ve faydali hale getirilebilecegine iliskin arastirmalarin hem onemli hem de zamaninda yapilmasinin onemine ve bugun takip edilebilecek somut arastirma yonleri olduguna inanmaktadirlar Arthur C Clarke in Odyssey serisi ve Charles Stross un Accelerando su insanligin oz algisini tehdit eden guclu yapay zekalar karsisinda insanligin narsisistik olarak yaralanmalarini konu almaktadir Ayrica bakinizYapay zeka felsefesi Yapay zeka etigi Otonomasyon Siberokrasi Makine ogrenimi Teknofobi Neo Luddizm Matrix seri Kaynakca Lewis Tanya 12 Ocak 2015 8 Mart 2018 tarihinde kaynagindan arsivlendi Erisim tarihi 20 Ekim 2015 Stephen Hawking Elon Musk and dozens of other top scientists and technology leaders have signed a letter warning of the potential dangers of developing artificial intelligence AI Lee Kai Fu 24 Haziran 2017 The New York Times 17 Nisan 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 15 Agustos 2017 These tools can outperform human beings at a given task This kind of A I is spreading to thousands of domains and as it does it will eliminate many jobs Larson Nina 8 Haziran 2017 6 Mart 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 15 Agustos 2017 Among the feared consequences of the rise of the robots is the growing impact they will have on human jobs and economies Santini Jean Louis 14 Subat 2016 1 Ocak 2019 tarihinde kaynagindan arsivlendi Erisim tarihi 15 Agustos 2017 We are approaching a time when machines will be able to outperform humans at almost any task said Moshe Vardi director of the Institute for Information Technology at Rice University in Texas Williams Grut Oscar 15 Subat 2016 Business Insider 16 Agustos 2017 tarihinde kaynagindan arsivlendi Erisim tarihi 15 Agustos 2017 Top computer scientists in the US warned that the rise of artificial intelligence AI and robots in the workplace could cause mass unemployment and dislocated economies rather than simply unlocking productivity gains and freeing us all up to watch TV and play sports LeanStaff Ingilizce 17 Ekim 2017 18 Ekim 2017 tarihinde kaynagindan arsivlendi Erisim tarihi 17 Ekim 2017 Frank Morgan 25 Mart 2019 Toward understanding the impact of artificial intelligence on labor Proceedings of the National Academy of Sciences of the United States of America 116 14 6531 6539 doi 10 1073 pnas 1900949116 PMC 6452673 2 PMID 30910965 Bond Dave 2017 Artificial Intelligence ss 67 69 Skidelsky Robert 19 Subat 2013 The Guardian Londra 3 Nisan 2019 tarihinde kaynagindan arsivlendi Erisim tarihi 14 Temmuz 2015 Bria Francesca February 2016 17 Mayis 2016 tarihinde kaynagindan arsivlendi Erisim tarihi 20 Mayis 2016 Srnicek Nick March 2016 novara wire 25 Haziran 2016 tarihinde kaynagindan arsivlendi Erisim tarihi 20 Mayis 2016 Brynjolfsson Erik McAfee Andrew 2014 passim see esp Chpt 9 The Second Machine Age Work Progress and Prosperity in a Time of Brilliant Technologies W W Norton amp Company ISBN 978 0393239355 Wakabayashi Daisuke 19 Mart 2018 New York Times 21 Nisan 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 23 Mart 2018 Jiang Harry H Brown Lauren Cheng Jessica Khan Mehtab Gupta Abhishek Workman Deja Hanna Alex Flowers Johnathan Gebru Timnit 29 Agustos 2023 AI Art and its Impact on Artists Proceedings of the 2023 AAAI ACM Conference on AI Ethics and Society Association for Computing Machinery ss 363 374 doi 10 1145 3600211 3604681 ISBN 979 8 4007 0231 0 Ghosh Avijit Fossas Genoveva 19 November 2022 Can There be Art Without an Artist arXiv 2209 07667 2 Shan Shawn Cryan Jenna Wenger Emily Zheng Haitao Hanocka Rana Zhao Ben Y 3 August 2023 Glaze Protecting Artists from Style Mimicry by Text to Image Models arXiv 2302 04222 2 Brooks Libby 27 Subat 2024 Glasgow Willy Wonka experience called a farce as tickets refunded The Guardian 27 Subat 2024 tarihinde kaynagindan Erisim tarihi 2 Nisan 2024 Metz Cade Robertson Katie 27 Subat 2024 OpenAI Seeks to Dismiss Parts of The New York Times s Lawsuit The New York Times 5 Nisan 2024 tarihinde kaynagindan Erisim tarihi 4 Nisan 2024 Hawking Stephen Stuart Russell Max Tegmark Frank Wilczek 1 Mayis 2014 The Independent 2 Ekim 2015 tarihinde kaynagindan arsivlendi Erisim tarihi 1 Nisan 2016 Muller Vincent C Bostrom Nick 2016 PDF Fundamental Issues of Artificial Intelligence Springer ss 555 572 doi 10 1007 978 3 319 26485 1 33 ISBN 978 3 319 26483 7 31 Mayis 2022 tarihinde kaynagindan PDF arsivlendi Erisim tarihi 16 Haziran 2022 AI systems will reach overall human ability very likely with 90 probability by 2075 From reaching human ability it will move on to superintelligence within 30 years 75 So most of the AI experts responding to the surveys think that superintelligence is likely to come in a few decades Bostrom Nick 2012 PDF Minds and Machines Springer 22 2 71 85 doi 10 1007 s11023 012 9281 3 9 Temmuz 2022 tarihinde kaynagindan PDF arsivlendi Erisim tarihi 16 Haziran 2022 a b c d e f g h Bostrom Nick Superintelligence Paths Dangers Strategies public radio 22 Nisan 2011 14 Mart 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 30 Nisan 2020 Botkin Kowacki Eva 28 Ekim 2016 Christian Science Monitor 26 Subat 2021 tarihinde kaynagindan arsivlendi Erisim tarihi 30 Nisan 2020 Ord Toby 2020 Unaligned artificial intelligence The precipice existential risk and the future of humanity london New York N Y Bloomsbury academic ISBN 978 1 5266 0023 3 Hockstein N G Gourin C G Faust R A Terris D J 17 Mart 2007 A history of robots from science fiction to surgical robotics Journal of Robotic Surgery 1 2 113 118 doi 10 1007 s11701 007 0021 2 PMC 4247417 2 PMID 25484946 Hellmann Melissa 21 Eylul 2019 The Seattle Times 21 Nisan 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 30 Nisan 2020 Baraniuk Chris 23 Mayis 2016 New Scientist 21 Eylul 2016 tarihinde kaynagindan arsivlendi Erisim tarihi 21 Eylul 2016 Yudkowsky Eliezer S May 2004 Singularity Institute for Artificial Intelligence 15 Haziran 2012 tarihinde kaynagindan arsivlendi Muehlhauser Luke Helm Louie 2012 PDF Singularity Hypotheses A Scientific and Philosophical Assessment Springer 7 Mayis 2015 tarihinde kaynagindan PDF arsivlendi Erisim tarihi 2 Ekim 2020 Yudkowsky Eliezer 2011 Complex Value Systems in Friendly AI Artificial General Intelligence Lecture Notes in Computer Science 6830 ss 388 393 doi 10 1007 978 3 642 22887 2 48 ISBN 978 3 642 22886 5 ISSN 0302 9743 a b Pinker Steven 13 Subat 2018 Popular Science Ingilizce 20 Temmuz 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 8 Haziran 2020 Omohundro Stephen M June 2008 PDF Artificial General Intelligence 2008 ss 483 492 10 Ekim 2020 tarihinde kaynagindan PDF arsivlendi Erisim tarihi 2 Ekim 2020 Tucker Patrick 17 Nisan 2014 Defense One 6 Temmuz 2014 tarihinde kaynagindan arsivlendi Erisim tarihi 15 Temmuz 2014 Russell Stuart J 8 Ekim 2019 ISBN 978 0 525 55862 0 OCLC 1237420037 15 Mart 2023 tarihinde kaynagindan arsivlendi Erisim tarihi 2 Ocak 2022 BBC News 8 Haziran 2016 11 Haziran 2016 tarihinde kaynagindan arsivlendi Erisim tarihi 7 Haziran 2020 Rawlinson Kevin 29 Ocak 2015 BBC News 29 Ocak 2015 tarihinde kaynagindan arsivlendi Erisim tarihi 30 Ocak 2015 The Future of Life Institute 28 Ekim 2015 29 Mart 2019 tarihinde kaynagindan arsivlendi Erisim tarihi 29 Mart 2019 Bradshaw Tim 11 Ocak 2015 The Financial Times 7 Subat 2015 tarihinde kaynagindan arsivlendi Erisim tarihi 4 Mart 2015 Kaminski Johannes D December 2022 On human expendability AI takeover in Clarke s Odyssey and Stross s Accelerando Neohelicon Ingilizce 49 2 495 511 doi 10 1007 s11059 022 00670 w ISSN 0324 4652