Generative Pre-trained Transformer 3 (Türkçe: Üretken Ön İşlemeli Dönüştürücü 3) kısaca GPT-3, insanların yazdığı metinlere benzer içerik üretmek için derin öğrenmeyi kullanan özbağlanımlı dil modelidir. GPT-n serisindeki üçüncü nesil dil tahmin modeli olan GPT-3, San Francisco merkezli yapay zeka araştırma laboratuvarı OpenAI tarafından geliştirilmiştir. GPT-3'ün tam sürümü, veri işleyecek 175 milyar parametreye sahiptir. Bu rakam GPT-2'nin öğrenme kapasitesinin 2 katıdır. 14 Mayıs 2020'de tanıtılan ve Temmuz 2020 itibarıyla beta aşamasında olan GPT-3, önceden öğretilmiş dil örnekleriyle doğal dil işleme (NLP) sistemini kullanmaktadır. GPT-3'ün piyasaya sürülmesinden önce, en büyük dil modeli Microsoft'un Şubat 2020'de tanıttığı ve GPT-3'ün %10'undan daha az kapasiteye sahip olan (17 milyar parametre) Turing NLG idi.
Orijinal yazar(lar) | OpenAI |
---|---|
İlk yayınlanma | 11 Haziran 2020 (beta) |
Resmî sitesi | openai.com/blog/openai-api |
Kod deposu |
|
GPT-3 tarafından üretilen metnin kalitesi o kadar yüksektir ki, bir insan tarafından yazılmadığını anlamak zordur. Bu durumun yaratabileceği avantajlar olabileceği gibi riskler de vardır. 31 OpenAI araştırmacısı ve mühendisi, 28 Mayıs 2020'de GPT-3'ü tanıtan orijinal makaleyi yayımlamıştır. Makalelerinde, GPT-3'ün potansiyel tehlikeleri konusunda insanları uyarmış ve bu riski azaltmak için çalışmalar yapılması gerektiği çağrısında bulunmuşlardır. Avustralyalı filozof David Chalmers, GPT-3'ü "şimdiye kadar üretilmiş en ilginç ve önemli yapay zeka sistemlerinden biri" olarak tanımlamıştır.
Arka planı
The Economist'e göre, geliştirilmiş algoritmalar, güçlü bilgisayarlar ve sayısallaştırılmış verilerdeki artış, makine öğreniminde bir devrimi tetiklemiştir. Yazılım modelleri, bir "yapıda" binlerce veya milyonlarca örnek kullanarak öğrenmek üzere eğitilmektedir. Doğal dil işlemede (NLP) kullanılan mimari, ilk olarak 2017'de tanıtılan derin öğrenme modeline dayanan Transformer adlı yapay sinir ağıdır. GPT-n modellerinin yapısı, Transformer tabanlı derin öğrenme sistemine dayanmaktadır. Veri işleme, veri madenciliği, veri düzenleme, veriler arası bağlantı kurma, verilerde zıtlık oluşturma, verileri anlama ve sorulara yanıt verme becerisine sahip bir dizi NLP sistemi vardır.
Yapabildikleri
OpenAI'de çalışan 31 mühendis ve araştırmacıdan oluşan grup projeyi 28 Mayıs 2020'de tanıttı. Ekip, GPT-3'ün kapasitesinin selefi GPT-2'ye nazaran iki kat fazla olduğunu ve türünün en gelişmiş örneği olduğunu belirtmiştir. GPT-3'ün parametre sayısı, daha küçük kapasiteli önceki sürümlere kıyasla daha doğru çalışmasını sağlamaktadır. GPT-3'ün kapasitesi, Microsoft'un Turing NLG'sinin on katından fazladır.
GPT-3'e öğrenmesi için verilen veri kümesinin %60'ının kaynağı, 410 milyar veriden oluşan filtrelenmiş Common Crawl sürümüdür. Veri kümesinin %22'si İnternetteki verilerden, %16'sı şimdiye kadar yayımlanmış kitaplardan ve %3'ü Wikipedia'dan gelmektedir. GPT-3, yüz milyarlarca kelimenin yanı sıra CSS, , Python'da kodlama yeteneğine sahiptir. GPT-3'ün eğitim verileri her şeyi kapsadığından, farklı dil görevleri için daha fazla veri öğrenmesi gerekmemektedir.
11 Haziran 2020'de OpenAI, kullanıcıların OpenAI'nin yeni teknolojisinin "güçlü yönlerini ve sınırlarını keşfetmesine" yardımcı olmak için kullanıcı dostu GPT-3 API'sine ("makine öğrenimi araç seti") erişim talep edebileceklerini duyurmuştur. Davetiyede, bu API'nin neredeyse "tüm İngilizce komutları" tamamlayabildiğini yazmaktadır. OpenAI GPT-3 API'nin erken sürümüne erişim hakkı olan bir kullanıcıya göre, GPT-3 "inanılmaz derecede tutarlı metinler" yazma konusunda "ürkütücü derecede iyiydi".
GPT-3, insanlar tarafından yazılan makalelerden ayırt etmekte güçlük çekilen haberler üretebildiğinden", GPT-3'ün hem yararlı hem de zararlı uygulamaların geliştirilmesinde kullanılabileceği düşünülmektedir. Araştırmacılar 28 Mayıs 2020 tarihli makalelerinde GPT-3'ün potansiyel zararlı etkilerini detaylıca açıklamışlardır. Yanlış bilgi üretimi, spam, kimlik avı, yasal ve hükûmet süreçlerinin kötüye kullanımı, sahte akademik makale yazma ve sosyal mühendislik potansiyel zararlı etkilerden bazılarıdır. Yazarlar, bu risklerin azaltılması konusunda araştırmalar yapılması için bu tehlikelere dikkat çekmektedir.
Ayrıca Bakınız
Kaynakça
- ^ "Yapay zekâ: Yeni nesil GPT-3 yüzünden korkmalı mı, sevinmeli mi?". BBC News Türkçe. 10 Ağustos 2020. 10 Ağustos 2020 tarihinde kaynağından . Erişim tarihi: 16 Ağustos 2020.
- ^ a b Shead (23 Temmuz 2020). "Why everyone is talking about the A.I. text generator released by an Elon Musk-backed lab". CNBC. 30 Temmuz 2020 tarihinde kaynağından . Erişim tarihi: 31 Temmuz 2020. Four preprints were released between May 28 and July 22, 2020.
- ^ a b . Towards Data Science. 21 Temmuz 2020. 19 Ağustos 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 1 Ağustos 2020.
- ^ a b c d Sagar (3 Haziran 2020). "OpenAI Releases GPT-3, The Largest Model So Far". Analytics India Magazine. 4 Ağustos 2020 tarihinde kaynağından . Erişim tarihi: 31 Temmuz 2020.
- ^ Weinberg, Justin (30 Temmuz 2020). "Philosophers On GPT-3 (updated with replies by GPT-3)". Daily Nous. 4 Ağustos 2020 tarihinde kaynağından . Erişim tarihi: 4 Ağustos 2020.
- ^ "An understanding of AI's limitations is starting to sink in". The Economist. 11 Haziran 2020. ISSN 0013-0613. 31 Temmuz 2020 tarihinde kaynağından . Erişim tarihi: 31 Temmuz 2020.
- ^ . 22 Ağustos 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 31 Temmuz 2020.
- ^ "OpenAI's gigantic GPT-3 hints at the limits of language models for AI". ZDNet. 1 Haziran 2020. 1 Haziran 2020 tarihinde kaynağından . Erişim tarihi: 31 Temmuz 2020.
- ^ . OpenAI. 11 Haziran 2020. 11 Haziran 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 16 Ağustos 2020.
- ^ "TechCrunch – Startup and Technology News". TechCrunch. 11 Haziran 2020. 12 Haziran 2020 tarihinde kaynağından . Erişim tarihi: 31 Temmuz 2020.
If you’ve ever wanted to try out OpenAI’s vaunted machine learning toolset, it just got a lot easier. The company has released an API that lets developers call its AI tools in on “virtually any English language task.”
- ^ . Arram Sabeti. 9 Temmuz 2020. 20 Temmuz 2020 tarihinde kaynağından arşivlendi. Erişim tarihi: 31 Temmuz 2020.
wikipedia, wiki, viki, vikipedia, oku, kitap, kütüphane, kütübhane, ara, ara bul, bul, herşey, ne arasanız burada,hikayeler, makale, kitaplar, öğren, wiki, bilgi, tarih, yukle, izle, telefon için, turk, türk, türkçe, turkce, nasıl yapılır, ne demek, nasıl, yapmak, yapılır, indir, ücretsiz, ücretsiz indir, bedava, bedava indir, mp3, video, mp4, 3gp, jpg, jpeg, gif, png, resim, müzik, şarkı, film, film, oyun, oyunlar, mobil, cep telefonu, telefon, android, ios, apple, samsung, iphone, xiomi, xiaomi, redmi, honor, oppo, nokia, sonya, mi, pc, web, computer, bilgisayar
Generative Pre trained Transformer 3 Turkce Uretken On Islemeli Donusturucu 3 kisaca GPT 3 insanlarin yazdigi metinlere benzer icerik uretmek icin derin ogrenmeyi kullanan ozbaglanimli dil modelidir GPT n serisindeki ucuncu nesil dil tahmin modeli olan GPT 3 San Francisco merkezli yapay zeka arastirma laboratuvari OpenAI tarafindan gelistirilmistir GPT 3 un tam surumu veri isleyecek 175 milyar parametreye sahiptir Bu rakam GPT 2 nin ogrenme kapasitesinin 2 katidir 14 Mayis 2020 de tanitilan ve Temmuz 2020 itibariyla beta asamasinda olan GPT 3 onceden ogretilmis dil ornekleriyle dogal dil isleme NLP sistemini kullanmaktadir GPT 3 un piyasaya surulmesinden once en buyuk dil modeli Microsoft un Subat 2020 de tanittigi ve GPT 3 un 10 undan daha az kapasiteye sahip olan 17 milyar parametre Turing NLG idi GPT 3Orijinal yazar lar OpenAIIlk yayinlanma11 Haziran 2020 beta Resmi sitesiopenai com blog openai apiKod deposugithub com openai gpt 3 GPT 3 tarafindan uretilen metnin kalitesi o kadar yuksektir ki bir insan tarafindan yazilmadigini anlamak zordur Bu durumun yaratabilecegi avantajlar olabilecegi gibi riskler de vardir 31 OpenAI arastirmacisi ve muhendisi 28 Mayis 2020 de GPT 3 u tanitan orijinal makaleyi yayimlamistir Makalelerinde GPT 3 un potansiyel tehlikeleri konusunda insanlari uyarmis ve bu riski azaltmak icin calismalar yapilmasi gerektigi cagrisinda bulunmuslardir Avustralyali filozof David Chalmers GPT 3 u simdiye kadar uretilmis en ilginc ve onemli yapay zeka sistemlerinden biri olarak tanimlamistir Arka planiThe Economist e gore gelistirilmis algoritmalar guclu bilgisayarlar ve sayisallastirilmis verilerdeki artis makine ogreniminde bir devrimi tetiklemistir Yazilim modelleri bir yapida binlerce veya milyonlarca ornek kullanarak ogrenmek uzere egitilmektedir Dogal dil islemede NLP kullanilan mimari ilk olarak 2017 de tanitilan derin ogrenme modeline dayanan Transformer adli yapay sinir agidir GPT n modellerinin yapisi Transformer tabanli derin ogrenme sistemine dayanmaktadir Veri isleme veri madenciligi veri duzenleme veriler arasi baglanti kurma verilerde zitlik olusturma verileri anlama ve sorulara yanit verme becerisine sahip bir dizi NLP sistemi vardir YapabildikleriOpenAI de calisan 31 muhendis ve arastirmacidan olusan grup projeyi 28 Mayis 2020 de tanitti Ekip GPT 3 un kapasitesinin selefi GPT 2 ye nazaran iki kat fazla oldugunu ve turunun en gelismis ornegi oldugunu belirtmistir GPT 3 un parametre sayisi daha kucuk kapasiteli onceki surumlere kiyasla daha dogru calismasini saglamaktadir GPT 3 un kapasitesi Microsoft un Turing NLG sinin on katindan fazladir GPT 3 e ogrenmesi icin verilen veri kumesinin 60 inin kaynagi 410 milyar veriden olusan filtrelenmis Common Crawl surumudur Veri kumesinin 22 si Internetteki verilerden 16 si simdiye kadar yayimlanmis kitaplardan ve 3 u Wikipedia dan gelmektedir GPT 3 yuz milyarlarca kelimenin yani sira CSS Python da kodlama yetenegine sahiptir GPT 3 un egitim verileri her seyi kapsadigindan farkli dil gorevleri icin daha fazla veri ogrenmesi gerekmemektedir 11 Haziran 2020 de OpenAI kullanicilarin OpenAI nin yeni teknolojisinin guclu yonlerini ve sinirlarini kesfetmesine yardimci olmak icin kullanici dostu GPT 3 API sine makine ogrenimi arac seti erisim talep edebileceklerini duyurmustur Davetiyede bu API nin neredeyse tum Ingilizce komutlari tamamlayabildigini yazmaktadir OpenAI GPT 3 API nin erken surumune erisim hakki olan bir kullaniciya gore GPT 3 inanilmaz derecede tutarli metinler yazma konusunda urkutucu derecede iyiydi GPT 3 insanlar tarafindan yazilan makalelerden ayirt etmekte gucluk cekilen haberler uretebildiginden GPT 3 un hem yararli hem de zararli uygulamalarin gelistirilmesinde kullanilabilecegi dusunulmektedir Arastirmacilar 28 Mayis 2020 tarihli makalelerinde GPT 3 un potansiyel zararli etkilerini detaylica aciklamislardir Yanlis bilgi uretimi spam kimlik avi yasal ve hukumet sureclerinin kotuye kullanimi sahte akademik makale yazma ve sosyal muhendislik potansiyel zararli etkilerden bazilaridir Yazarlar bu risklerin azaltilmasi konusunda arastirmalar yapilmasi icin bu tehlikelere dikkat cekmektedir Ayrica BakinizChatGPT Uretken On Islemeli DonusturucuKaynakca Yapay zeka Yeni nesil GPT 3 yuzunden korkmali mi sevinmeli mi BBC News Turkce 10 Agustos 2020 10 Agustos 2020 tarihinde kaynagindan Erisim tarihi 16 Agustos 2020 a b Shead 23 Temmuz 2020 Why everyone is talking about the A I text generator released by an Elon Musk backed lab CNBC 30 Temmuz 2020 tarihinde kaynagindan Erisim tarihi 31 Temmuz 2020 Four preprints were released between May 28 and July 22 2020 a b Towards Data Science 21 Temmuz 2020 19 Agustos 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 1 Agustos 2020 a b c d Sagar 3 Haziran 2020 OpenAI Releases GPT 3 The Largest Model So Far Analytics India Magazine 4 Agustos 2020 tarihinde kaynagindan Erisim tarihi 31 Temmuz 2020 Weinberg Justin 30 Temmuz 2020 Philosophers On GPT 3 updated with replies by GPT 3 Daily Nous 4 Agustos 2020 tarihinde kaynagindan Erisim tarihi 4 Agustos 2020 An understanding of AI s limitations is starting to sink in The Economist 11 Haziran 2020 ISSN 0013 0613 31 Temmuz 2020 tarihinde kaynagindan Erisim tarihi 31 Temmuz 2020 22 Agustos 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 31 Temmuz 2020 OpenAI s gigantic GPT 3 hints at the limits of language models for AI ZDNet 1 Haziran 2020 1 Haziran 2020 tarihinde kaynagindan Erisim tarihi 31 Temmuz 2020 OpenAI 11 Haziran 2020 11 Haziran 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 16 Agustos 2020 TechCrunch Startup and Technology News TechCrunch 11 Haziran 2020 12 Haziran 2020 tarihinde kaynagindan Erisim tarihi 31 Temmuz 2020 If you ve ever wanted to try out OpenAI s vaunted machine learning toolset it just got a lot easier The company has released an API that lets developers call its AI tools in on virtually any English language task Arram Sabeti 9 Temmuz 2020 20 Temmuz 2020 tarihinde kaynagindan arsivlendi Erisim tarihi 31 Temmuz 2020