Bunları da beğenebilirsin
Süper zeka, tahmin edebileceğiniz gibi, insanlığı geride bırakan bir zekadır ve uygun korumalar olmadan böyle bir zekayı gerçekleştirebilen yapay zekanın gelişimi, doğal olarak büyük bir tehlike işaretidir
Evet doğru duydunuz
OpenAI’nin kurucu ortağı ve CEO’su Sam Altman’ın kovulması ve yeniden işe alınmasının ardından, bu hamleyi neyin tetiklediğine dair açıklamalar gelmeye devam ediyor
ChatGPT’nin ana şirketi OpenAI’nin ‘süper zeka’ sorununu çözmüş olması ve bunun insanlık için olası sonuçlarıyla boğuşması artık tamamen mümkün görünüyor
The Information’a göre bu atılım OpenAI Baş Bilim Adamı (ve pişmanlıklarla dolu yönetim kurulu üyesi) Ilya Sutskever
Raporda net olmayan şey, süper zekanın hızlı gelişimine ilişkin iç kaygıların Altman’ın kovulmasını nasıl tetiklediğidir Bu, yapay zekanın aynı problemin birçok farklı versiyonuna göre değil, problemle doğrudan ilgili olmayan bilgilere göre eğitildiği anlamına gelir Süper hizalama süper istihbarat korumaları geliştirme hedefiyle
Tehdidi yönetmek
Şu anda ChatGPT’de herhangi bir süper zeka belirtisi olmasa da, OpenAI kesinlikle bu gücün bir kısmını, en azından GPT-4 Turbo ve GPT’lerin chatbot aracıları (ve geleceğin ‘akıllı aracıları’) gibi bazı premium ürünlerine entegre etmek için çalışıyor
Bu yazının yazıldığı sırada Altman OpenAI’ye geri dönüyor, yönetim kurulu yeniden şekillendiriliyor ve süper zeka oluşturma ve bizi ondan koruma çalışmaları devam edecek Sorunları bu şekilde çözmek (genellikle matematik veya fen problemleri) akıl yürütmeyi gerektirir
Ancak Bilgi, bu atılımın – ki bu da Altman şunu ima etmiş olabilir yakın tarihli bir konferansta şunları söyledi: “Kişisel bir not olarak, son birkaç haftadır, cehalet perdesini ve keşif sınırını bir nevi geriye ittiğimizde, odada bulunma fırsatım oldu
OpenAI’nin tüketiciye yönelik birincil ürünü ChatGPT (GPT geniş dil modeli tarafından desteklenmektedir) [LLM]) o kadar akıllı görünebilir ki yanıtlarını oluşturmak için mantığı kullanıyor olmalı Bununla birlikte, ChatGPT ile yeterince zaman harcadığınızda, çok geçmeden onun, kendisine beslenen çok sayıda veriden öğrendiklerini tekrarladığını ve sorgunuz için geçerli olan, mantıklı cümleleri nasıl oluşturacağınız konusunda çoğunlukla doğru tahminler yaptığını fark edeceksiniz The Information dergisindeki yeni bir rapor, en azından bu on yıl içinde veya daha yakın bir zamanda ‘süper zeka’ olarak adlandırılan bir şeyin geliştirilmesine yol açabilecek önemli bir Üretken Yapay Zeka atılımındaki iç aksamayı işaret ediyor Doktor Frankenstein’ın köylüleri alev silahlarıyla donattığını hayal edin, fikri anladınız Doğru, bizim yaptığımız bir şey, yapay zekaların değil Süper zekayı geliştirmek için çalışan şirket aynı zamanda bizi süper zekadan koruyacak araçlar da üretiyor
Eğer tüm bunlar kafa karıştırıcıysa ChatGPT’den size açıklamasını istemenizi öneririm
Süper istihbaratı, Sutskever’in başlangıçta desteklediği, kurulun son eylemlerine bağlamak zorlayıcı olabilir
Yapay zekanın daha önce hiç görmediği sorunları çözmek için yapay zekanın daha temiz ve bilgisayar tarafından oluşturulan verileri kullanmasına olanak tanır Bu atılımın aylar önce gerçekleştiği ve Sutskever ile başka bir OpenAI bilim insanı Jan Leike’nin yeni bir OpenAI araştırma grubu kurmasına yol açtığı bildirildi ileri” – OpenAI’ye şok dalgaları gönderdi Belki de önemli değildir