Birkaç gün önce Geoffrey’in yapay zekanın nasıl çalıştığına dair, gündelik sade bir dille yaptığı ama teknik boyutlarını da çok şık şekilde anlatan vidosunu izlerken mutlu olmuştum. ama sonunda konuşmasını çok tuhaf bir şekilde bitirdi.
“İşte bu yüzden…”dedi ve ekledi.
“İşte bu yüzden … “, “AI insanlığı yok edebilir, korkmalıyız” dedi! Evet gerçekten bunu söyledi.
Benim doğal beklentim şuydu: işte bu yüzden AI insanlığı yok edemez.
Aslında Geoffrey’in bu konuşmadaki motivasyonu neydi bilmiyorum. Ne söyleyeceğine tamamen kendisi mi karar veriyordu bunu da bilmiyorum. Belki de gizli istihbarat veya resmi bazı kurgu yöneticileri, veya belki de sunucu ona vurucu şeyler söylemesi karşılığında biraz imkan önermiş olabilir. Çünkü zaten konuşmanın başlarında 2 milyon dolara ihtiyacı oldğunu ama bunu Google’da çalışarak kazanamadığın söylüyor. Bugün olağan üstü şeyler anlatan veya cinsel içerikli konuşan insanların çok rağbet gördüğü ve bunun karşılığını bulabildiği aşikar.
Burada kimsenin ucunu kaldırmak istemediği halı var. “AI yi geliştirenler yiyecekleri haltları AI nin üzerine atabilecek bir kanıt tabanı gelşitiyorlar”. İşte zaten korkunç AI budur. Bazen birileri bunu biraz yüksek sesle söylemek istediğinde, hemen bastırılıyor. Çünkü insanlara cambaza bak deniliyor.
AI nin “riskleri” için sunulan savlar, meyve doğramak için kullandığınız masum bir bıçak için de geçerlidir, teknolojik donanımlarla donatılmış bir otonom otomobil için de geçerlidir.
İlk LLM mekanizmasının geliştirme fikrinin nasıl ortaya çıktığını biliyor musunuz? Aslında bir fikir değil ihtiyaçtı. Hatta sonra akademisyenlere verilmiş bir sipariş. Teknolojik sistemler milyonlarca hatta milyarlarca insanın verilerini dinlemeye yetecek kadar güçlendiğinde bunu birilerinin (insan) oturup saatlerce dinlemesi, her şeyi okuması pratikte mümkün olmayacaktı. Şimdi mümkün. Bu yüzden LLM platformları için Tanrının gözü ve kulağı yakıştırması yapanlar var. Ama buradaki tanrı ilahi değil çok güçlü insanlar için kullanıldı.
AI’nin doğru karar verme mekanizmasının ne kadar derine inebileceğine, elinin nereye kadar ulaşabileceğine insanlar karar verir. Genelde geliştiriciler veya onların patronları, ha evet ayrıca birkaç da devlet. Burada patronların ve devletlerin buradaki sınırları çizerken aklından geçenleri ve dileklerini bilmek zor değil. Elon Musk’ın da Sam Altman’ın da. Nükleer bomba geliştiren ekibe görev verirken ne kadar insani kaygılar taşıyorlarsa, bu görevler ve kuralları tanımlarken de aynı hassasiyeti koruduklarına eminim.
Yalnız şunun altını kalın bir şekilde çizmeliyim. Bu söylediklerim bir eleştri değil. Bir stratejinin açıklaması. Bu insanların stretejilerinin doğru veya yanlış olması değerlendirmesi, bu süreçlerin sonunda fayda veya zarar görecek insanların, kitlelerin görüşüne göre değişir. Fayda görecek kitleler ve insanlar, “işte bu bir başarıdır!!!” diye kutlama yaparken, “zarar görecekler ise “ne halt ediyor bu adamlar” diye düşünebilir.
AI’nin işi mükemmele yakın taklit yapmaktır. Bir meyve bıçağı, ne kadar bilinç sahibi ise bu süper bilgisayarlar da o kadar bilinçlidir. Ama birileri bıçağı kaldırıp size doğru fırlatırsa, bıçak da görevini yerine getirir. AI hiçbir zaman Adem 2.0 olmayacak kadar zayıf bilgisyar yazılımlarını kullanır. Arkasındaki matematiksel fonksiyonlar çıkarım yapabilme konusunda mükemmel olsa da bu çıkarımla mevcut olanın kopyasından başka birşey değil. AI istikamette ilerlediği sürece asla da bilinçli olamayacaktır. Ama yeni çıkacak bazı hibrit mekanizmalar bilinçlenme çağını başlatır mı bilmiyorum.
AI (ve robot) etiği nedir, ne olmalıdır? bu ise kürsel ve yukarıda dediğim gibi kitlesel bir “problemdir”. Evet problem diyorum çünkü zaten bugün kritik noktalara erişlebilen AI’nın “birden bire çıldırması” ihtimali çok iyi paketlenebilecek bir kurgudur. “AI kontrolden çıktı ve saldırdı” haber bütleni son dakika alt yazısı için çok şık durur. Ama perdenin arkasında herşey daha farklıdır.
Devasa derin analiz sorgularının “çıldırmayı” sağlayabilecek veya engelleyebilecek veya buna hiç izin vermeyecek şekilde geliştirilmesi gerçekten kolayken bu risklerin muhattabı tam olarak geliştiricilerdir.
“AI’nin faydalarından konuşmak varken, neden sürekli risklerinden bahsederek korku salıyorsunuz yahu” söylentileri de bu ara dalgalanmaya başladı. Evet AI gelişmiş bir yazılım sistemi ve birçok zor soruyu çözebilecek yeteneklere sahipken neden birileri başka işler de yapabilmesine izin verecek algoritmalar ve kodlar ekliyor ki? Yine meyve bıçağı metaforuna dönüp düşünebilirsiniz.
Kısacası, “evet hazırlanın”. AI yıkıcı, güçlü ve sarsıcı etkilerle geldi. Çoğu insan hala farketmeden bu sistemin bir oyuncağı gibi kendisine verilen eğlenceli(!) oyuncaklarla oynamaya devam ediyor. Şirketler privacy policy’lerin arkasında çelik kapılar var sanıyor. Yakında ormandaki ağaçların konuşmaya başladığı günleri yaşağacağız… Belki de daha iyi olur, kim bilir?