Anthropic CEO’sundan yapay zeka uyarısı: “Yıkım, kölelik ve drone orduları”

[hepsigundem]

Yapay zeka şirketi Anthropic’in CEO’su ve kurucu ortağı Dario Amodei, şahsî internet sitesinde yayımladığı 38 sayfalık yeni denemesinde, “süper zekaya” sahip yapay zekanın yol açabileceği risklere karşı acil tedbir daveti yaptı.

“Teknolojinin Ergenlik Çağı” başlıklı metinde Amodei, kendi kendini geliştirebilen yapay zeka sistemlerinin bir ila iki yıl içinde ortaya çıkabileceğini öne sürerek, bunun insanlığın köleleştirilmesi ve “kitlesel yıkım” üzere sonuçlar doğurabileceği ihtarında bulundu.

Amodei, makalesinde yapay zeka kaynaklı risklerin bilinen ve şimdi öngörülemeyen boyutlarını ele alıyor. Yapay zeka takviyeli biyoterörizm, berbat niyetli yapay zekalar tarafından yönetilen drone orduları ve yapay zekanın insan emeğini toplum genelinde fonksiyonsuz hale getirmesi üzere senaryolar uzun uzun tartışılıyor.

Bu tehditlere karşı ise dal içi özdenetimden ABD Anayasası’nda değişiklik yapılmasına kadar uzanan geniş bir tahlil yelpazesi öneriliyor.

YAPAY ZEKA İNSAN ÜZERE ELE ALINMALI MI?

Ancak deneme, yapay zeka tartışmalarında sıkça eleştirilen bir noktaya da düşüyor: Yapay zekanın insan üzere ele alınması. Amodei, yapay zekayı şuurlu ve “psikolojik açıdan karmaşık” bir varlık üzere tasvir ederken, mevcut lisan modellerinin “iyi bir insan” olma istikametinde bir çeşit öz-kimlik geliştirdiğini ileri sürüyor. Eleştirmenlere nazaran bu yaklaşım, muharririn şahsen uyardığı tuzağın kendisi.

Mashab’le’a nazaran tenkitler, Amodei’nin muhteşem zekanın “hep kapının eşiğinde” olduğu tarafındaki öngörülerine de odaklanıyor. CEO, daha evvel 2024’te kaleme aldığı diğer bir yazıda da harika zekanın bir-iki yıl içinde ortaya çıkabileceğini savunmuştu. Ortadan geçen vakte karşın misal bir öngörünün tekrar edilmesi, yapay zeka alanındaki “kıyamet senaryolarının” daima ertelenen lakin hiç gelmeyen bir yakın gelecek algısı yarattığı yorumlarına neden oluyor.

Uzmanlara nazaran, büyük lisan modelleri (LLM) son derece güçlü araçlar olsa da şuur, his yahut gerçek empatiye sahip değil. Apple’ın bir araştırmasında bu modellerin sadece “düşünme yanılsaması” sunduğu söz edilmişti.

Bazı yorumcular, Skynet gibisi kıyamet senaryoları yerine yapay zekanın bugünden yol açtığı somut problemlere odaklanılması gerektiğini savunuyor.


NTV

The post Anthropic CEO’sundan yapay zeka uyarısı: “Yıkım, kölelik ve drone orduları” first appeared on HepsiGündem.COM " Gündem,Güncel Haberler Burada ".

Okumaya devam et...