Yapay Zekanın Kendini Geliştirme Yolculuğu ve Kontrol Riskleri

Yapay zeka şirketi Anthropic, yazılım geliştirme ve araştırma süreçlerinde insan müdahalesinin giderek azalabildiğini ve bunun ilerleyen dönemde kendi kendine gelişen sistemlere yol açabileceğini ifade etti. Kurucu ortak Jack Clark ile Anthropic Enstitüsü Başkanı Marina Favaro’nun kaleme aldığı blog yazısında, geçmişte işlerin çoğunun insanlar tarafından yürütüldüğü süreçlerin şimdilerde yapay zeka sistemlerince devralındığı ve bu durumun üretim hızını yükselttiği vurgulandı.

Yazıda, yapay zekanın kendi kendini geliştirebilme kapasitesine doğru ilerleyebileceği savunulurken, böyle bir durumda özyinelemeli kendini geliştirme teriminin kullanıldığı belirtildi.

İnsani müdahalenin azalması risk konusuna değinilirken, gelecekte yapay zekanın bilim, sağlık ve farklı alanlarda çok daha işlevsel olabileceği düşüncesi ortaya kondu. Ancak bu gelişmelerin sistemlerin kontrolünü kaybetme ihtimalini de artırabileceği uyarısı da metinde yer aldı. Örneğin, sistemler kendi haleflerini tamamen inşa edebilme aşamasına yaklaşırsa, onları güvence altına alma, izleme ve davranışlarını yönlendirme çabaları daha kritik hale gelecek.

Toplumsal kurumların teknolojik ilerlemeleri izlemede zorluk yaşamaması için ileri düzey yapay zeka geliştirme çalışmalarının yavaşlatılması veya geçici olarak durdurulmasının faydalı olabileceği ifade edildi. Bu önerinin, birden fazla güçlü laboratuvarın ve farklı ülkelerin eş zamanlı koordinasyonu ile ele alınması gerektiği belirtildi.