ABD merkezli yapay zeka şirketi Anthropic’in kurucu ortaklarından Jack Clark, yapay zeka teknolojilerine ilişkin tartışmaları değerlendirdiği bir röportaj verdi. Clark, görüşmeyi BBC’ye yaptı. Röportajda, yapay zeka yazılımının çok tehlikeli bir noktaya gelmesi halinde devre dışı bırakılmasını sağlayacak yöntemler konuşuldu. Clark, toplumun ileride bu alanda kurallar koymak isteyebileceğini söyledi. Bu düzenlemelerin nasıl şekilleneceğinin ise geniş kapsamlı bir politika tartışmasının parçası olması gerektiğini dile getirdi.
Anthropic dahil birçok şirketin hali hazırda çeşitli kapatma düğmesi yöntemlerine sahip olduğunu belirten Clark, acil kapatma düğmesi gereklilikleri ile denetiminin ayrıntılarının da aynı tartışma başlığı altında ele alınması gerektiğini ifade etti. BBC’nin, şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasının zorunlu tutulup tutulmayacağı ve böyle bir mekanizmanın üçüncü bir tarafın kontrolünde olup olmaması gerektiği yönündeki sorusuna Clark, bunun toplumun bilmek isteyeceği ve zamanla kurallar koymak isteyebileceği bir konu olduğu yanıtını verdi. Yapay zekanın insanlığı yok etme olasılığına ilişkin bir yüzde sorusuna ise Clark, bu tür istatistiklerin bir işe yarayacağını düşünmediğini aktardı.
Clark, yapay zekanın tamamen kontrolsüz bir endüstri haline gelmesinin kötü bir fikir olduğunu belirtti. Sektörün mevcut gidişatının değiştirilmesi gerektiğini savunan Clark, muazzam riskler alınarak kumar oynandığı görüşünü paylaştı. Bu açıklamalar, yapay zeka güvenliği konusunda sektör içinden yükselen eleştirilerin ardından geldi.
Röportajın dikkat çeken bölümlerinden biri de Clark’ın sektörün genel yönelimiyle ilgili değerlendirmeleriydi. Clark, yapay zeka alanında faaliyet gösteren şirketlerin hızlı ilerleme baskısı altında olduğunu, bu baskının güvenlik önlemlerinin geri plana atılmasına yol açabileceğini anlattı. Ona göre asıl mesele, teknolojik gelişmenin hızıyla bu gelişmenin yarattığı riskleri yönetme kapasitesi arasındaki dengesizlik. Clark, bu dengesizliğin giderilmesi için hem şirketlerin kendi içinde hem de kamuoyu nezdinde ciddi bir tartışma yürütülmesi gerektiğini vurguladı. Ayrıca denetim mekanizmalarının kim tarafından ve nasıl işletileceği sorusunun cevapsız kaldığını, bunun da belirsizliği artırdığını sözlerine ekledi.
Son üç yıldır OpenAI ve Anthropic bünyesinde araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını öne sürerek Anthropic’ten istifa etmişti. Coxon’un bu çıkışı, sektörde güvenlik ve denetim konularında yükselen huzursuzluğun somut bir yansıması olarak değerlendirildi. Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu iddia etmişti. Bu sistemlerin yakın gelecekte her şeyi hackleyebilecek insanüstü yapılara dönüşebileceğini savunan Coxon, bazı sektör çalışanlarının bu modellerin on yıl içinde insanlığı öldürebileceğine ciddi biçimde inandığını ileri sürmüştü. Clark’ın röportajdaki ifadeleri, sektördeki denetim ve güvenlik tartışmalarının bir parçası olarak kayda geçti.
