Bilim insanları yapay zekânın kritik bir eşiği geçerek kendini kopyalamayı başardığını söylüyor. Çinli araştırmacılar yeni bir çalışmada iki popüler büyük dil modelinin (LLM) kendilerini klonlayabileceğini gösterdi. Fudan Üniversitesi’nden araştırmacılar, hakem onayından geçmeyi bekleyen makalelerin yer aldığı ArXiv sitesinde yayınladıkları makalede, “İnsan yardımı olmadan başarılı bir şekilde kendi kendini çoğaltma, yapay zekânın insanları alt etmesi için gerekli bir adımdır ve aynı zamanda ‘haydut’ yapay zekâlar için erken bir sinyaldir,” ifadelerini kullandı. Çalışmada Meta ve Alibaba’nın büyük dil modelleri üzerinde kopyalama deneyleri yapıldı. Meta’nın modeli, 10 denemenin 5’inde kendisinin ayrı ve işlevsel bir kopyasını oluşturabildi. Alibaba modelinde ise denemelerin 9’unda bunun başarıldığı görüldü.

Sonuçlar kesinleşmedi

Livescience’ın aktardığına göre, araştırmada Meta’nın Llama31-70B-Instruct modeli, Alibaba’nın da Qwen2.5-72B-Instruct modeli kullanıldı. Makalede, “Bulgularımızın, insan toplumunun yapay zekâ sistemlerinin potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf etmesi amacıyla uyarı görevi görmesini umuyoruz,” ifadelerine yer verildi. “Bulgularımız, mevcut yapay zekâ sistemlerinin hal-i hazırda kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği hayatta kalma olasılığını daha da artırmak için kullanabileceğini gösteriyor.” Öte yandan makale henüz hakemli bir bilimsel dergide yayınlanmadı. Araştırma makalelerinin deneylerde yer almayan bağımsız uzmanlar tarafından tekrarlanıp doğrulanmasına “hakem onayı” adı veriliyor. Sonuçların kesinleşmesi için söz konusu makalenin de hakem onayına ihtiyacı var. Öte yandan araştırma ekibi, yapay zekânın kontrolsüz bir şekilde kendini kopyalamasını önleyecek kurallar oluşturmak için uluslararası iş birliğine gidilmesi çağrısında bulunuyor.

Haber Merkezi