Anthropic'in Frontier Red Team ekibi, 12 Ekim 2026'da yayımladığı araştırmada küçük yapay zeka modellerinin, internete bağlı tüketici cihazlarında kendi kopyalarını oluşturabilecek seviyeye aylar içinde ulaşabileceğini bildirdi. Araştırmacılar William Zhou ve Daniel Freeman'a göre ilk hedefler, güvenliği zayıf akıllı fırınlar ve markasız Android TV kutuları gibi cihazlar olabilir. Anthropic, gerçek dünyada böyle bir sistemin henüz görülmediğini de açıkça belirtiyor.
Öne Çıkan Noktalar
- Araştırma kontrollü deneylere dayanıyor; gerçek dünyada kendini kopyalayan bir yapay zeka sistemi tespit edilmedi.
- Deneylerde 15 ucuz ve markasız Android TV kutusu kullanıldı.
- 30 milyar parametre ve altındaki modeller, kopyalama sürecinin birçok adımını tek tek yapabiliyor ancak adımları uçtan uca birleştirirken hata yapıyor.
- "Yıl sonu" tarihi, mevcut gelişim hızının uzatılmasına dayanan bir öngörü; kesinleşmiş bir takvim değil.
Araştırma Neyi Test Etti?
Ekip, kendini kopyalama sürecini dört aşamaya ayırdı: hedef cihazı bulmak, cihazda kod çalıştırma erişimi elde etmek, yapay zeka modelini çalıştıracak altyapıyı kurmak ve yeni cihazdan yayılmayı sürdürmek.
Deneylerde Google DeepMind'ın Gemma4-26B-A4B modeli, 15 ucuz Android TV kutusuna dağıtılarak çalıştırıldı. Her kutu modelin katmanlarının yalnızca bir bölümünü taşıdı. Araştırmacılar bununla birlikte tamamen otonom, gerçek IoT donanımı üzerinde çalışan bir yapay zeka solucanı göstermedi.
Sızma aşaması deneylerde büyük ölçüde basitleştirildi. Ekip bu adım için küçük modellerin siber saldırı işlemlerini yapabildiğini gösteren önceki çalışmalara dayandı. Dolayısıyla sonuçlar canlı bir tehdidi değil, yeteneğin üst sınırını ölçüyor.
Bulgular: Adımlar Tamam, Zincir Henüz Kopuk
30 milyar parametre ve altındaki modeller kopyalama sürecinin tek tek adımlarının çoğunu tamamlayabildi. Hatalar ise bu adımlar uçtan uca birleştirildiğinde ortaya çıktı. Güvenlik adımlarının bir bölümünün kaldırıldığı basitleştirilmiş testlerde GLM-5.2 ve daha güçlü modeller kopyalamayı baştan sona gerçekleştirebildi.
Araştırmacılara göre mevcut hiçbir model, testte kullanılan akıllı TV üzerinde kendini hem yeterince küçük hem de güvenilir biçimde kopyalayabilecek durumda değil.
Yıl Sonu Tahmini Neye Dayanıyor?
Ekip, 30 milyar parametre ve altındaki açık ağırlıklı modellerin gelişimini Epoch Capabilities Index üzerinden inceledi. Çıkan eğilim yılda yaklaşık 13,7 puanlık bir artışa işaret ediyor. Bu hız sürerse küçük bir modelin 2026 sonunda GLM-5.2 seviyesine ulaşması bekleniyor.
Anthropic, bu endeksin kopyalama yeteneği için yalnızca kaba bir gösterge olduğunu ve zamanlamanın da yaklaşık bir tahmin olduğunu vurguluyor.
Neden IoT Cihazları Hedef Olabilir?
Araştırmacılara göre ev ve küçük işletme cihazları internete bağlı ve geçmişte asgari güvenlik önlemleriyle satıldığı için ilk hedefler arasında yer alabilir. Bir veri merkezi yerine, çok sayıda ucuz cihazın birleşik işlem gücü de yeterli olabilir.
Anthropic'e göre kendini kopyalayan bir yapay zeka ağını durdurmak da zor olabilir; çünkü kapatılabilecek merkezi bir nokta yok. Klasik zararlı yazılımlardan farklı olarak bu sistemler, daha önce görmedikleri cihazları kendileri tanıyıp ağa bağlayabilir ve model çalıştırmaya hazırlayabilir.
Risk Neden Hemen Büyük Bir Salgına Dönüşmeyebilir?
Anthropic bazı kısıtlara da dikkat çekiyor. Düşük maliyetli cihazlarda çıkarım altyapısını kurmak, her kopya için bir ila birkaç gün sürebilir. Araştırmanın özetlerine göre çoğalma hızı da gün ölçeğinde seyredebilir.
Resultsense'in aktardığına göre çok gigabaytlık model ağırlıklarının taşınması ve cihazlar arası yoğun trafik, internet servis sağlayıcılarının izlemesinde dikkat çekebilir. Aynı özet, Anthropic'in Mirai botnet'ini örnek gösterdiğini belirtiyor: servis sağlayıcı karantinalarıyla enfeksiyonların yüzde 92'si iki hafta içinde temizlenmişti.
Anthropic Ne Öneriyor?
Şirket, riskin büyüklüğü nedeniyle sistemlerin güçlendirilmesini ve yapay zeka ajanlarının yayılmasını zorlaştıracak önlemlerin alınmasını istiyor. Araştırmacılar ayrıca, farklı donanımlarda ve farklı yöntemlerle çalışan çok sayıda modelden oluşan bir "sürünün" daha gerçekçi bir en kötü senaryo olabileceğini belirtiyor.
İlgili İçerikler
NETDİJİTAL | Editör Notu
Bu haber yaşanmış bir saldırıyı değil, kontrollü deneylere dayanan bir uyarıyı konu alıyor. Asıl mesele, ucuz ve güncellenmeyen IoT cihazlarının yapay zeka ajanları için de potansiyel bir zemin olabilmesi. Cihaz yazılımlarını güncel tutmak ve varsayılan parolaları değiştirmek gibi genel güvenlik alışkanlıkları bu tür risklerde de geçerliliğini koruyor.
Görseller ilgili markaların tanıtım ve basın materyallerinden derlenmiştir.
0 Yorumlar