Anthropic, yapay zeka modelinin biyolojik ve konvansiyonel silah geliştirilmesine destek sağlayabilecek "kötü niyetli faaliyetler" için kullanılmasına yönelik girişimleri tespit ederek engellediğini açıkladı.
CNBCE.COM'u öncelikli haber kaynağınız olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle
Şirketin yapay zeka modeli Claude'un, Rusya bağlantılı bir siber casusluk kampanyasında ve İran'daki bir propaganda kuruluşu tarafından da kullanıldığı belirtildi.
Anthropic'in son tehdit istihbaratı raporuna göre son sekiz ayda tespit edilen endişe verici vakalar arasında sahte flört uygulamaları, otel Wi-Fi dolandırıcılıkları ve muhalifleri tespit etmeye yönelik gözetim sistemleri yer aldı.
Açıklamalar, Anthropic'teki üst düzey bir güvenlik araştırmacısının yapay zekanın insanlık için oluşturabileceği potansiyel risklere ilişkin uyarılarının ardından geldi.
Anthropic ayrıca Çinli yapay zeka şirketlerini Claude'un yeteneklerini kopyalamaya çalışmakla suçladı.
Şirket, "hizmetlerinin kötü niyetli şekilde kötüye kullanıldığını açıklama sorumluluğuna" sahip olduğuna inandığını belirterek son tehdit istihbaratı raporunu perşembe günü yayımladı.
Raporda, devlet destekli olduğu düşünülen grupların, suçluların, casus yazılım şirketlerinin, devlet propaganda kuruluşlarının ve siyasi motivasyonla hareket eden kişilerin Anthropic teknolojisini kötüye kullandığı vakalar ayrıntılı şekilde sıralandı.
Kötü Niyetli Modeller Hangileri?
Anthropic, Claude Haiku, Sonnet ve Opus modellerinin Aralık 2025 ile Ağustos 2026 arasında kötü niyetli kullanımını tespit ederek engellediğini bildirdi.
Claude Fable veya daha güçlü Mythos sınıfı modellerin, daha büyük ve maliyetli modeller kullanılarak daha küçük yapay zeka modellerinin eğitilmesi süreci olan damıtma (distillation) işlemine ilişkin tek bir vaka dışında, söz konusu kötüye kullanım vakalarının hiçbirinde kullanılmadığı kaydedildi.
Anthropic, modellerinin siber saldırılar, etki operasyonları, gözetim, dolandırıcılık ve silah geliştirme amacıyla kullanıldığını tespit etmesinin yanı sıra, yapay zekasını biyolojik silah geliştirilmesine destek olabilecek şekilde kullanan bilim insanlarını da engellediğini açıkladı.
"Aktörlerin Modelleri Biyolojik Silah Geliştirilmesini Destekleyebilecek Şekilde Kullandığı Beş Vaka Çalışması"
Raporda, "aktörlerin modelleri biyolojik silah geliştirilmesini destekleyebilecek şekilde kullandığı beş vaka çalışmasına" yer verildi.
Biyolojik amaçlı kötüye kullanımın, "öncü yapay zeka modellerinin en ciddi risklerinden biri" olduğu belirtilen raporda, gerekli güvenlik önlemleri bulunmadığı takdirde bu tür yeteneklerin "felaket boyutunda sonuçlara yol açabileceği" ifade edildi.
Anthropic, biyolojik silah geliştirmek için kullanılabilecek bilgilerin aynı zamanda örneğin bir aşı veya hastalığın tedavisi için de kullanılabileceğine dikkati çekti.
Anthropic'in tehdit istihbaratı biriminin başındaki Jacob Klein, New York Times'a yaptığı açıklamada durumun "son derece karmaşık" olduğunu belirtti.
Klein, insanların çizgi romanlardaki kötü karakterler gibi doğrudan "herkesi öldürmek için biyolojik silah yapmak istiyorum" şeklinde hareket etmediğini ifade etti.
Raporda ayrıca Claude'un ateşli silahlar, füzeler, silahlı insansız hava araçları, bombalar ve diğer mühimmatlar dahil olmak üzere konvansiyonel silahlara yönelik yazılımların geliştirilmesinde kullanıldığı altı vaka tespit edildiği belirtildi. Bu vakalar arasında söz konusu silahların çalışmasını sağlayan hedefleme ve kontrol sistemleri de yer aldı.
Dev kurumdan altın yatırımcısına uyarı! Kritik eşikler satışı işaret ediyorAltın
Siber Saldırılarda Yapay Zeka Kullanımı Artıyor
Rapora göre siber suçlular ve devlet destekli hacker grupları, operasyonlarına yardımcı olması amacıyla Anthropic teknolojisini giderek daha fazla kullanıyor.
Raporda ShinyHunters adlı hacker grubu ile Çin merkezli laboratuvarların da adı geçti.
Rusya merkezli Midnight Blizzard grubunun faaliyetleriyle örtüşen bir hacker grubunun ise yapay zekayı, kötü amaçlı yazılımlarının güvenlik sistemleri tarafından tespit edilip edilmediğini otomatik olarak belirleyen bir sistem oluşturmak için kullandığı belirtildi.
Söz konusu sistemin, kötü amaçlı yazılım güvenlik savunmaları tarafından tespit edildiğinde kodu yeniden yazarak tespit edilmekten kaçınmaya çalıştığı aktarıldı.
Kaliforniya merkezli Anthropic, raporda elde edilen bulguları "gelecekte bu faaliyetleri daha iyi önlemek, tespit etmek ve engellemek" amacıyla kendi süreçlerine dahil ettiğini açıkladı.
Şirket ayrıca uygun durumlarda elde ettiği istihbaratı yetkililer ve sektör ortaklarıyla paylaştığını bildirdi.
Milyarder yatırımcı Druckenmiller'dan Fed'e sert mesaj: "Faiz indirimi artık gereksiz"Faiz
Yapay Zekanın Insanlığı Yok Etme Riski Tartışılıyor
Şirketin bu yıl yayımladığı ilk tehdit istihbaratı raporu, Anthropic'teki üst düzey bir güvenlik araştırmacısının yapay zekanın çok hızlı ilerlediği ve gelecek 10 yıl içinde "tüm insanları öldürebileceği" yönünde yüzde 10'dan fazla ihtimal bulunduğu uyarısının ardından geldi.
OpenAI Baş Bilim İnsanı Jakub Pachocki de 6 Eylül'de yayımlanan bir makalesinde, güvenlik önlemleri oluşturulana kadar sektörün "gönüllü yavaşlamalar" uygulaması çağrısında bulundu.
Pachocki, makine zekasındaki hızlı yükselişin devam etmesinin sonuçlarına kimsenin hazırlıklı olmamasından endişe duyduğunu belirterek, ChatGPT'nin geliştiricisi OpenAI'ın güvenlik önlemleri üzerinde çalışmayı sürdüreceğini, ancak daha geniş kapsamlı müdahalelere ihtiyaç olduğunu ifade etti.
Bu uyarının ardından İngiltere Başbakanı Andy Burnham'a, yapay zekanın güvenli şekilde geliştirilmesi için yeni bir çok uluslu anlaşma yapılması çağrısında bulunan açık mektup yayımlandı. Ayrıca hükümetlere, süper zekanın geliştirilmesine dayalı bir anlaşmanın nasıl şekillendirilebileceği konusunda işbirliği yapmaları çağrısı yapıldı.
ABD'de Demokrat siyasetçi Bernie Sanders ise yapay süper zekayı yasaklamak ve gelişmiş yapay zeka çalışmalarına geçici olarak ara vermek amacıyla bir yasa tasarısı sundu.
Sanders, perşembe günü BBC'nin Newsnight programında yaptığı açıklamada, bilim insanlarının yapay zekanın insanlık üzerinde "felaket boyutunda bir etki yaratma ihtimali" bulunduğunu söylediği durumda, geliştirme çalışmalarının yavaşlatılmasını istememenin doğru olmayacağını ifade etti.
11 Eylül'ün 25. yılı: Yükselen savunma sanayii hayatımızı nasıl değiştiriyor?Haberler
