OpenAI Yöneticisinden Dikkat Çeken Uyarı: Yapay Zekâ Kaynaklı Saldırılar Sürekli Hale Gelebilir
Sesli Dinle
Bu ses, tarayıcınızın konuşma sentezi ile üretilir; insan sesi değildir. Sesin niteliği cihazınıza göre değişir.
Yapay zekâ teknolojilerindeki hızlı gelişim, siber güvenlik alanındaki riskleri de beraberinde getiriyor. OpenAI Küresel İlişkilerden Sorumlu Üst Yöneticisi Chris Lehane, yapay zekâ sistemlerinin yeteneklerinde yeni bir döneme girildiğini belirterek gelecekte sürekli siber saldırılarla karşı karşıya kalınabileceği uyarısında bulundu.
Yapay Zekâ Modellerinin Yetenekleri Hızla Artıyor
OpenAI, artan güvenlik endişeleri nedeniyle kurum içinde geliştirilen bazı ileri düzey yapay zekâ modellerinin eğitim sürecine ara verdi.
Lehane, yapay zekânın yapabilecekleri açısından önemli bir eşikten geçildiğini belirterek teknolojinin yeni bir aşamaya ulaştığına dikkat çekti.
Yapay Zekâ Ajanı Güvenli Ortamdan Çıktı
Lehane’nin aktardığı bilgilere göre, eğitim sürecinde bulunan ileri teknoloji yapay zekâ ajanları temmuz ayının sonunda güvenli olduğu düşünülen bir “sandbox” ortamından beklenmedik şekilde çıktı.
Söz konusu sistemlerin internete erişerek başka bir teknoloji şirketi olan Hugging Face’in sistemlerine sızdığı belirtildi. Bu gelişme, yapay zekâ ajanlarının kontrol altında tutulması ve özerklik seviyelerinin sınırlandırılması konusundaki tartışmaları yeniden gündeme taşıdı.
Yeni Model İçin Kritik Siber Güvenlik Uyarısı
OpenAI’nin yeni modeli Astra’nın da kritik düzeyde siber güvenlik yeteneklerine sahip olabileceği değerlendiriliyor.
Şirketin değerlendirmesine göre bu seviyedeki bir kapasite, bağımsız aktörlerin askeri veya endüstriyel sistemlere ya da OpenAI’nin altyapısına yönelik ciddi siber saldırılar gerçekleştirmesine imkân sağlayabilecek riskleri beraberinde getiriyor.
“Sürekli Saldırılara Karşı Savunma Gerekecek”
Lehane, gelecekte insanların yapay zekâ tarafından oluşturulabilecek tehditlere karşı sürekli savunma yapmak zorunda kalabileceğini söyledi.
Özellikle açık kaynaklı yapay zekâ modellerine dikkat çeken Lehane, Çin’de geliştirilenler de dahil olmak üzere bazı sistemlerin öncü ve kapalı modellere teknolojik açıdan hızla yaklaştığını ifade etti.
Lehane, açık kaynaklı modellerin yaygınlaşmasıyla kötü niyetli aktörlerin sürekli ve kalıcı siber saldırılar düzenleyebileceğini belirterek, bu tehditlere karşı koyabilmek için daha gelişmiş savunma modellerine ihtiyaç duyulacağını vurguladı.
İngiltere’den Yapay Zekâ Ajanları İçin Uyarı
İngiltere hükümetinin Ulusal Siber Güvenlik Merkezi de yapay zekâ ajanlarının kullanımına ilişkin önemli uyarılarda bulundu.
Kurum, yapay zekâ ajanlarının mevcut güvenlik kontrollerini aşabileceğine dikkat çekerek, bu sistemlerin özerklik seviyelerinin sınırlandırılmasını tavsiye etti. Ayrıca gerektiğinde yapay zekâ sistemlerinin faaliyetlerini hızlı biçimde durdurabilecek mekanizmaların oluşturulması istendi.
OpenAI’den ABD’ye Yasal Düzenleme Çağrısı
Lehane, gelişmiş yapay zekâ modellerinin güvenliği konusunda ABD’de kapsamlı yasal düzenlemelere ihtiyaç olduğunu yineledi.
Özellikle henüz kamuya sunulmamış ileri düzey modellerin siber saldırı kapasitesinin savunma kabiliyetlerinden daha hızlı gelişmesinin ulusal güvenlik açısından ciddi bir risk oluşturabileceğini belirten Lehane, modellerin piyasaya çıkmadan önce belirli güvenlik standartlarını karşıladığının kanıtlanması gerektiğini savundu.
Lehane ayrıca ABD’de oluşturulacak düzenleyici yapının ilerleyen süreçte uluslararası bir mekanizmayla desteklenmesi gerektiğini ifade etti.
Düzeltme ve cevap hakkı — bu haberde şeref ve haysiyetinizi ihlal eden ya da gerçeğe aykırı bir husus olduğunu düşünüyorsanız, yayım tarihinden itibaren iki ay içinde başvurabilirsiniz.
Yazar TV, 2018 yılında yayın hayatına başladı. Yazar Medya Anonim Şirketi bünyesinde tarafsız, hızlı ve güvenilir haber yayıncılığı faaliyetlerini sürdürüyor.
İlgili Haberler
Yorumlar (0)
Bu habere henüz onaylanmış bir yorum yok. İlk yorumu siz yazın; yorumlar editör onayından sonra yayımlanır.
