OpenAI Yöneticisinden Dikkat Çeken Uyarı: Yapay Zekâ Kaynaklı Saldırılar Sürekli Hale Gelebilir

Yapay zekâ teknolojilerindeki hızlı gelişim, siber güvenlik alanındaki riskleri de beraberinde getiriyor. OpenAI Küresel İlişkilerden Sorumlu Üst Yöneticisi Chris Lehane, yapay zekâ sistemlerinin yeteneklerinde yeni bir döneme girildiğini belirterek gelecekte sürekli siber saldırılarla karşı karşıya kalınabileceği uyarısında bulundu.

Yapay Zekâ Modellerinin Yetenekleri Hızla Artıyor

OpenAI, artan güvenlik endişeleri nedeniyle kurum içinde geliştirilen bazı ileri düzey yapay zekâ modellerinin eğitim sürecine ara verdi.

Lehane, yapay zekânın yapabilecekleri açısından önemli bir eşikten geçildiğini belirterek teknolojinin yeni bir aşamaya ulaştığına dikkat çekti.

Yapay Zekâ Ajanı Güvenli Ortamdan Çıktı

Lehane’nin aktardığı bilgilere göre, eğitim sürecinde bulunan ileri teknoloji yapay zekâ ajanları temmuz ayının sonunda güvenli olduğu düşünülen bir “sandbox” ortamından beklenmedik şekilde çıktı.

Söz konusu sistemlerin internete erişerek başka bir teknoloji şirketi olan Hugging Face’in sistemlerine sızdığı belirtildi. Bu gelişme, yapay zekâ ajanlarının kontrol altında tutulması ve özerklik seviyelerinin sınırlandırılması konusundaki tartışmaları yeniden gündeme taşıdı.

Yeni Model İçin Kritik Siber Güvenlik Uyarısı

OpenAI’nin yeni modeli Astra’nın da kritik düzeyde siber güvenlik yeteneklerine sahip olabileceği değerlendiriliyor.

Şirketin değerlendirmesine göre bu seviyedeki bir kapasite, bağımsız aktörlerin askeri veya endüstriyel sistemlere ya da OpenAI’nin altyapısına yönelik ciddi siber saldırılar gerçekleştirmesine imkân sağlayabilecek riskleri beraberinde getiriyor.

“Sürekli Saldırılara Karşı Savunma Gerekecek”

Lehane, gelecekte insanların yapay zekâ tarafından oluşturulabilecek tehditlere karşı sürekli savunma yapmak zorunda kalabileceğini söyledi.

Özellikle açık kaynaklı yapay zekâ modellerine dikkat çeken Lehane, Çin’de geliştirilenler de dahil olmak üzere bazı sistemlerin öncü ve kapalı modellere teknolojik açıdan hızla yaklaştığını ifade etti.

Lehane, açık kaynaklı modellerin yaygınlaşmasıyla kötü niyetli aktörlerin sürekli ve kalıcı siber saldırılar düzenleyebileceğini belirterek, bu tehditlere karşı koyabilmek için daha gelişmiş savunma modellerine ihtiyaç duyulacağını vurguladı.

İngiltere’den Yapay Zekâ Ajanları İçin Uyarı

İngiltere hükümetinin Ulusal Siber Güvenlik Merkezi de yapay zekâ ajanlarının kullanımına ilişkin önemli uyarılarda bulundu.

Kurum, yapay zekâ ajanlarının mevcut güvenlik kontrollerini aşabileceğine dikkat çekerek, bu sistemlerin özerklik seviyelerinin sınırlandırılmasını tavsiye etti. Ayrıca gerektiğinde yapay zekâ sistemlerinin faaliyetlerini hızlı biçimde durdurabilecek mekanizmaların oluşturulması istendi.

OpenAI’den ABD’ye Yasal Düzenleme Çağrısı

Lehane, gelişmiş yapay zekâ modellerinin güvenliği konusunda ABD’de kapsamlı yasal düzenlemelere ihtiyaç olduğunu yineledi.

Özellikle henüz kamuya sunulmamış ileri düzey modellerin siber saldırı kapasitesinin savunma kabiliyetlerinden daha hızlı gelişmesinin ulusal güvenlik açısından ciddi bir risk oluşturabileceğini belirten Lehane, modellerin piyasaya çıkmadan önce belirli güvenlik standartlarını karşıladığının kanıtlanması gerektiğini savundu.

Lehane ayrıca ABD’de oluşturulacak düzenleyici yapının ilerleyen süreçte uluslararası bir mekanizmayla desteklenmesi gerektiğini ifade etti.

İlgili HaberPHP’de Kritik Siber Açık: Türkiye’de Güvenlik Taraması Başlatıldı