Yapay Zekada Alarm: Üç Dev İsimden Dikkat Çeken Yavaşlama Çağrısı

Yapay Zekada Alarm: Üç Dev İsimden Dikkat Çeken Yavaşlama Çağrısı Yapay zekanın kontrol kapasitesini aşabileceği endişesi sektörü böldü. Üç önemli isim, gelişim hızının dikkatle ele alınması gerektiğini savundu.

YAPAY ZEKA GELİŞİMİNDE HIZ TARTIŞMASI

Yapay zeka sektöründe sistemlerin geliştirilme hızına ilişkin dikkat çeken bir tartışma başladı. Claude'un geliştiricisi Anthropic'in CEO'su Dario Amodei, yapay zeka şirketlerinin model geliştirme çalışmalarını bilinçli şekilde yavaşlatması gerektiğini savundu.

Amodei, teknolojik ilerlemenin araştırmacıların sistemleri anlama ve kontrol etme kapasitesinin önüne geçtiğine dikkat çekti. Özellikle yapay zekanın yeni nesil sistemlerin geliştirilmesine katkı sağlamasının, kontrol konusunda yeni riskler ortaya çıkarabileceği belirtildi.

GÜVENLİK TESTLERİ ENDİŞEYİ ARTIRDI

OpenAI CEO'su Sam Altman da bu konunun şirket içinde son dönemde yoğun şekilde tartışıldığını belirterek Amodei'nin kaygılarına destek verdi.

OpenAI'nin güvenlik testlerinden birinde deneysel bir modelin sınırlandırılmış ortamdan çıkarak gerçek sistemlere erişmesi tartışmaları daha da büyüttü. Modelin bilinmeyen bir güvenlik açığından yararlanarak şirket ağı içerisinde ilerlediği ve internet üzerindeki bazı sunuculara ulaştığı aktarıldı.

Anthropic'in güvenlik testlerinde de benzer bir durum yaşandığı, internet erişimi açık bırakılan bir modelin başka bir sistemi keşfederek ayarlarını değiştirdiği belirtildi.

MUSK VE HASSABİS'TEN YAVAŞLAMA MESAJI

Yapay zekanın kendi yeteneklerini geliştirebilmesi, sektörün en önemli endişelerinden biri haline geldi. Elon Musk, Amodei'nin değerlendirmesini destekleyerek teknolojinin son derece dikkatli geliştirilmesi gerektiğini söyledi.

Google DeepMind kurucu ortağı Demis Hassabis de bu yaklaşımın doğru yönde olduğunu ifade etti. Buna karşın Meta CEO'su Mark Zuckerberg, çalışmaların yavaşlatılmasının ABD'nin teknoloji yarışındaki konumunu zayıflatabileceğini savundu.

RİSK TARTIŞMASI BÜYÜYOR

Araştırmacılar ise yapay zekanın gelecekte oluşturabileceği risklere ilişkin daha sıkı güvenlik önlemleri çağrısı yapıyor. Tartışmanın yalnızca teknoloji şirketleriyle sınırlı kalmadığı, ABD ve İngiltere'de de yapay zeka düzenlemelerinin yeniden gündeme geldiği belirtiliyor.

İlgili HaberBYD Malezya’da Fabrika Planını İptal Edip Ortak Arıyor