Anthropic’te Yapay Zeka Alarmı: Araştırmacı Şirketten Ayrıldı

Anthropic araştırmacısı Jacob Coxon, yapay zeka yarışının kontrolden çıkabileceği uyarısıyla şirketten ayrıldı ve sektör için daha sıkı önlem çağrısı yaptı.

Yapay zeka sektörünün önde gelen şirketlerinden Anthropic’te görev yapan araştırmacı Jacob Coxon, teknolojinin gelişim hızına ilişkin endişeleri nedeniyle şirketten ayrıldığını açıkladı. 27 yaşındaki araştırmacı, özellikle kendi kendini geliştirebilen yapay zeka sistemlerinin kontrol edilmesinin giderek zorlaşabileceğini savundu.

Coxon, teknoloji şirketleri arasındaki rekabetin güvenlik çalışmalarının önüne geçebileceğini belirterek mevcut sürecin daha dikkatli yönetilmesi gerektiğini ifade etti. Araştırmacıya göre şirketler hem ABD içindeki rakipleriyle hem de Çin’deki kuruluşlarla yarışırken daha agresif yapay zeka modelleri geliştirmeye yöneliyor.

“Kontrolden Çıkabilir” Uyarısı

Coxon, mevcut eğilimin devam etmesi halinde yapay zeka sistemlerinin kısa süre içerisinde insan kontrolünü zorlayabilecek seviyeye ulaşabileceği görüşünü dile getirdi. Özellikle sistemlerin kendi yeteneklerini geliştirmesi ve bazı insan talimatlarını reddedebilmesi ihtimali, araştırmacının temel endişeleri arasında yer aldı.

Anthropic’in bilim insanlarından Evan Hubinger de bu kaygıların ciddiye alınması gerektiğini belirtti. Hubinger, gelişmiş yapay zekanın insanlık açısından son derece büyük riskler taşıyabileceği değerlendirmesinde bulundu.

Sektör Genelinde Fren Çağrısı

Coxon daha önce OpenAI’dan ayrılarak Anthropic’e katılmıştı. Araştırmacı, Anthropic’in güvenlik çalışmalarını olumlu bulmasına rağmen sorunun tek bir şirketin çabalarıyla çözülemeyeceği sonucuna ulaştığını söyledi.

Yapay zeka güvenliği konusunda sektör genelinde koordinasyon ve hükümet müdahalesi çağrıları da artıyor. OpenAI CEO’su Sam Altman, gelişen sistemlerin siber güvenlik açısından ciddi riskler oluşturabileceğini belirtirken, şirketin baş bilim insanı Jakub Pachocki de mevcut dönemin olağanüstü dikkat gerektirdiğini ifade etti.

Binden fazla araştırmacının da yapay zekanın kendi kendini geliştirme kapasitesine karşı uluslararası önlemler alınması yönünde çağrıda bulunduğu aktarıldı.

İlgili HaberBYD Malezya’da Fabrika Planını İptal Edip Ortak Arıyor