İş Yerlerinde Yapay Zeka Kullanımında Yeni Kurallar Dönemi

Yapay zekâ teknolojilerinin iş dünyasında kullanımının hızla artması, şirketleri yeni düzenlemeler yapmaya yöneltiyor. Firmalar artık yalnızca yapay zekâ yatırımlarına odaklanmak yerine, çalışanların bu teknolojiyi hangi kurallar çerçevesinde kullanacağına ilişkin politikalar oluşturuyor.

Uzmanlar, yapay zekâ kullanımında veri güvenliği, insan kontrolü ve olası dolandırıcılık risklerine karşı şirket içi düzenlemelerin önem kazandığını belirtiyor.

Hassas Verilerin Yapay Zekaya Yüklenmesi Risk Taşıyor

Üretken yapay zekâ araçlarının müşteri bilgileri, sözleşmeler, fiyat listeleri veya şirket içi raporlar gibi kritik verilerle kullanılması çeşitli güvenlik sorunlarını beraberinde getirebiliyor.

Uzmanlara göre kişisel verilerin korunması kapsamında veri güvenliği ihlalleri, hukuka aykırı veri işleme veya bilgilerin yurt dışına aktarılması gibi riskler ortaya çıkabilir. Ticari sır niteliğindeki bilgilerin yapay zekâ sistemlerine aktarılması ise şirketler açısından gizlilik sorunlarına yol açabilir.

Bu nedenle yalnızca bir yapay zekâ kullanım politikası hazırlanmasının yeterli olmadığı, iş sözleşmeleri, görev tanımları, gizlilik kuralları ve bilgi güvenliği süreçlerinin de yeni teknolojiye uygun şekilde güncellenmesi gerektiği ifade ediliyor.

Deepfake Dolandırıcılığı Şirketler İçin Yeni Tehdit

Yapay zekânın oluşturduğu en önemli risklerden biri de deepfake teknolojisi olarak öne çıkıyor. Gerçek kişilerin ses ve görüntülerinin taklit edilmesiyle gerçekleştirilen dolandırıcılık girişimleri, şirketlerin güvenlik sistemlerini yeniden değerlendirmesine neden oluyor.

Uzmanlar, özellikle üst düzey yöneticilerin seslerinin taklit edilerek sahte talimatlar verilmesi ihtimaline dikkat çekiyor.

Sahte Talimatlara Karşı Yeni Güvenlik Önlemleri

Bir şirket yöneticisinin sesi yapay zekâ ile taklit edilerek finans departmanına acil ödeme yapılması yönünde talimat gönderilmesi durumunda, çalışanların bu tür saldırıları fark etmesi zorlaşabiliyor.

Bu nedenle şirketlerin ödeme süreçlerinde çift onay mekanizmaları kullanması, sözlü talimatların farklı kanallardan doğrulanması ve çalışanlara yapay zekâ destekli dolandırıcılık yöntemleri konusunda eğitim verilmesi öneriliyor.

Yapay Zeka Hatalarında Sorumluluk Tartışması

Yapay zekâ tarafından hazırlanan hatalı bir raporun veya analizin kullanılması halinde sorumluluğun doğrudan çalışana yüklenmesinin her zaman doğru olmayacağı belirtiliyor.

Sorumluluk değerlendirilirken kullanılan yapay zekâ sisteminin işe uygun olup olmadığı, çalışanın üretilen içeriği kontrol etme yükümlülüğü, insan denetiminin hangi aşamada devreye girdiği ve yönetici onayının gerekip gerekmediği dikkate alınacak.

Uzmanlar, yapay zekâ çağında güvenli çalışma ortamı oluşturmak için yalnızca çalışanların dikkatine güvenilmemesi gerektiğini, doğrulama ve kontrol mekanizmalarının şirket süreçlerine dahil edilmesinin zorunlu hale geldiğini vurguluyor.