Kaan Demircan: Kurumsal Verileri Yapay Zeka Platformlarıyla Paylaşmayın
İnternet Tabanlı Teknoloji Mimarı Kaan Demircan, Kuzey Kafkas Karaçay-Malkar Derneği’nde gerçekleştirdiği sunumda yapay zeka platformlarında veri gizliliğinin önemine dikkat çekti ve kurumlara uyarılarda bulundu.
Veri gizliliği zorunluluk haline geldi
Demircan, yapay zekanın sağladığı olanakların yanı sıra etik riskler ve "halüsinasyon" olarak adlandırılan hatalı bilgi üretebilme ihtimali bulunduğunu belirterek, teknolojinin hızlı ilerlediği bu süreçte veri güvenliğinin tercih değil zorunluluk olduğunu ifade etti. Kullanıcıların bu sistemleri kontrolsüz kullanmamaları gerektiğini vurguladı.
"Bilgilerinizi paylaşmamalısınız"
Kurum içi ve kurumsal bilgilerin yapay zeka platformlarına girilmemesi gerektiğini özellikle belirten Demircan, "Yapay zekayı etik bir şekilde kullanmak ve kullandırmak çok önemli. Etik ve sorumlu kullanılması gerekli. Bilgilerinizi paylaşmamalısınız" dedi.
Kurum içi modellerin avantajları
Çalıştığı ortamdan örnek veren Demircan, şirket içinde kullanılan özel yapay zeka modellerinin bilgi güvenliği açısından faydalarını aktardı: "Kendi çalıştığım şirkette kendi yapay zekamızı kullanıyoruz. Paylaştığımız bilgiler hiçbir yere gitmiyor, birileriyle paylaşılmıyor. Ama şirketin her türlü bilgisine yapay zeka ile erişilebiliyor. Finansal bilgilerden kime ne sattığımız, hangi projeler var. Oraya bir soru sorduğumuz zaman, yapay zeka bütün bilgileri bildiği için çok verimli cevaplar alıyorum ve çok işime yarıyor."
Merak ve sürekli öğrenme başarı getirir
Teknoloji alanında başarılı olmanın merak ve sürekli öğrenme gerektirdiğini söyleyen Demircan, "Sürekli deneyeceksiniz, yeni araçlar çıkıyor. Sürekli öğrenmeniz gerekiyor, öğrenmeye aç olmak lazım. Başarılı olmanın temeli bu; sürekli bilgiye aç olmak. Yeni projeler çıktıkça sürekli bakın, merak ediyorsanız ve ne yapacağınızı bilemiyorsanız bilen birilerine sorun" diyerek katılımcıları motive etti.
Halüsinasyonlar ve algoritmik önyargı riski
Yapay zekanın kusursuz olmadığını belirten Demircan, sistemlerin bazen gerçek dışı veya yanlış bilgileri doğruymuş gibi sunabildiğini anlattı: "Yapay zeka halüsinasyonları diye bir kavram var. Yapay zeka bazen olmayan bir bilgiyi doğruymuş gibi düşünebiliyor. Bu yanlış eğitilmiş veri setinden gelmiş olabilir veya sizin o an kullandığınız geniş dil modelini geliştirme şeklinden de olabilir. Bu yüzden buradan çıkan her şeyi alıp direkt kullanmak hiçbir zaman doğru değil. Mesela bir yazılımcı olarak bir kod yazılıyorsa yapay zekayı kontrol edip anlamanız gerekli."
Demircan ayrıca algoritmik ön yargıya dikkat çekerek, bazı araştırmalarda yapay zekanın insan kaynakları başvurularında bazı ırklara karşı önyargılı davrandığının görüldüğünü belirtti ve sistemlerin farklı kaynaklardaki hatalı verilerle beslendiği uyarısında bulundu.
Etkinlik kapanışı
Sunumun ardından soru-cevap bölümü gerçekleştirildi; etkinlik misafirlere sunulan ikramlarla sona erdi.
KAAN DEMİRCAN
