Bazı kişiler için “black box” yani “kara kutu” denince akla; uçaklarda olan cihazlar veya ölüm sonrası analizler için yapılan cihazlar gelir. Bazıları, küçük tiyatro salonlarını düşünebilir. Ancak, “black box”, yani kara kutu, yapay zeka (AI) dünyası için de önemli bir terimdir.
Blackbox AI, kullanıcı tarafından görülemeyen dahili çalışmalara sahip yapay zeka sistemlerini ifade eder. Onlara girdi besleyip çıktı alabilirsiniz ama sistemin kodunu veya çıktıyı üreten mantığı inceleyemezsiniz.
Makine öğrenimi
Makine öğrenimi, yapay zekanın baskın alt kümesidir. ChatGPT ve DALL-E2 gibi üretken yapay zeka sistemlerinin temelini oluşturur. Makine öğreniminin üç bileşeni vardır:
- Bir algoritma veya bir dizi algoritma
- Eğitim verileri
- Model
Algoritma bir dizi prosedürden oluşur. Makine öğreniminde bir algoritma, geniş bir örnek kümesi (eğitim verileri) üzerinde eğitildikten sonra kalıpları tanımlamayı öğrenir. Bir makine öğrenme algoritması eğitildikten sonra sonuç bir makine öğrenme modeli olur. Model insanların kullandığı şeydir.
Örneğin, görüntülerdeki kalıpları tanımlamak için bir makine öğrenimi algoritması tasarlanabilir ve eğitim verileri köpek görüntüleri olabilir. Ortaya çıkan makine öğrenimi modeli bir köpek gözcü olacaktır. Ona girdi olarak bir görüntü beslersiniz ve görüntüde bir piksel kümesinin bir köpeği temsil edip etmediğini ve nerede temsil ettiğini çıktı olarak alırsınız.
Bir makine öğrenimi sisteminin üç bileşeninden herhangi biri gizlenebilir veya bir kara kutunun içinde olabilir. Çoğu zaman olduğu gibi, algoritma kamuoyu tarafından biliniyor ve bu da onu kara kutuya koymanın etkinliğini azaltıyor.
Bu nedenle, fikri mülkiyet haklarını korumak için yapay zeka geliştiricileri genellikle modeli kara kutuya koyar. Yazılım geliştiricilerin benimsediği diğer bir yaklaşım, modeli eğitmek için kullanılan verileri gizlemek, diğer bir deyişle eğitim verilerini bir kara kutuya koymaktır.
Blackbox AI neden önemlidir?
Çoğu durumda, blackbox makine öğrenimi algoritmaları ve modellerine karşı dikkatli olmak gerekir. Bir makine öğrenimi modelinin sağlığınız hakkında teşhis koyduğunu varsayalım…
Modelin kara kutu mu yoksa cam kutu mu olmasını istersiniz? Tedavi sürecinizi yazan hekime ne dersiniz? Belki modelin bu karara nasıl ulaştığını bilmek ister.
Bir bankadan işletme kredisine hak kazanıp kazanmadığınızı belirleyen bir makine öğrenimi modeli sizi reddederse ne olur? Nedenini bilmek istemez misin? Bunu yaparsanız, karara daha etkili bir şekilde itiraz edebilir veya bir dahaki sefere kredi alma şansınızı artırmak için durumunuzu değiştirebilirsiniz.
Blackbox AI’ın yazılım sistemi güvenliği açısından da önemli etkileri vardır. Yıllardır bilgisayar alanında çalışan pek çok kişi, yazılımı kara kutuda tutmanın bilgisayar korsanlarının yazılımı incelemesini engelleyeceğini ve dolayısıyla yazılımın güvenli olacağını düşünüyordu.
Bu varsayımın büyük ölçüde yanlış olduğu kanıtlanmıştır. Çünkü, bilgisayar korsanları yazılıma tersine mühendislik uygulayabilir (yani, bir yazılımın nasıl çalıştığını yakından gözlemleyerek bir faks oluşturabilir) ve yararlanılabilecek güvenlik açıklarını keşfedebilir.
Yazılım cam bir kutunun içindeyse, yazılım test uzmanları ve iyi niyetli bilgisayar korsanları bunu inceleyerek zayıf yönleri yaratıcılarına bildirebilir ve böylece siber saldırıları en aza indirebilir.
Blacbox AI ve insan-makine işbirliği ile güveni arttırmak
Yapay zeka odaklı perakende çözümlerinde şeffaflığı artırmak ve güven oluşturmak için insan-makine işbirliği arayüzleri kullanılabilir. Bu tür arayüzler, kullanıcıların yapay zeka sistemiyle gerçek zamanlı olarak etkileşime girmesine ve sürekli geri bildirim sağlamasına olanak tanıyarak karar verme sürecinin anlaşılmasına yardımcı olur.
Yapay zekanın kullanılması, sistemin veri girişlerini görüntüleyebilir ve perakendecilere önem puanları sunabilir, böylece sistem önerilerini daha iyi anlayabilirler.
Yapay Zekanın Rehberiniz Olmasına İzin Verin. Ancak, Bunun İçin Ona İyi Bir Harita Vermeniz Gerekir
Veriler, etkili bir şekilde kullanıldığında perakendecilere, popüler olmayan ürünleri ne zaman azaltmaları gerektiğini, hızlı satılan ürünleri raflarda nasıl tutabileceklerini ve mağaza genelinde emek yoğun görevleri kolaylaştırmaya yönelik stratejileri bilme gibi anlatılmamış faydalar sunar.
Yapay zeka destekli araçlar, verinin faydalarını açığa çıkarmamıza yardımcı olur, ancak bunun için yalnızca kullandığı veriyi ve onu nasıl kullandığını anlamamız gerekir. Bu kesin anlayış olmadan yapay zekaya balıklama atlamak yalnızca hayal kırıklığına yol açacaktır.
Bunun yerine, veriler üzerindeki kontrolü, iş bilgilerinden yararlanmanıza gerçekten yardımcı olan gelişmiş algoritmalarla birleştiren ve kara kutuya ışık tutan araçları uygulamaya bakın.
Sonuç olarak, yapay zeka sistemleri perakendecilere operasyonlarını iyileştirmeleri için heyecan verici fırsatlar sunsa da bunlara temkinli yaklaşmak önemlidir. Yapay zekanın karar alma sürecinin şeffaf olmadığı Blackbox AI sorunu, hatalar oluştuğunda güvenin telafisi mümkün olmayan hasarlara uğramasına neden olabiliyor.
