Dünyada şirketler yapay zekaya giderek daha fazla kaynak ayırıyor, ancak teknolojik yarış daha çok insani bir sorunu ortaya çıkarıyor: çalışanlar kararlarını anlayamadıkları sistemlere güvenmiyor. SAS’ın IDC analizine dayanan yeni uluslararası raporu, güvenin, veri kalitesinin ve yapay zekanın kendi eylemlerini açıklama yeteneğinin yatırımların gerçek kâr getirip getirmeyeceğini ya da pahalı bir deneme olarak kalacağını giderek daha fazla belirlediğini gösteriyor. Araştırma 28 ülkede bankacılık, sigortacılık, biyobilimler ve kamu yönetimi olmak üzere dört büyük sektörde 2699 yönetici ve uzmanı kapsıyor.
Temel sonuç çarpıcı: en ciddi güvenilir yapay zeka uygulamalarını oluşturan kuruluşlar, yatırımlarından yüksek ya da çok yüksek getiri bildirme olasılığının 15 kat daha fazla olduğunu gösteriyor; bu oran 62% iken geride kalan şirketlerde sadece 4%. Bu, getirinin 15 kat daha yüksek olduğu anlamına gelmiyor. Veriler, teknolojinin şeffaf, denetlenebilir ve kaliteli verilere dayandığı durumlarda bir kuruluşun güçlü finansal sonuç elde etme şansının çok daha yüksek olduğunu gösteriyor.
Çalışanlar açıklamayan sistemi iptal ediyor
Sosyal sorun teknolojik sorun kadar önemli. Araştırmaya göre tüketicilerin 97,2%’si yapay zekanın ürettiği önerileri en azından bazen değiştiriyor ya da iptal ediyor. En sık neden yanlış sonuç değil. Sistem nasıl ulaştığını açıklayamadığında çalışanlar, sonuç doğru olsa bile kararı kabul etmeyi reddediyor.
Bu bir paradoks yaratıyor. Şirket yapay zekaya süreçleri otomatikleştirmek, zaman tasarrufu sağlamak ve üretkenliği artırmak için yatırım yapıyor, ardından çalışanlar sonuçları manuel olarak kontrol ediyor ya da yeniden işliyor. Böylece beklenen tasarrufun bir kısmı kayboluyor. SAS’ta baş teknoloji sorumlusu Brian Harris, “Yapay zeka işlediğinde etki inanılmaz” diyor. Ancak karmaşık görevlerde güncel yapay zeka ajanlarının vakaların %25’inden fazlasında hata yapabildiğini, bunun önemli iş ya da toplumsal kararlar söz konusu olduğunda kabul edilemez olduğunu vurguluyor. Ona göre şirketler süreçlere insan uzmanlığını dahil etmeli ve sistemler üzerinde gerçek kontrolü korumalı.
Özerklik arttıkça güven düşüyor
Rapor bir diğer ilginç eğilimi de gösteriyor. Üretken yapay zekaya duyulan güven yaklaşık %76 iken, özerk yapay zeka ajanlarında bu oran %66’ya geriliyor. Nedeni basit: makine ne kadar çok kararını tek başına almaya başlarsa, hata yapması halinde sorumluluğun kime ait olacağı sorusu o kadar büyüyor. IDC’de başkan yardımcısı Chris Marshall, “Yapay zekanın özerkliği arttıkça şirketler, insanlara tam olarak anlatamadıkları sistemlere güveni nasıl koruyacakları konusunda yeni bir zorlukla karşı karşıya” diyor. Ona göre şeffaflık, hesap verebilirlik ve iyi yönetim artık teknolojik ürüne ekstradan sunulan özellikler değil, ürünün etkili şekilde kullanılmasının koşulu.
Kazananlar en modern yapay zekayı değil, iyi yöneteni kullanıyor
Raptaki en ilginç ekonomik çıkarımlardan biri, en başarılı şirketlerin her zaman farklı ya da daha pahalı teknoloji kullanmadığı. Fark yönetim biçiminde. En gelişmiş güvenilir yapay zeka uygulamalarına sahip kuruluşlar, gelir artışı, maliyet azaltma ve müşteri deneyimi iyileştirme dahil 13 farklı iş göstergesinde ortalama 1,85 kat daha iyi sonuç elde ediyor. Liderler yatırımlarını yavaşlatmak yerine artırıyor. %85’i bu yıl güvenilirlik, kontrol ve yapay zeka yönetimi için kaynaklarını %10’dan fazla artırmayı planlıyor. Böylece yeni bir rekabet ayrımı oluşuyor: bazı şirketler daha fazla yapay zeka satın alırken, diğerleri bu yapay zekayı kullanılabilir kılan sistemlere yatırım yapıyor.
Büyük sorun verilerde
Teknolojik parlaklık çoğu zaman çok daha prozaik bir sorunu gizliyor: eski ve kötü organize edilmiş kurumsal veriler. Araştırmaya katılan kuruluşların sadece %17,5’i özerk yapay zeka ajanlarıyla çalışmaya yetecek kadar olgun, tamamen optimize edilmiş bir veri altyapısına sahip. İyi bir veri temeline sahip şirketler, projelerinden yüksek getiri bekleme olasılığının dört kat daha fazla olduğunu ve kalite, izlenebilirlik ve açıklanabilirlik standartlarını altı kat daha sık uyguladığını görüyor. Bu da yapay zekaya yapılan devasa yatırımların her zaman beklenen sonucu vermemesinin nedenlerinden biri. Eksik, çelişkili ya da güncel olmayan verilerle eğitilen ya da bağlanan modern bir model, kuruluşun zaten sahip olduğu sorunları daha hızlı üretmekten başka bir şey yapmıyor.
Bankalar güveni rekabet avantajı olarak görüyor
Farklar özellikle finans sektöründe belirgin. Yanlış bir yapay zeka kararı kredi, yatırım, sigorta ya da dolandırıcılık kontrolünü etkileyebilir. %85’i önde gelen bankaların yapay zeka yönetimi için çerçeveler oluşturduğu belirtiliyor. Geride kalan kuruluşlarda bu oran sadece %29. Kamu sektöründe liderlerin %41’i önümüzdeki yıl güvenilir yapay zekaya yatırımlarını %20’den fazla artırmayı planlıyor. Geniş ölçekli yaygınlaştırmada en ileride olanlar ise biyobilimler: kuruluşların %23’ü yapay zekayı şirket çapında ölçekli kullanıyor.
Teknoloji yarışından güven ekonomisine
SAS ve IDC raporu yeni durumu “güven ekonomisi” olarak adlandırıyor. Terim yapay zekanın gelişimindeki bir sonraki aşamayı iyi tanımlıyor. Eskiden asıl soru modelin ne kadar güçlü olduğu iken, şimdi işletmenin hangi veriler üzerinde çalıştığını bildiği, kararlarını açıklayabildiği, hata halinde kimin sorumlu olduğu ve insanların önerilerini kabul etmeye hazır olup olmadığı sorusu öne çıkıyor. Araştırmaya göre güvenilir yapay zeka güvenli, adil, düzenlemelere uygun, denetime tabi olmalı ve kararlarına nasıl ulaştığını açıkça göstermeli. İnsanın sonucu kontrol etme ve itiraz etme olanağını koruması gerekiyor. Böylece güven soyut bir etik konudan ölçülebilir bir ekonomik varlığa dönüşüyor. Şirketler için artık yapay zeka kullandığını söylemek yeterli değil. Asıl avantaj, çalışanların, müşterilerin ve düzenleyicilerin ona güvenmeye hazır olup olmamasında ortaya çıkıyor.
