BAE Merkez Bankası, yapay zekanın ve makine öğreniminin ülke finans sektöründe sorumlu bir şekilde benimsenmesi ve kullanılması konusunda kapsamlı bir rehberlik notu yayınlayarak, dijital finansta yeniliği mümkün kılarken tüketicileri korumak için önemli bir düzenleyici adımı işaret etti.
Çerçeve, tüm lisanslı finansal kurumlar için geçerlidir ve yapay zekanın bankacılık, sigortacılık ve finansal hizmetler genelinde hızla uygulanmasının tüketici haklarından, şeffaflıktan veya finansal istikrardan ödün vermemesini sağlamayı amaçlamaktadır. Düzenleyici, hareketin dijital dönüşüme yönelik proaktif denetim yaklaşımını yansıttığını ve BAE’nin kendisini yapay zeka odaklı finansal hizmetler için küresel bir merkez olarak konumlandırma konusundaki daha geniş hırsıyla uyumlu olduğunu söyledi.
Merkez Bankası, kılavuzun yapay zeka ve makine öğrenimi teknolojilerinin güvenli ve sorumlu bir şekilde konuşlandırılması için net bir yapı oluşturduğunu ve finansal kurumların yönetişim, hesap verebilirlik ve etik standartları otomatik karar alma sistemlerine yerleştirmesini gerektirdiğini söyledi. Ayrıca, kredi puanlama ve sahtekarlık tespitinden müşteri hizmetleri sohbet robotlarına ve kişiselleştirilmiş finansal ürünlere kadar yapay zeka odaklı finansal hizmetlerin artan kullanımına halkın güvenini güçlendirmeyi amaçlamaktadır.
BAE Merkez Bankası Başkanı Khaled Mohamed Balama, rehberliğin yeniliği sağlam tüketici korumalarıyla dengelemeyi amaçladığını söyledi. “Rehberlik notu, tüketicinin korunmasını artıracak, yönetişim ve şeffaflık ilkelerini güçlendirecek ve insan gözetimi ve veri koruma gereksinimlerinin önemini vurgulayacak şekilde finans sektöründe yapay zeka ve makine öğreniminin sorumlu kullanımı için net bir çerçeve oluşturuyor” dedi.
Analistler, BAE’nin hamlesinin, dünya çapındaki düzenleyicilerin veri gizliliği, önyargı ve otomatik karar alma ile bağlantılı riskleri ele almak için finansmanda yapay zekanın benimsenmesinin gözetimini artırmasıyla geldiğini söyledi.
Yakın tarihli bir PwC Orta Doğu analizine göre, bölgedeki finansal kurumlar yapay zekayı temel operasyonlara hızla entegre ediyor, ancak sorumlu konuşlandırmayı sağlamak için düzenleyici açıklık şart.PwC, bölgesel fintech görünümünde düzenleyicilerin giderek daha fazla açıklanabilirlik, adalet ve tüketicinin korunmasına odaklandığını belirterek, ”Bankalar deneyden tam ölçekli yapay zeka entegrasyonuna geçerken güçlü yönetişim ve net hesap verebilirlik yapıları kritik hale geliyor” dedi.
Merkez Bankası’nın yeni rehberliğinde finansal kurumlar, operasyonlarının ölçeği ve karmaşıklığı ile uyumlu yapay zeka ve makine öğrenimi için belgelenmiş yönetişim çerçeveleri oluşturmalıdır. Yönetim kurulları ve üst yönetim, model seçimi, devreye alma, izleme ve risk yönetimi dahil olmak üzere yapay zeka ile ilgili sistemlerden ve sonuçlardan doğrudan sorumlu olacaktır.
Kurumlar, tüm yapay zeka modellerinin ayrıntılı envanterlerini tutmalı ve performans, riskler ve uyumluluk konusunda üst düzey liderliğe düzenli raporlama sağlamalıdır.Düzenleyici, kurumların yapay zeka güdümlü kararların, özellikle borç verme, sigorta poliçesi veya fiyatlandırma gibi yüksek etkili alanlarda müşterilere önyargılı veya haksız muameleye yol açmamasını sağlamasını zorunlu kılarak adalet ve ayrımcılık yapılmamasını da vurguladı. İstenmeyen önyargıları belirlemek ve düzeltmek için modeller düzenli olarak test edilmeli ve eğitim verileri doğru, temsili ve hizmet verilen müşteri segmentleriyle alakalı olmalıdır.
Şeffaflık ve açıklanabilirlik, çerçevenin bir başka temel taşını oluşturur. Finansal kurumlar, müşterilerin yapay zeka sistemleriyle ne zaman etkileşime girdiklerini açıkça açıklamalı ve özellikle bu kararlar finansal ürünlere veya hizmetlere erişimi önemli ölçüde etkilediğinde, otomatik kararların nasıl alındığına dair anlaşılır açıklamalar sağlamalıdır.
Müşterilere ayrıca belirli durumlarda insan incelemesi talep etme, açıklama arama veya yapay zeka güdümlü kararlardan vazgeçme yeteneği verilmelidir.Deloitte’un küresel bankacılık teknolojisi görünümü, önde gelen finans merkezlerindeki düzenleyicilerin, müşteri güvenini sağlamak için “sorumlu yapay zeka” ilkelerine giderek daha fazla önem verdiklerini belirtti.
Deloitte, ”Yapay zeka kredi, ödemeler ve müşteri katılımına entegre hale geldikçe, kurumlar otomatik kararların şeffaf, adil ve insan gözetimine tabi olduğunu göstermelidir.” diyerek, sağlam model yönetişim ve veri koruma çerçevelerinin dijital finansmana olan güvenin korunmasında merkezi olacağını da sözlerine ekledi.
Merkez Bankası’nın rehberliğinde veri kalitesi, gizlilik ve siber güvenliğin önemi de vurgulanıyor. Finansal kurumlar, yapay zeka sistemlerinde kullanılan verilerin BAE’nin kişisel veri koruma yasalarına uygun olduğundan ve yalnızca meşru amaçlar için toplanıp işlendiğinden emin olmalıdır.
Tasarıma göre gizlilik ve tasarıma göre güvenlik ilkeleri, hassas bilgilere yetkisiz erişimi veya yanlış kullanımı önlemek için güçlü güvencelerle yapay zeka sistemlerine entegre edilmelidir. İnsan gözetimi çerçevenin merkezinde yer almaya devam ediyor.
Merkez Bankası, yapay zeka sistemlerinin, özellikle önemli tüketici etkisi olan kararlar için anlamlı insan gözetimi altında çalışması gerektiğini zorunlu kılmıştır.
Müşteriler, insan müdahalesi veya otomatik sonuçların gözden geçirilmesini talep edebilmeli ve finansal kurumlar erişilebilir şikayet ve tazminat mekanizmalarını sürdürmelidir.
Düzenleyici ayrıca, uygun olmayan finansal ürünlere sahip müşterileri baskı satmak veya hedeflemek için yapay Zeka kullanmamaları konusunda da uyardı.Kılavuz, kurumların dış AI sağlayıcıları üzerinde kapsamlı bir durum tespiti yapmasını ve veri koruma, denetim hakları ve mevzuata uyumu kapsayan sözleşmeye dayalı güvenceler sağlamasını gerektiren dış kaynak kullanımı ve üçüncü taraf risk yönetimine kadar uzanmaktadır.
Kurumlar, dış kaynaklı yapay zeka işlevlerinden tamamen sorumludur ve riskler veya arızalar ortaya çıkarsa yapay zeka sistemlerinin kullanımını derhal askıya alabilmelidir.Fintech endüstri analistleri, yeni çerçeveyle Merkez Bankasının, yapay zekanın benimsenmesinin BAE’nin finansal sisteminde sürdürülebilir büyümeyi ve istikrarı desteklemesini sağlarken finansal inovasyona olan güveni güçlendirmeyi hedeflediğini gözlemliyor.
Hareketin, ülkenin ileriye dönük ancak ihtiyatlı bir şekilde düzenlenmiş bir finans merkezi olarak konumunu güçlendirdiğini ve teknolojik ilerlemenin tüketicileri korumak ve pazar bütünlüğünü korumak için açık güvencelerle eşleştirildiğini söylüyorlar.
