Yönetici Özeti
İster tanıma, ister çeviri, ister avatar tabanlı üretim için geliştirilmiş olsun, işaret dili yapay zekâsı yapısal olarak Sağır ve işitme güçlüğü çeken kullanıcıların video veya biyometrik kaydına bağımlıdır. Bu bağımlılık, bu dizinin önceki sayılarında belgelenen dilbilimsel ve anlama hatalarına kıyasla kurumsal denetimden çok daha az geçmiş bir veri yönetişimi sorunu yaratmaktadır. NCG'nin SLAT (Sign Language Access Trust) çerçevesi kapsamında incelediği satıcı ortamında, nelerin toplandığına, ne kadar süreyle saklandığına, gelecekteki modelleri eğitmek için kullanılıp kullanılmadığına ve üçüncü taraflarla paylaşılıp paylaşılmadığına dair açıklamalar olsa olsa tutarsız, çoğu zaman da mevcut değildir. Bu, herhangi bir belirli satıcının kötü niyetle hareket ettiğine dair bir iddia değildir. Kamuya açık kanıtlar henüz adı geçen herhangi bir şirkete niyet atfetmeyi desteklememekte olup, bu sayı böyle bir atıfta bulunmamaktadır. Bu, piyasanın söz konusu verinin hassasiyetine yeterli bir açıklama standardı henüz geliştirmediğine ve bu açığın, herhangi bir satıcının davranışından bağımsız bir yönetişim başarısızlığı olduğuna dair bir iddiadır. Aşağıdaki politika konumu, rıza ve açıklama yeterliliğinin, işlevsel değerlendirmeden sonra ele alınan ikincil bir husus değil, tedarik sürecinde eleyici bir kriter olarak ele alınması gerektiğini savunmaktadır.
Politika Sorunu
İşaret dili kaydı biyometrik kayıttır. Bir işaretleyicinin ellerinin, yüz dilbilgisinin ve vücut konumunun videosu, metin tabanlı bir sisteme gönderilen yazılı bir cümleye kıyaslanabilecek tesadüfi bir girdi değildir. Benzersiz şekilde kimlik belirleyicidir, tanımı gereği engellilik durumuna ilişkin bilgiyi kodlar ve birçok yargı alanında artırılmış korumaya tabi biyometrik veya özel kategori veri yasal tanımını karşılar. Örneğin, Illinois'in Biyometrik Bilgi Gizliliği Yasası (BIPA), biyometrik tanımlayıcıların toplanmasından önce yazılı bildirim ve rıza gerektirir ve fiili zarar kanıtından bağımsız olarak sorumluluk yükler. Avrupa Birliği'nin GDPR'si (Genel Veri Koruma Yönetmeliği), engellilikle ilişkili bilgiyi ortaya çıkaran verileri ve kimlik tespiti için kullanılan belirli biyometrik verileri, Madde 9 kapsamında özel kategori veri olarak sınıflandırır ve bu da olağan rızanın ötesinde açık bir hukuki dayanak gerektirir. Kaliforniya'nın CCPA'sı (Kaliforniya Tüketici Gizliliği Yasası) ve CPRA'sı (Kaliforniya Gizlilik Hakları Yasası), biyometrik bilgiler için kendi açıklama ve vazgeçme yükümlülüklerini dayatmaktadır.
Bu düzenleyici ortama rağmen, tüketiciye yönelik işaret dili yapay zekâ ürünleri sıklıkla Sağır kullanıcılar veya biyometrik kayıt göz önünde bulundurularak hazırlanmamış genel amaçlı hizmet şartlarına dayanmaktadır. NCG'nin gerçekleştirdiği satıcı anlık görüntülerinde tekrar eden üç eksiklik görülmektedir: birincisi, video girdisinin belirli yasal korumalara tabi biyometrik veri teşkil ettiğine dair ayrı veya göze çarpan bir açıklamanın bulunmaması; ikincisi, yakalanan video veya türetilmiş özelliklerin model eğitimi için saklanıp saklanmadığına, saklanıyorsa ne kadar süreyle ve hangi silme haklarıyla saklandığına dair açık bir ifadenin bulunmaması; üçüncüsü, erişilebilir formatta açıklama bulunmaması, yani rıza dilinin kendisinin çoğu zaman ASL'ye çevrilmemiş olması veya verileri toplanan nüfusun kullanabileceği bir formatta sunulmamasıdır. Bu sonuncusu teknik bir ayrıntı değildir. Kendi biyometrik verileriyle neler yapıldığını anlamak için yazılı bir ikinci dilde okuryazarlık gerektiren bir açıklama rejimi, İngilizce okuryazarlığının büyük ölçüde değiştiği ve ASL'nin anlama için birincil dil olduğu bir nüfus için bilgilendirilmiş rıza işlevi görmemektedir.
İşaret dili kaydı biyometrik kayıttır.
Kurumsal Analiz
Bu açığı doğuran kurumsal dinamikler komplo niteliğinde değil, yapısal niteliktedir. İşaret dili yapay zekâsı genç bir ürün kategorisidir ve çoğu satıcı, yazılım endüstrisinde kullanılan aynı genel gizlilik politikası şablonları altında faaliyet gösteren küçük şirketlerdir; bu şablonlar varsa bile asgari düzeyde uyarlanmıştır. Bu arada, kurumsal düzeydeki tedarik süreçleri bu ürünleri tarihsel olarak işlevsel kriterlere göre değerlendirmiştir: avatar anlaşılır şekilde görüntüleniyor mu, tanıma sistemi kabul edilebilir doğruluğa ulaşıyor mu, satıcının geliştirme sürecine dahil edilmiş Sağır çalışanları var mı. Veri yönetişimi, eğer hiç ele alınıyorsa, esas tedarik kararından sonra ele alınan bir hukuk veya BT uyum sorunu olarak değerlendirilmiştir. Bu sıralama asıl yönetişim başarısızlığıdır. Bir veri yönetişimi eksikliği ortaya çıktığında -ister bir ihlal, ister düzenleyici bir soruşturma, ister verileri söz konusu olan Sağır topluluğundan gelen kamuoyu eleştirisi yoluyla olsun- kurumsal ilişki ve mali taahhüt zaten kurulmuş olur ve düzeltme talep etme gücü buna orantılı olarak zayıflamış olur.
Rıza sorununun yanında duran ancak ondan analitik olarak ayrı olan bir eğitim verisi kökeni sorunu da mevcuttur. Birçok işaret dili yapay zekâ sistemi, kısmen sosyal platformlarda kamuya açık olarak paylaşılan içeriklerden -Sağır ASL kullanıcıları ve eğitimciler tarafından oluşturulan içerikler dahil- alınan video derlemleri üzerine inşa edilmiştir. Bu kullanımın platformun kendi hizmet şartları kapsamına girip girmediği, telif hakkı yasası kapsamında adil kullanım teşkil edip etmediği ve o görüntülerde işaret dili kullanan bireylerin içeriklerinin ticari bir yapay zekâ sistemini eğitmek için kullanılacağı konusunda anlamlı biçimde bilgilendirilip bilgilendirilmediği, NCG'nin herhangi bir belirli satıcı için bağımsız olarak doğrulamadığı ve burada kesin bir gerçek olarak ileri sürmediği açık sorulardır. Yönetişim amaçları bakımından önemli olan nokta, bu sistemleri değerlendiren tedarik görevlilerinin eğitim verisi kökenine neredeyse hiçbir görünürlüğünün olmaması ve endüstrideki mevcut açıklama normlarının satıcıları bunu sağlamakla yükümlü kılmamasıdır.
Yönetişim Sonuçları
İşaret dili yapay zekâsı satın alan bir kurum, yalnızca bir çeviri aracının alıcısı değildir. Sistemin öğrencilerin, hastaların, çalışanların veya kamu üyelerinin canlı videosu üzerinde çalıştığı durumlarda, kurum aynı zamanda çoğu geçerli gizlilik çerçevesi kapsamında bir veri denetleyicisi veya işleyicisidir ve bu maruziyet satın alma sırasında açıklanmış olsun olmasın, satıcısının veri uygulamalarından yönetişim maruziyetini devralır. Dağıtımdan önce bir satıcının veri toplama, saklama ve eğitimde kullanım uygulamalarını doğrulamamış bir kurum, kendi paydaşlarına, düzenleyicilerine veya verileri toplanan Sağır bireylere kendi veri koruma yükümlülüklerini yerine getirdiğini beyan edemez. Bu, satıcının fiili davranışından bağımsız olarak doğrudur, çünkü doğrulanmış açıklamanın yokluğu, herhangi bir satıcının verileri sorumlu bir şekilde ele alıp almadığından bağımsız olarak, yönetişim kusurunun kendisidir.
NCG Politika Pozisyonu
NCG'nin pozisyonu, veri yönetişimi ve gizlilik açıklaması yeterliliğinin işaret dili yapay zekâsı tedarikinde işlevsel performanstan sonra değil, önce değerlendirilen eleyici bir kriter olarak işlev görmesi gerektiğidir. Bir satıcının hangi biyometrik verinin toplandığına, ne kadar süreyle saklandığına, model eğitiminde kullanılıp kullanılmadığına ve nasıl kullanıldığına ve hangi silme haklarının mevcut olduğuna dair açık, ASL erişilebilir, yargı alanına uygun bir açıklama üretememesi, değerlendirmenin diğer yerlerindeki dilsel veya teknik performanstan bağımsız olarak kurumsal dağıtım için diskalifiye edici kabul edilmelidir. Bu pozisyon zaten SLAT çerçevesinin Veri Yönetişimi ve Gizlilik ile Şeffaflık ve Açıklama alanlarında işlevselleştirilmiştir ve bu sayı, kurumların karşı karşıya olduğu yasal maruziyet ve erişilebilir olmayan rıza dilinin etkilenen nüfus için yarattığı anlama engeli göz önüne alındığında, bu alanların çerçevenin mevcut kalibrasyonuna göre artırılmış ağırlık hak ettiğini savunmaktadır.
Uygulama Hususları
İşaret dili yapay zekâsını değerlendiren tedarik görevlileri, satıcı yanıtının bir koşulu olarak yukarıdaki dört unsuru kapsayan yazılı bir veri yönetişimi açıklaması talep etmeli, bu açıklamanın yazılı İngilizce'ye ek olarak ASL video formatında da mevcut olmasını istemeli ve satıcının bu açıklamayı üretmeyi reddetmesini veya üretememesini, sistemin işlevsel performansından bağımsız olarak olumsuz bir bulgu olarak değerlendirmelidir. Mevcut dağıtımlara sahip kurumlar, yönetişim maruziyetinin keşif tarihinden ziyade dağıtım tarihinden itibaren biriktiği göz önüne alındığında, sözleşme yenilemesini beklemek yerine geriye dönük bir inceleme yapmalıdır. Bir satıcının eğitim verisi kökeninin doğrulanamadığı durumlarda, kurumlar yanıt eksikliğini nötr bir bilinmeyen olarak değerlendirmek yerine, yasal veri kaynağına ilişkin sözleşmesel garantiler talep etmelidir.
Kaynakça
- Biyometrik Bilgi Gizliliği Yasası, 740 ILCS 14 (Illinois).
- 2018 Kaliforniya Tüketici Gizliliği Yasası, Kaliforniya Gizlilik Hakları Yasası ile değiştirilmiş hali, Cal. Civ. Code § 1798.100 vd.
- Tüzük (AB) 2016/679 (Genel Veri Koruma Yönetmeliği), Madde 9.
- Federal Ticaret Komisyonu Yasası, 15 U.S.C. § 45 (haksız veya aldatıcı eylemler veya uygulamalar).
- Novara Consulting Group, Sign Language Access Trust (SLAT) Framework, 2026.