Sağlık sistemlerinin, iletişim erişimini optimize edilecek sıradan bir işletme gideriymiş gibi ele alarak deneysel işaret dili yapay zekasıyla flört etmesinde derinden rahatsız edici bir şey var.
Hastaneler, olgunlaşmamış erişilebilirlik teknolojisi için deneme alanları değildir. Yanlış çevrilmiş bir market siparişi can sıkıcıdır. Ancak yanlış çevrilmiş bir cerrahi komplikasyon açıklaması, ilaç dozajı, psikiyatrik değerlendirme ya da acil durum onayı, bir insanın hayatının seyrini değiştirebilir.
Bu ayrım önemlidir; çünkü işaret dili yapay zekası hakkındaki kamuoyu tartışmasının büyük kısmı hâlâ demoların, konferans sahnelerinin, yatırımcı sunumlarının ve dikkatle kontrol edilmiş sosyal medya kliplerinin güvenli dünyasında yürüyor. Sistemler neredeyse her zaman ideal koşullar altında gösteriliyor: düzgün bir tempo, basit ifadeler, tahmin edilebilir kelime dağarcığı, asgari düzeyde duygusal karmaşıklık ve teknolojinin kusursuz görünmesi için tasarlanmış ortamlar. Gerçek sağlık iletişimi böyle işlemez.
Tıbbi ortamlar kaotiktir. Hastalar ağlar. Doktorlar birbirinin sözünü keser. Hemşireler aynı anda birden çok işi yaparken hızlı konuşur. Aileler aynı anda sorular sorar. Terminoloji uzmanlık alanına, aciliyete ve bağlama göre hızla değişir. Karın ağrısını anlatan bir hasta aniden travma geçmişini, ilaç karışıklığını, aile içi şiddeti, intihar düşüncesini ya da nasıl tarif edeceğini tam olarak bilmediği belirtileri açığa vurabilir. İnsan tercümanlar bile zorlu ortamlarda güçlük çeker, çünkü sağlık iletişimi doğası gereği zordur. Bir avatarın ekranda işaretler üretebilmesiyle bu karmaşıklığın ortadan kalktığını varsaymak yenilikçilik değildir. Bu bir hayaldir.
En endişe verici kısım, teknolojinin varlığının kendisi değildir aslında. Yapay zeka, insanlar ister beğensin ister beğenmesin, erişilebilirlik alanlarında evrilmeye devam edecektir. Asıl endişe, yönetişim yapıları, doğrulama standartları, hesap verebilirlik mekanizmaları ve klinik güvenceler güvene layık olacak kadar olgunlaşmadan önce, bazı kuruluşların uygulamayı normalleştirmeye ne kadar agresif biçimde çalıştığıdır.
Sağır profesyonellerin kendilerinin, hâlâ çözülmemiş riskler taşıyan sistemleri tanıtmaya katılması, bu endişeyi daha da rahatsız edici hale getiriyor. Sağır katılımı tek başına bir ürünü otomatik olarak etik bir ürüne dönüştürmez. Temsiliyet, hesap verebilirliğin yerini tutamaz; tıpkı pazarlamanın güvenlik testinin yerini tutamayacağı gibi. Sağır bir kurucu, danışman, geliştirici ya da uzman, yine de bir ürünün, başarısızlığının sonuçlarının doğrudan Sağır hastaların üzerine düştüğü ortamlara taşınmasına yardımcı olabilir.
Satın alma kararlarını verenler ise genellikle satın aldıkları şeyin kalitesini bağımsız olarak değerlendiremiyor.
Kimsenin dürüstçe konuşmak istemediği yönetişim boşluğu işte budur.
Temsiliyet, hesap verebilirliğin yerini tutamaz; tıpkı pazarlamanın güvenlik testinin yerini tutamayacağı gibi.
Hastane yöneticilerinin, satın alma yetkililerinin, uyum görevlilerinin ve teknoloji yöneticilerinin çoğu işiten kişilerdir. Birçoğunun ASL konusunda hiçbir yetkinliği yoktur. Dilbilgisel bozulmayı, anlamsal kaymayı, eksik bağlamsal bilgiyi, doğal olmayan yüz dilbilgisini, tempo hatalarını, sınıflandırıcı yanlışlıklarını ya da yorumlama kalitesini tamamen değiştiren ince anlam değişikliklerini fark edemeyebilirler. Cilalı bir avatar, onu eleştirel biçimde değerlendirecek dilsel bir çerçeveye sahip olmayan biri için ikna edici görünebilir.
Bu durum, görsel cilanın iletişim güvenilirliğiyle karıştırılabileceği tehlikeli bir durum yaratıyor.
Ancak sağlık hukuku hislere göre işlemez. ADA, Bölüm 504 ve Bölüm 1557 yükümlülükleri kapsamında, sağlık hizmeti sağlayıcıları etkili iletişim erişimini sağlamaktan sorumlu olmaya devam eder. Bir yapay zeka satıcısının varlığı, bu sorumluluğu kurumdan alıp götürmez. Bir yorumlama sistemi, anlamlı bir tıbbi iletişim sırasında başarısız olursa, satın alma sürecindeki gösterimlerde teknoloji ne kadar etkileyici görünmüş olursa olsun, hasta yine de bu başarısızlığın sonuçlarını yaşar.
Ve sağlık iletişimindeki başarısızlıklar nadiren küçük olur.
Alerjileri, ilaç talimatlarını, psikiyatrik belirtileri, taburculuk kısıtlamalarını, tedaviyi reddetmeyi ya da onay prosedürlerini içeren bir yanlış anlama, basit bir rahatsızlığın çok ötesinde bir sorumluluk riski yaratabilir. Daha da önemlisi, hastanın özerkliğinin kendisini tehlikeye atabilir. Sağır hastalar, kurumlar otomasyonun modern göründüğüne inandığı için, büyük ölçekli erişilebilirlik deneylerinin gönülsüz katılımcıları haline gelmemelidir.
İşaret dili yapay zekası sistemleri sağlık ortamlarına daha derinden yerleşmeden önce, temel beklentiler son derece yüksek olmalıdır.
- Bağımsız dilbilimsel doğrulama mevcut olmalıdır.
- Anadili işaret dili olan kişiler titiz testlere katılmalıdır.
- Başarısızlık koşulları kamuya açık biçimde belgelenmelidir.
- İnsan müdahalesine yükseltme yolları her an derhal kullanılabilir olmalıdır.
- Hastalar, otomatik sistemler yerine nitelikli tercümanları tercih etme hakkını korumalıdır.
- Sağırkör bireylerin erişilebilirlik ihtiyaçları, sonradan akla gelen bir mesele olarak değil, ayrı olarak değerlendirilmelidir.
- Klinik risk sınıflandırmaları, olaylar meydana geldikten sonra değil, uygulamadan önce mevcut olmalıdır.
Şu anda, sektörün büyük kısmı hâlâ işaret dili yapay zekasının hiç olmazsa çalışabildiğini kanıtlamaya odaklanmış görünüyor; oysa çok daha önemli olan soru, iletişim hatalarının hayatı değiştiren sonuçlar taşıdığı ortamlarda bu teknolojinin güvenle çalışıp çalışamayacağıdır ve bu soru es geçiliyor.
Bu küçük bir gözden kaçırma değildir.
Bu, tartışmanın tamamıdır.
Sağır topluluğu, bir teknoloji sadece fütüristik göründüğü için ya da Sağır profesyoneller onunla ilişkilendirildiği için o teknolojiyi alkışlamaya zorlanmamalıdır. Erişilebilirlik teknolojisi, insan sağlığını, medeni hakları, kurumsal sorumluluğu ve kamu güvenini etkileyen diğer her sistem kadar sıkı bir incelemeyi hak eder.