Sağlık alanında yapay zekâ teknolojilerinin kullanımı giderek yaygınlaşırken, uzmanlar bu sistemlerin ürettiği sonuçların sadece doğruluk oranlarıyla değerlendirilmemesi gerektiğini vurguluyor.
Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümünden Dr. Öğr. Üyesi Damla Övek Baydar, yapay zekânın doğru tahminlerde bulunsa bile bu sonuçların klinik açıdan anlamlı olmayan verilere dayanarak elde edilebileceğini belirtti.
Baydar, yapay zekâ modellerinin karar alma süreçlerinin anlaşılır ve denetlenebilir olmasının hasta güvenliği açısından kritik bir öneme sahip olduğunu ifade etti.
“DOĞRU TAHMİN İLE GÜVENİLİR TAHMİN AYNI ANLAMDA DEĞİLDİR”
Yapay zekânın tıbbi görüntüleme, hastalık risklerinin belirlenmesi, genomik analizler ve klinik karar destek sistemleri gibi pek çok alanda uygulandığını belirten Baydar, bu teknolojilerin sağlık profesyonellerine önemli katkılar sağladığını söyledi.
Ancak sistemlerin başarısının genellikle tahmin doğruluğu üzerinden değerlendirildiğine dikkat çeken Baydar, şu şekilde ifade etti:
“Bu ilerlemeler çoğunlukla modellerin ne kadar yüksek doğruluk oranı ile tahminde bulunduğu üzerinden gözlemleniyor. Ancak sağlık gibi insan hayatını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını kavramak da önemlidir. Çünkü doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir.”
YAPAY ZEKÂNIN “KARA KUTU” SORUNUNA DİKKAT ÇEKTİ
Derin öğrenme modellerinin karmaşık veri ilişkilerini çözümleyebildiğini fakat kararlarını hangi bilgilere dayanarak oluşturduklarının her zaman net olmadığını belirten Baydar, bunun “kara kutu” sorunu olarak adlandırıldığını ifade etti.
Özellikle genetik araştırmalar, ilaç geliştirme ve hastalık incelemelerinde kullanılan modellerin karar süreçlerinin açıklanabilir olması gerektiğinin altını çizen Baydar, şunları ekledi:
“Bir model yüksek doğrulukla tahminde bulunabilir. Ancak bu tahmini biyolojik ya da klinik olarak anlamlı bir işarete mi dayandırıyor yoksa verideki rastgele veya yanıltıcı bir örüntüye mi? Eğer bunu bilmiyorsak sonuca güvenmek güçleşir.”
Baydar, bir yapay zekâ sisteminin tıbbi görüntüde risk tespit etmesinin tek başına yeterli olmadığını; görüntünün hangi bölgesine odaklandığının ve hangi hasta verilerini dikkate aldığının da bilinmesi gerektiğini vurguladı.
“DOĞRU CEVAP İLE DOĞRU NEDENE DAYANAN CEVAP AYNI DEĞİLDİR”
Yapay zekâ sistemlerinin bazı durumlarda yanıltıcı veriler üzerinden doğru sonuçlara ulaşabileceğini dile getiren Baydar, bunun özellikle farklı hasta gruplarında güvenilirlik sorunlarına yol açabileceğini aktardı.
Eğitim verilerindeki beklenmedik özelliklerin, tıbbi cihazlar arasındaki farklılıkların ve belirli hasta gruplarına özgü yanlılıkların modellerin tahminlerini etkileyebileceğini söyleyen Baydar şu değerlendirmeyi yaptı:
“Bir yapay zekâ modeli testlerde yüksek doğruluk gösterebilir; ancak eğer kararını klinik olarak anlamlı olmayan özelliklere dayandırıyorsa, farklı hasta gruplarında veya çeşitli koşullarda güvenilir sonuçlar vermeyebilir.”
Bunun için yapay zekâ sistemlerinin yalnızca başarılı sonuçlar üretmesinin değil, bu sonuçlara hangi gerekçelerle ulaşıldığının da incelenmesi gerektiğinin altını çizen Baydar şöyle devam etti:
YAPAY ZEKÂNIN AÇIKLAMALARI DA DENETLENMELİ
Yapay zekâ modellerinin kararlarını açıklama yeteneğinin hekimler için önemli olduğunu belirten Baydar, bu açıklamaların her zaman gerçek biyolojik veya klinik nedenleri göstermeyebileceğine dikkat çekti.
Baydar, “Bir modelin hangi verilerden etkilendiğini görselleştirmek hastalığın nedenini ortaya çıkardığı manasına gelmez”
Açıklanabilir yapay zekâ yöntemlerinin çıktılarının klinik bilgilerle, biyolojik kanıtlarla ve bağımsız doğrulamalarla desteklenmesi gerektiğini ifade eden Baydar, bu yaklaşımın hekimlerin yapay zeka destekli önerileri daha sağlıklı bir şekilde değerlendirmelerine yardımcı olabileceğini dile getirdi. BİLİMSEL ARAŞTIRMALAR İÇİN YENİ FIRSATLAR SUNABİLİR Açıklanabilir yapay zekânın sadece güvenilirlik açısından değil, bilimsel araştırmalar bakımından da önemli fırsatlar sunduğunu belirten Baydar; modellerin öğrendiği örüntülerin incelenmesiyle daha önce fark edilmemiş biyolojik ilişkilerin keşfedilebileceğini kaydetti. Baydar, “Modeli yalnızca bir tahmin makinesi olarak görmek yerine; hangi örüntüleri öğrendiğini anlamaya çalıştığımızda hem modeli geliştirebilir hem de biyoloji hakkında yeni sorular sorabiliriz.” “YAPAY ZEKÂ HEKİMLERİN YERİNİ ALAN BİR SİSTEM OLMAMALIDIR” Sahada yapay zekânın bağımsız bir karar mekanizması olarak değil; uzmanların değerlendirmelerini destekleyen bir araç olarak kullanılması gerektiğine vurgu yapan Baydar; insan denetiminin önemini de vurguladı. Bazılarını şöyle tamamladı:“Amaç yalnızca yüksek performanslı modeller geliştirmek değil; güvenilir, denetlenebilir ve insan uzmanlığıyla birlikte kullanılabilecek sistemler oluşturmaktır.” “GÜVENİLİR YAPAY ZEKÂ SINIRLARI BELLİ OLAN YAPAY ZEKÂDIR” Sahada yapay zekânın geleceğinin yalnızca yüksek doğruluk oranlarına bağlı olmadığını belirten Baydar; sistemlerin hangi koşullar altında başarısız olabileceğinin de bilinmesi gerektiğine dikkat çekti. Kullanılan veri setlerinin ne olduğu ve hangi hasta gruplarında hatalar yapılabileceği ile kararlarının temellendiği özelliklerin sorgulanması gerektiğine değinen Baydar sözlerini şöyle bitirdi: “Sağlıkta yapay zekânın güvenilirliği sadece doğru tahminler yapmakla değil; sınırları bilinen ve eleştirel biçimde değerlendirilebilen sistemlerin geliştirilmesine bağlıdır.”
