Baydar, sağlıkta yapay zekada doğruluğun güvenilirlik anlamına gelmediğini söyledi

Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında kullanılan yapay zeka sistemlerinde yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğine dikkat çekti. Baydar, yapay zekanın kararlarını klinik olarak anlamlı olmayan özelliklere dayandırmasının farklı hasta gruplarında güvenilirliği etkileyebileceğini belirterek, modellerin karar süreçlerinin açıklanabilir olmasının önemini vurguladı.

Yapay zekanın sağlık alanındaki kullanımının giderek yaygınlaştığını belirten Dr. Öğr. Üyesi Damla Övek Baydar, tıbbi görüntülerin değerlendirilmesinden hastalık risklerinin tahminine, genomik verilerin analizinden klinik karar destek sistemlerine kadar pek çok alanda yapay zeka modellerinin sağlık profesyonellerine yardımcı olabilecek sonuçlar ürettiğini söyledi.

Yapay zeka sistemlerinin başarısının çoğunlukla tahmin doğruluğuyla ölçüldüğüne dikkat çeken Baydar, "Bu gelişmeler çoğu zaman modellerin ne kadar yüksek doğrulukla tahmin yaptığı üzerinden değerlendiriliyor. Ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını anlamak da önemlidir. Çünkü doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir" dedi.

"Modelin kararı nasıl verdiği önemli"

Derin öğrenme modellerinin karar süreçlerinin anlaşılabilir olması gerektiğini vurgulayan Baydar, şu ifadeleri kullandı:

"Genetik, ilaç keşfi ve hastalık araştırmalarında giderek daha fazla kullanılan derin öğrenme modelleri çoğu zaman 'kara kutu' olarak tanımlanır. Bu modeller çok miktarda veriden karmaşık örüntüler öğrenebilir, ancak hangi bilgilere dayanarak sonuca vardıkları her zaman kolayca görülemez.Bu nedenle derin öğrenme modellerinin yalnızca başarılı olması değil, karar süreçlerinin de mümkün olduğunca anlaşılabilir olması önem taşır. Bir model yüksek doğrulukla tahmin yapabilir. Ancak bu tahmini biyolojik ya da klinik olarak anlamlı bir işarete mi, yoksa verideki tesadüfi veya yanıltıcı bir örüntüye mi dayandırdığını bilmiyorsak sonuca güvenmek zorlaşır"

Yapay zekanın sağlık alanındaki kararlarının yalnızca sonuç üzerinden değerlendirilmemesi gerektiğini belirten Baydar, "Örneğin bir derin öğrenme modeli bir tıbbi görüntüyü 'yüksek riskli' olarak sınıflandırabilir ya da belirli bir genetik varyantın biyolojik açıdan önemli olabileceğini öngörebilir. Fakat sağlık profesyoneli açısından yalnızca sonucun kendisi değil, bu sonucu destekleyen bilgiler de önemlidir. Model görüntünün hangi bölgesine odaklanmıştır? Hastaya ait hangi değişkenleri daha önemli kabul etmiştir? Genomik bir analizde DNA dizisinin hangi bölümleri tahmini etkilemiştir? Bu sorular açıklanabilir yapay zeka olarak adlandırılan yaklaşımın temelini oluşturur" dedi.

"Doğru cevap ile doğru nedene dayanan cevap aynı şey değildir"

Yapay zeka sistemlerinde açıklanabilirliğin hasta sağlığı açısından önemine dikkat çeken Baydar, şu değerlendirmelerde bulundu:

"Açıklanabilirlik, yapay zeka sistemlerinin karar süreçlerini insanlar için daha anlaşılır hale getirmeyi amaçlar. Bunun sağlık alanında özellikle önemli olmasının nedenlerinden biri, modelin doğru sonuca doğru gerekçelerle ulaşıp ulaşmadığını değerlendirmeye yardımcı olabilmesidir. Bir yapay zeka modeli testlerde yüksek doğruluk gösterebilir; ancak kararını klinik olarak anlamlı olmayan özelliklere dayandırıyorsa, farklı hasta gruplarında veya farklı koşullarda güvenilir sonuçlar vermeyebilir. Sağlık alanında bu nedenle yalnızca tahminin doğru olması değil, modelin bu tahmine hangi bilgilere dayanarak ulaştığının anlaşılması da önemlidir. Bir model yüksek doğruluk oranına sahip olsa bile, karar verirken klinik olarak anlamlı olmayan bir örüntüden yararlanıyor olabilir. Eğitim verisindeki beklenmedik bir özellik, kullanılan cihazlar arasındaki farklılıklar ya da belirli bir hasta grubuna özgü yanlılıklar modelin tahminlerini etkileyebilir."

"Yapay zekanın sunduğu her açıklama gerçek mekanizmayı göstermez"

Yapay zeka sistemlerinde açıklanabilirliğin hekimlerin karar süreçlerini destekleyebileceğini ancak bu açıklamaların da bilimsel açıdan değerlendirilmesi gerektiğini belirten Baydar, şu değerlendirmelerde bulundu:

"Açıklanabilirlik aynı zamanda güven açısından da önemlidir. Bir hekimin karar destek sisteminin önerisini değerlendirebilmesi için yalnızca bir risk puanı görmesi çoğu zaman yeterli değildir. Sistemin hangi bulguların tahmini desteklediğine ilişkin anlamlı bilgiler sunması, yapay zekanın klinik karar sürecine daha kontrollü biçimde dahil edilmesine yardımcı olabilir.

Yapay zekanın sunduğu her açıklamanın mutlaka gerçek biyolojik ya da klinik mekanizmayı göstermeyeceğini söyleyen Baydar, "Bir modelin hangi verilerden etkilendiğini görselleştirmek, hastalığın nedenini ortaya çıkardığı anlamına gelmez. Bu nedenle açıklanabilirlik yöntemlerinin sonuçları da eleştirel biçimde değerlendirilmeli ve mümkün olduğunda klinik bilgi, biyolojik kanıt ve bağımsız doğrulamalarla desteklenmelidir."

"Açıklanabilirlik yeni sorulara da kapı aralayabilir"

Açıklanabilir yapay zeka yaklaşımlarının bilimsel araştırmalar açısından da önemli fırsatlar sunabileceğini ifade eden Baydar, şöyle konuştu:

"Açıklanabilir yapay zeka yaklaşımları yalnızca güven oluşturmakla kalmaz, yapay zekanın yeni biyolojik soruların ortaya çıkmasına katkı sağlamasına da imkan tanır. Modelin öğrendiği örüntülerin incelenmesi, daha önce fark edilmemiş biyolojik ilişkilere işaret edebilir ve araştırmacılara yeni hipotezler geliştirme fırsatı sunabilir. Modeli yalnızca bir tahmin makinesi olarak görmek yerine, hangi örüntüleri öğrendiğini anlamaya çalıştığımızda hem modeli geliştirebilir hem de biyoloji hakkında yeni sorular sorabiliriz."

"Yapay zeka, uzmanla birlikte kullanılmalı"

Sağlık alanında yapay zekanın hekimlerin yerini alan bir sistem olarak değerlendirilmemesi gerektiğini vurgulayan Baydar, "Sağlık alanında yapay zekayı, uzmanın yerini alan bağımsız bir karar mekanizmasından ziyade, karar süreçlerini destekleyen güçlü bir araç olarak değerlendirmek daha doğru olacaktır. Bu açıdan bakıldığında, açıklanabilirlik daha da önemli hale gelir. Amaç yalnızca yüksek performanslı modeller geliştirmek değil; güvenilir, denetlenebilir ve insan uzmanlığıyla birlikte kullanılabilecek sistemler oluşturmaktır." dedi.

"Güvenilir yapay zeka, sınırları bilinen yapay zekadır"

Sağlıkta yapay zeka sistemlerinin güvenilirliğinin yalnızca başarı oranlarıyla değerlendirilemeyeceğini belirten Baydar, sözlerini şöyle tamamladı:

"Sağlıkta yapay zekanın başarısını gelecekte yalnızca ulaştığı doğruluk oranı değil, verdiği kararları ne ölçüde açıklayabildiğimiz de belirleyecektir. Bu nedenle 'Model ne kadar doğru?' sorusunu sormak tek başına yeterli değildir. 'Hangi verilerden öğrendi?', 'Hangi hasta gruplarında başarısız olabilir?', 'Kararını hangi özelliklere dayanarak verdi?' ve 'Bu açıklama klinik veya biyolojik olarak anlamlı mı?' gibi sorular da doğruluk kadar önemlidir. Sağlıkta yapay zekanın güvenilir olması, yalnızca doğru tahmin yapan değil, sınırları bilinen ve kararları eleştirel biçimde değerlendirilebilen sistemlerin geliştirilmesine bağlıdır."