Sağlıkta yapay zekâ sistemlerinde yüksek doğruluk tek başına yeterli değil

Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık sektöründe yaygınlaşan yapay zekâ sistemlerinin güvenilirliği konusunda uyarılarda bulundu. Baydar, modellerin yüksek doğruluk oranlarına sahip olmasının tek başına sistemin güvenilir olduğu anlamına gelmediğini ifade etti.

Yapay zekâ sistemlerinin başarı kriterinin çoğunlukla tahmin doğruluğu üzerinden belirlendiğini kaydeden Baydar, bu durumun riskler barındırdığını dile getirdi.

Karar süreçlerinin açıklanabilirliğinin önemine değinen Baydar, yapay zekânın kararlarını klinik açıdan anlamsız verilere dayandırmasının farklı hasta gruplarında güvenilirliği zedeleyebileceğini belirtti. Bu bağlamda, modellerin karar mekanizmalarının anlaşılabilir ve denetlenebilir olmasının hasta güvenliği açısından hayati önem taşıdığını vurguladı.

Yapay zekâ teknolojilerinin sağlık alanındaki kullanım alanlarına ilişkin bilgi veren Baydar; tıbbi görüntülerin değerlendirilmesi, hastalık risklerinin tahmini, genomik verilerin analizi ve klinik karar destek sistemleri gibi pek çok alanda bu modellerin sağlık profesyonellerine yardımcı sonuçlar üretebildiğini söyledi.

Sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmanın yeterli olmayabileceğini belirten Baydar, sistemlerin hangi verilere dayanarak karar verdiğinin incelenmesi gerektiğini ifade etti.