Yapay zekâyla teşhis koyanlar dikkat: Doğru yanıt tehlikesi

Arama motorlarına ya da sohbet botlarına semptomlarını yazıp anında kendilerine hastalık adı koyanların sayısı hızla artıyor; ancak uzmanlar, yapay zekânın sunduğu ikna edici ve akıcı yanıtların tıbbi gerçeklikle bağdaşmayabileceği konusunda uyarıyor. İnternetten sağlık araması yapmak hız ve erişilebilirlik sağlarken sağlık okuryazarlığı düşük kullanıcılar için ciddi riskler barındırıyor.

Semptomları yazıp reçete aramanın maliyeti ne?

Bir sabah hafif bir baş ağrısı ve halsizlikle uyanan milyonlarca insan, ilk olarak kliniğe gitmek yerine ekran başına geçiyor. Yazılan birkaç cümlelik şikâyet, saniyeler içinde karmaşık tıbbi terimlerle süslenmiş korkutucu senaryolara dönüşebiliyor. Algoritmaların amacı kullanıcıyı memnun etmek ya da en mantıklı görünen istatistiksel eşleşmeyi sunmaktır; bir hekim gibi klinik gözlem yapmak veya hastanın geçmişini süzmek değildir.

Asıl sorun bilgiye hızlı ulaşmak değil, o bilginin bağlamını ve doğruluğunu tartacak süzgecin kullanıcıda her zaman bulunmamasıdır. Yapay zekâ, en absürt hastalık ihtimalini bile son derece sakin ve güven veren bir tonla aktardığı için, insan psikolojisi bu kusursuz görünen yalanı kabullenmeye fazlasıyla meyilli oluyor.

Yapay zekâ tabanlı sağlık aramaları kimi hedefliyor?

Bu durumdan en çok etkilenen kesim, dijital platformları bilgiye erişim için birincil kaynak olarak gören genç yetişkinler ile sağlık kaygısı taşıyan bireylerdir. Sağlık sektörü ve klinikler ise bu yanlış yönlendirmelerin getirdiği ek yükle karşı karşıya kalıyor; çünkü yanlış teşhislerle polikliniklere başvuran, internetten okuduğu tedavi yöntemini sorgulayan hasta profili hızla yaygınlaşıyor.

Yapay zekâ destekli sağlık asistanları ve genel amaçlı dil modelleri teknik olarak şu parametrelerle çalışır:

Tabloda görülen bu teknik sınırlar, algoritmaların neden bir doktorun yerini alamayacağını net biçimde özetliyor. Dil modelleri kelimeleri kusursuz bir gramerle sıraya dizmeyi başarıyor, ancak insan bedeninin karmaşık biyolojisini okuyamıyor.

Dil modellerinin tıbbi metin üretirken düştüğü tuzaklar

Büyük dil modelleri, tıp fakültesi sınavlarındaki çoktan seçmeli soruları başarıyla yanıtlayabilecek kapasiteye getirildi. Fakat sınav sorularındaki net veriler ile gerçek hayattaki belirsiz semptomlar birbirinden tamamen farklı iki konudur. Bir hastanın verdiği “göğsümde hafif bir sıkışma var” bilgisi, bir yapay zekâ modeli için onlarca farklı ihtimali tetikler.

Model, bu ihtimalleri sıralarken kütüphanesindeki en yaygın metinsel örüntüleri takip eder. Eğer internet verilerinde o kelimeler çoğunlukla ciddi bir kardiyolojik rahatsızlıkla eşleşmişse, sistem doğrudan o korkutucu sonuca odaklanır. Hastanın yaşı, genetik geçmişi, o anki tansiyonu ya da kullandığı diğer ilaçlar gibi klinik kararları belirleyen kritik detaylar, metin tabanlı algoritmalar tarafından sıklıkla göz ardı edilir.

Yapay zekâ yanıtlarına karşı nasıl bir yol izlenmeli?

Sohbet botlarını bir fikir verme aracı olarak kullanmak ile onları kesin bir tıbbi merci haline getirmek arasındaki ince çizgi, bireysel sağlık güvenliği açısından hayati önem taşıyor.

Ekrandaki düzgün ve ikna edici cümleler sizi rahatlatabilir ya da korkutabilir; ama asla bir hekimin stetoskopla yaptığı dinlemenin veya laboratuvar sonuçlarının yerini alamaz. Dijital asistanınız size nadir görülen bir hastalığın kapıda olduğunu söylediğinde, ilk yapacağınız iş ekranı kapatıp bir uzmana danışmak olmalı. Makineler ihtimalleri hesaplar, hayatı ise sadece siz yaşarsınız.