Yapay zekanın ilaç dozu tavsiyesi ölümle mi sonuçlandı?

Yapay zekanın tavsiyesiyle ilaç dozunu değiştirdiği öne sürülen bir kadın hayatını kaybetti; Hürriyet’in haberine göre bu olay, dijital asistanların sağlık kararlarındaki güvenilirlik tartışmalarını yeniden alevlendirdi.

Hürriyet’in haberine göre hastanın vefatıyla sonuçlanan süreç, dijital araçların tıbbi bilgi kaynağı olarak kullanılmasının potansiyel tehlikelerini net bir şekilde ortaya koyuyor. Olayda, yapay zeka modelinin reçeteli ilaçların kullanım miktarını doğrudan etkileyen bir yönlendirmede bulunduğu iddia ediliyor. Sağlık profesyonelleri ise bu tür algoritmaların birer doktor olmadığını ve klinik veri analizi yapamayacağını her fırsatta vurguluyor.

Üstelik bu tür yapay zeka sistemleri, bireylerin tıbbi geçmişini, genetik altyapısını veya anlık biyolojik değerlerini hesaba katmadan genel geçer yanıtlar üretiyor. Sistemlerin internet üzerindeki veri havuzlarından beslenmesi, bazen doğruluğu teyit edilmemiş bilgilerin tıbbi bir gerçeklik gibi sunulmasına yol açabiliyor. İlaç dozajı gibi hayati konularda doğrudan dijital asistanlara güvenmek, bu vakada görüldüğü gibi telafisi mümkün olmayan sonuçlar doğurabiliyor.

Bu durum kimleri ve hangi sistemleri etkiliyor?

Sağlık alanında bilgi arayan genel internet kullanıcıları, bu tür yapay zeka tabanlı arama motoru özetlerinden ve sohbet botlarından doğrudan etkileniyor. Birçok kişi, doktora gitmek yerine hızlı yanıt alabilmek için bu araçlara başvuruyor ancak algoritmaların verdiği yanıtların bağlayıcılığı veya tıbbi doğruluğu konusunda yeterli denetim bulunmuyor. Şirketlerin geliştirdiği genel amaçlı büyük dil modelleri, sağlık tavsiyesi vermemeleri yönünde uyarılar içerse de kullanıcılar bu sınırları sıklıkla zorluyor.

Geliştiriciler, modellerin tıbbi sorulara yanıt verirken kullanıcıları bir uzmana yönlendiren uyarılar eklemesini zorunlu kılıyor. Yine de sistemlerin zaman zaman ikna edici bir dille kesin yönlendirmeler yapabilmesi, teknik altyapıdaki en büyük risk alanlarından birini oluşturuyor. Özellikle kronik rahatsızlığı olan ve düzenli ilaç kullanan bireylerin bu tür dijital tavsiyelerden tamamen uzak durması gerekiyor.

Yapay zeka modelleri neden tıbbi konularda yanılıyor?

Büyük dil modelleri (LLM), istatistiksel olarak kelimeleri yan yana getiren matematiksel yapılardır. Bu sistemler tıp fakültesi eğitimi almaz veya bir hastayı muayene etmez; bunun yerine internet üzerindeki metinleri tarayarak en olası devam cümlelerini üretirler. İlaç etkileşimleri, böbrek veya karaciğer fonksiyon bozuklukları gibi kişiye özel biyokimyasal faktörler, genel bir yapay zeka modelinin parametre hesaplamalarında yer almaz. Bir sohbet botu kulağa son derece ikna edici ve profesyonel gelen bir cümle kursa bile, arkasındaki mekanizma sadece metin tahmini yapmaktadır.

Sağlık asistanlığı sunan algoritmaların yasal ve etik sorumluluğu

Yapay zeka şirketleri kullanıcı sözleşmelerine sağlık tavsiyesi verilmediğine dair sorumluluk reddi maddeleri eklese de, günlük hayatta bu araçların sunduğu yönlendirmelerin pratik sonuçları hukuki tartışmaları beraberinde getiriyor. Bir yazılım şirketinin geliştirdiği algoritmanın hatalı yönlendirmesi sonucu yaşanan can kayıplarında sorumluluğun kime ait olacağı konusu hâlгүй gri bir alandır. Yazılımcılar, veri sağlayıcılar ve platform sahipleri genellikle tüketiciyi uyardıklarını savunurken, somut vakalarda yaşanan mağduriyetler denetim mekanizmalarının sıkılaştırılması yönündeki baskıları artırıyor.

Okuyucular bu aşamada ne yapmalı?

Sağlıkla ilgili herhangi bir karar alırken veya mevcut tedavi planınızı değiştirirken yalnızca dijital asistanların yanıtlarına güvenmekten kaçının. İlaç dozu, kullanım sıklığı ya da tedavi yöntemleri gibi konularda kesinlikle ilgili uzman doktorunuza veya eczacınıza danışın. Yapay zeka araçlarını yalnızca genel bilgi edinme amacıyla kullanın ve kritik kararlarınızı asla bu sistemlerin çıktısına dayanarak vermeyin.