Yapay zekâ destekli sohbet sistemlerinin sağlık alanındaki hızlı yaygınlaşması, doğruluk ve güvenilirlik konularında yeni risk alanları doğurmuştur. Bu vaka sunumunda, bir hastanın diyetinde sodyumu azaltmak amacıyla kullandığı sohbet tabanlı yapay zekâ sisteminden aldığı yanlış öneri sonucunda sodyum bromür toksisitesi (bromizm) geliştirmesi bildirilmektedir.
Sodyum bromür, 20. yüzyılın başlarında antiepileptik ve sedatif olarak kullanılan, ancak yüksek toksisite profili nedeniyle günümüzde terapötik kullanım dışı bırakılmış bir bileşiktir. Bromür iyonları, klorür iyonlarıyla yarışarak hücre membranı stabilizasyonunu bozar ve merkezi sinir sistemi üzerinde depresan etki gösterir. Uzun süreli alımlarda nöropsikiyatrik bozukluklar, psikotik belirtiler ve bilişsel fonksiyon kaybı görülebilir.
Yapay zekâ temelli metin üretim sistemleri, klinik bilgiye benzer yanıtlar üretebilmekle birlikte, farmakolojik doğrulama ve kontrendikasyon denetimi mekanizmalarına sahip değildir. Bu durum, özellikle tıbbi soruların yanlış yönlendirilmesiyle toksik düzeyde sonuçlar doğurabilir.
Uzm. Dr. Burak Uzel 