Written by Konuk Yazarlar• 08 Ocak 2026• 01:01• LLM, Sağlık

Hastanın Verisi Modelin Hafızasında mı? MIT, Klinik AI’da ‘memorization’ Riskini Ölçüyor

MIT Jameel Clinic araştırmacıları, anonimleştirilmiş elektronik sağlık kayıtları (EHR) ile eğitilmiş büyük modellerin hasta bilgilerini ‘ezberleyip’ açığa vurup vurmayacağını ölçmek için bir dizi pratik test öneriyor. Çalışma, NeurIPS 2025’te sunuldu ve araştırmacılar özellikle bir saldırganın ne kadar ön bilgiye sahip olduğunun sızıntı riskini artırdığını gösteriyor. Araştırma, hangi sızıntıların daha zararlı olduğunu (ör. demografi vs. HIV tanısı gibi hassas bilgiler) ayırt etmeye vurgu yapıyor ve değerlendirmelerin sağlık bağlamında yapılması gerektiğini savunuyor. Grup, yöntemleri daha disiplinlerarası hâle getirip klinisyenler, gizlilik ve hukuk uzmanlarıyla genişletmeyi planlıyor.

Günümüzde mahremiyet, tıp pratiğinin temel taşlarından biri; ancak büyük dil ve temel modeller veriyle beslendikçe “memorization” yani tek bir hasta kaydına dayanan ezberleme riski doğuyor. MIT ve iş ortaklarının hazırladığı çalışma, de‑identified (kimlik bilgilerinden arındırılmış) EHR verileriyle eğitilmiş modellerin hedeflenmiş istemlerle (prompt) hassas bilgileri açığa vurup vurmayacağını değerlendirecek bir test dizisi öneriyor. Bu çalışma NeurIPS 2025’te paylaşıldı ve yazarlar, sızıntının yalnızca modelin teknik davranışını değil; aynı zamanda sağlık bağlamında ne kadar zararlı olacağını da ölçmeyi önemli buluyor (paper).

Araştırma ekibi, pratiklik üzerinde duruyor: eğer bir saldırganın bir hastanın tarihindeki birçok laboratuvar değeri gibi ayrıntılara zaten erişimi varsa, model saldırısının potansiyel zararı sınırlı olabilir; fakat az ve ayırt edici bilgilerle bile kimlik tespiti mümkünse risk artıyor. Denemeler, saldırganın bilgi seviyesinin arttıkça modelin hasta-özgü ayrıntıları sızdırma ihtimalinin yükseldiğini; ayrıca yaş veya demografi gibi daha az hassas bilgilerin sızmasının HIV tanısı veya alkol kötüye kullanımı gibi özel tıbbi durumların açığa çıkmasından farklı düzeyde zarar oluşturduğunu gösteriyor. Çalışma, yöntemleri klinisyenler ve gizlilik/hukuk uzmanlarıyla birlikte genişleterek sağlık verisi güvenliğini değerlendirmede kullanılabilecek standartlar oluşturmayı hedefliyor.