Bugün, 24 Ağustos 2025 Pazar
ABD’de 60 yaşındaki bir kişi, yapay zekadan aldığı hatalı beslenme tavsiyesiyle klorürü tamamen kesip bromür kullanmaya başladı. Sonuç: halüsinasyonlar, paranoya ve zorunlu psikiyatrik tedavi! Tıp dünyasında ses getiren vakayı uzmanlar neyle açıklıyor? Yapay zeka bilgi verirken nerede durmalı? Sistemin hatasında kullanıcı mı sorumlu, geliştirici mi? Ve en önemlisi: Yapay zekaya bu kadar güvenmek ne kadar güvenli?
ABD’de 60 yaşındaki bir kişi, yapay zeka sohbet botu ChatGPT’den aldığı hatalı beslenme önerisinin ardından ağır bir zehirlenme geçirdi ve üç hafta boyunca zorunlu psikiyatrik tedavi altında tutuldu.
Olay, tıp dünyasının önde gelen yayınlarından Annals of Internal Medicine dergisinde vaka raporu olarak yayımlandı. Rapora göre, birey tuzun (sodyum klorür) sağlığa etkilerine dair okuduğu bazı içeriklerin ardından diyetinden klorürü tamamen çıkarmaya karar verdi.
Bu doğrultuda ChatGPT’ye danıştı ve iddiaya göre sohbet botunun önerisiyle bromür kullanımına yöneldi. Yaklaşık üç ay boyunca bromürlü tuzları kullanan kişi, halüsinasyonlar, paranoya ve ciddi zihinsel bozulmalar yaşamaya başladı.
OLAYIN TIBBİ ARKA PLANI OLDUKÇA DİKKAT ÇEKİCİ
Bromür bileşikleri, 20. yüzyılın başlarında kaygı, uykusuzluk ve histeri gibi sorunlara karşı yaygın olarak kullanılan reçetesiz ilaçların içinde yer alıyordu. Ancak uzun süreli kullanımın ciddi yan etkiler doğurduğunun anlaşılmasıyla, bromür 1975 yılında ABD Gıda ve İlaç Dairesi (FDA) tarafından yasaklandı.
‘Bromizm’ olarak adlandırılan bu zehirlenme tablosu, geçmişte psikiyatri servislerine yapılan başvuruların yüzde 5 ila yüzde 10’unu oluşturuyordu. Günümüzde nadiren karşılaşılan bromizm vakaları, genellikle kontrolsüz takviye kullanımı ya da yanlış yönlendirmelerle ortaya çıkıyor. Bu vakada ise yönlendirme kaynağı olarak ChatGPT gösteriliyor.
KOMŞUSUNUN KENDİSİNİ ZEHİRLEDİĞİNİ İDDİA ETTİ
Vaka raporuna göre, söz konusu kişi hastaneye başvurduğunda komşusunun kendisini zehirlediğini iddia etti. İlk muayenede herhangi bir tıbbi veya psikiyatrik geçmişi olmayan bireyin bulguları normaldi. Ancak çok kısa sürede şiddetli paranoya, işitsel ve görsel halüsinasyonlar gelişti. Kişi, hastaneden kaçmaya çalışınca, “ciddi işlev kaybı” gerekçesiyle zorunlu psikiyatri servisine yatırıldı.
Daha sonra yapılan testler ve zehir kontrol merkeziyle yapılan görüşmeler sonucunda, durumun bromür zehirlenmesi kaynaklı olduğu değerlendirildi. Tedavi sürecinde hastaya elektrolit takviyesi uygulandı; ayrıca antipsikotik ilaç olan ‘risperidon’ verildi.
DOKTORLAR CHATGPT’YE AYNI SORUYU SORUNCA CEVAP DEĞİŞMEDİ
ChatGPT’nin bu öneriyi doğrudan verip vermediği kesin olarak belgelenmedi anacak doktorlar aynı sohbet botuna benzer bir şekilde “klorür yerine ne kullanılabilir?” sorusunu yönelttiklerinde, verilen yanıtların bromürü içerdiğini ve hiçbir sağlık uyarısı içermediğini tespit etti.
Üç haftalık aşırı zorlu tedavi sonunda taburcu edilen birey, iki hafta sonra yapılan kontrolde tamamen iyileşmiş olarak değerlendirildi. Uzmanlar, bu olayın sadece bireysel bir sağlık krizi değil, aynı zamanda dijital sağlık okuryazarlığı açısından da ciddi bir uyarı niteliği taşıdığını belirtiyor.
‘BİLGİ GÜVENLİĞİ KULLANICIYA BIRAKILMIŞ DURUMDA’
Konuyla ilgili değerlendirmede bulunan Bilişim Teknolojileri Uzmanı Prof. Dr. Ali Murat Kırık, yapay zekâ tabanlı sistemlerin sunduğu bilgilerin doğruluğu ve güvenilirliği konusunda ciddi eksiklikler olduğuna dikkat çekti. Prof. Dr. Kırık, mevcut durumda bu sistemleri denetleyen tam anlamıyla işleyen bağımsız bir mekanizmanın bulunmadığını belirterek şunları söyledi:
“Bana göre yapay zekâ sistemlerinin verdiği bilgilerin doğruluğu ve güvenliği konusunda tam anlamıyla işleyen bir denetim mekanizması henüz mevcut değil. Çoğu zaman şirketler kendi iç kontrol sistemlerini geliştiriyor, ancak bunlar dışarıdan bağımsız bir şekilde denetlenmediği için şeffaflık sorunu ortaya çıkıyor. Kullanıcıya sunulan bilgiler doğru gibi görünse de her zaman hatasız olmayabiliyor. Bu nedenle bilgi güvenliği büyük ölçüde kullanıcıya bırakılmış durumda.”
‘KİŞİYE TEDAVİ ÖNERİSİ VERMESİ GÜVENLİK BOYUTUNDA DEĞERLENDİRİLMELİ’
Prof. Dr. Ali Murat Kırık, yapay zekânın özellikle sağlık gibi kritik alanlarda yanlış bilgi sunmasının yalnızca bireysel değil, toplumsal ölçekte ciddi sonuçlar doğurabileceğini de vurguladı. Yanlış teşhisler ya da hatalı tedavi önerilerinin bireylerin sağlığını doğrudan tehdit ettiğini belirten Prof. Dr. Kırık, bu tür durumların aynı zamanda siber güvenlik bağlamında da değerlendirilmesi gerektiğini ifade etti:
-- Yapay zekânın sağlık gibi kritik alanlarda yanlış bilgi sunması, yalnızca bireyleri değil, tüm toplumu etkileyebilecek ciddi sonuçlar doğurur. Yanlış bir teşhis ya da hatalı bir tedavi önerisi, bireyin sağlığını doğrudan tehlikeye atabilir. Bu durum, siber güvenlik açısından da ‘bilgi manipülasyonu’ tehlikesi doğurur. Yani sistem kötü niyetli kişiler tarafından yönlendirilirse, yanlış bilgilerin yayılması kitlesel bir güvenlik sorununa dönüşebilir.”
-- Örneğin, bir yapay zeka programının bir ilacı önerirken aslında kişiye zararlı bir dozaj vermesi, sadece bireysel bir hatadan öte, sistemsel bir açık olarak görülmeli ve güvenlik boyutunda değerlendirilmelidir.
Yapay zeka yanlış yönlendirme yaptığında sorumluluk meselesi de oldukça karmaşık. Bana göre bu durum sadece kullanıcıya bırakılmamalı, çünkü kullanıcı çoğu zaman verilen bilginin doğruluğunu test edecek bilgiye veya uzmanlığa sahip olmayabilir. Burada asıl sorumluluk sistemi tasarlayan geliştiricilerde ve bunu hizmete sunan platformlarda olmalı. Kullanıcıya, yapay zekânın sunduğu bilgilerin sınırları net bir şekilde belirtilmeli. Örneğin, bir yapay zeka uygulaması kişiye “bu belirtiler basit bir soğuk algınlığına işaret ediyor” dediğinde, eğer aslında ciddi bir rahatsızlık söz konusuysa sorumluluk sadece kullanıcıya yüklenemez. Çünkü bu bilgiye güvenerek hareket etmesine sebep olan şey sistemin kendisidir.
İNSANLARIN YAPAY ZEKAYA BU DENLİ GÜVEN DUYMASININ ALTINDA YATAN NEDENLER NELER?
Olayın yalnızca teknik ya da etik değil, aynı zamanda psikolojik bir boyutu olduğunu da belirten Ruh Sağlığı ve Hastalıkları Uzmanı Uzm. Dr. Onur Yılmaz, bireylerin dijital araçlara, özellikle de yapay zekaya bu denli güven duymasının altında yatan dinamikleri değerlendirdi.
Yılmaz’a göre, bireyin yaşadığı sorunla baş etmeye çalışırken çözüm arayışına girmesi doğal bir tepki. Bu süreçte yapay zekânın sunduğu hız, ulaşılabilirlik ve yargılanmama hissi, kişiyi bu teknolojiye olduğundan fazla güvenmeye yöneltebiliyor:
-- İçinde bulunduğu duruma çözüm araması ve sıkıntı veren duyguyla baş etmeye çalışması insanları yardım arayışına iter. Yapay zeka, gerek hızlı ve kolay ulaşılması gerekse karar alma süreçlerine yardımcı olma konusunda umut verici potansiyeli nedeniyle günümüzde sıklıkla başvurulan bir yöntem haline geldi.
-- Kişinin, gerçek bir profesyonele nazaran kolayca ve her istediğinde ulaşabilmesi, istediği soruya doğrudan yanıt alabilmesi, yargılanma endişesinin bulunmaması, geçmişte sağlık kurumlarında olumsuz deneyimler yaşaması veya başka amaçla kullandığında yapay zeka aracılığıyla etkili sonuçlar alındığını tecrübe etmesi; bu teknolojiye olduğundan daha fazla güç atfetmesine ve sunduğu veriye sorgulamaksızın güvenmesine zemin hazırlayabilir.
‘YALNIZ YAŞAYAN VE SOSYAL DESTEĞİ SINIRLI OLAN KİŞİLER BUNA DAHA YATKIN’
Uzm. Dr. Onur Yılmaz, yapay zekaya yönelimin özellikle yalnız yaşayan, sosyal desteği sınırlı ya da duygusal olarak kırılgan bireylerde daha yaygın olabileceğini belirtti. Bu kişilerin, hızlı ve doğrudan bilgi sunan yapay zekayla duygusal bağ kurmasının mümkün olduğunu vurguladı:
“Bir tıp doktorundan alınan yardımda etik kaygılar, kişiye özgü riskler, kişinin bu bilgiye neden ihtiyaç duyduğu, bağlamı ve olası olumsuz sonuçların masaya yatırılması istenen sonuca doğrudan ulaşma süresini uzatabilir. Ancak yapay zeka sorulan soruya odaklı algoritmalar üzerinden verdiği ‘hap bilgiler’, kişinin kendi başına içinden çıkmakta zorlandığı bu durum karşısında hızlı çözüm bulabileceği umuduyla birleşince, edinilen bilgiyi kabul etme veya reddetme konusunda yeni bir değerlendirme yapmaksızın güvenmesine neden oluyor.”
SAĞLIK ANKSİYETESİ VE ‘SİBERKONDRİ’ RİSKİNE DİKKAT
Yapay zekâ destekli sağlık aramalarının bireyler üzerindeki psikolojik etkilerine değinen Uzm. Dr. Onur Yılmaz, özellikle sağlık anksiyetesi (hastalık hastalığı) yüksek bireylerin internette yaptıkları tekrar eden bilgi aramalarının, kaygı düzeylerini artırdığını belirtti. Bu durumun literatürde ‘siberkondri’ olarak tanımlandığını hatırlatan Uzm. Dr. Onur Yılmaz, şu değerlendirmede bulundu:
--“Siberkondri adı verilen, kişinin internette sağlık ile ilgili sık ve tekrarlayan aramalar yapması durumu, bu seçici dikkat nedeniyle kişinin üzüntüsünü, sıkıntısını ve sağlık anksiyetesini artırıyor. Burada ana sorun yapay zeka veya internetin kendisi değil, kullanım biçimi. Doğru bir şekilde kullanıldığı takdirde yapay zeka, ihtiyaç duyulan eğitim içeriklerine ulaşma, sorunlara yeni bakış getirebilme, hatta anksiyete ve depresyon belirtilerinde azalmaya yardımcı olacak psikoterapi hizmeti sunmaya kadar katkı sağlayabilir.
-- Ancak bireyin zihinsel süreçlerinin kaygı odaklı çalışması, özellikle bedensel duyumların yanlış yorumlanması ya da sağlık kurumlarına duyulan güvensizlik gibi etkenlerle birleştiğinde, yapay zekâya başvurunun bir çözümden ziyade kısır bir döngüye dönüşüyor.
‘ORGANİK PSİKOZ’ RİSKİNE DİKKAT: ZEHİRLENME TEK BAŞINA YETERLİ NEDEN OLABİLİR Mİ?
Son yaşanan vakaya bakınca, halüsinasyon ve paranoya gibi semptomların bu kadar kısa sürede ortaya çıkması yalnızca bromür etkisiyle mi açıklanabilir, yoksa altta yatan başka psikolojik faktörler de olabilir mi?
Bu soruma “Vakada bahsi geçen bromür zehirlenmesinin çok uzun yıllar önce yaygın olarak tedavide kullanılan bromür tuzlarına bağlı cilt bulguları ve nöropsikiyatrik semptomlar açığa çıkarabilen bir toksisiteydi” cevabını veren Uzm. Dr. Onur Yılmaz, şu bilgilerin altını çizdi:
“Son 50 yıldır kullanımı oldukça sınırlandırılmış olup, günümüz şartlarında herhangi bir doktorun “Klorür yerine Bromür” önermesi pek olası görünmüyor. Bu vakada görülen halüsinasyonlar ve paranoya gibi gerçekten kopuk yaşantıların açığa çıkması doğrudan zehirlenme tablosu ile açıklanabilir. Ensefalit gibi kimi enfeksiyonlar, kafa travması ya da cerrahi işlem geçirme, nörolojik hastalıklar, endokrin bozukluklar, başka ilaç veya maddeye bağlı zehirlenme veya altta yatan diğer tıbbi durumlara bağlı olarak ‘organik psikoz’ adı verilen tablolar görülebilir.” /HÜRRİYET.COM.TR
