Yapay zeka neden tanı koymamalı?

Yapay zeka modelleri, metni özetlemede, bilgiyi yapılandırmada ve örüntüleri fark etmede giderek daha yetkin hale geliyor. Bu yetkinlik, doğal olarak bir soruyu da beraberinde getiriyor: Madem bir model seans kaydını okuyup özetleyebiliyor, neden bir adım daha ileri gidip tanı önermesin? Bu yazıda, klinik alanda yapay zekanın tanı koymaması gerektiğini neden bir tasarım ilkesi olarak benimsediğimizi açıklıyoruz.

Tanı, bir etiketten fazlasıdır

Klinik bir tanı, belirtilerin bir listeyle eşleştirilmesinden ibaret değildir. Tanı süreci; danışanın geçmişini, yaşam koşullarını, kültürel bağlamını, belirtilerin süresini ve şiddetini, ayırıcı tanıyı ve zaman içindeki gözlemleri bir araya getiren bir klinik muhakeme sürecidir. Bu muhakeme çoğu zaman tek bir seansla tamamlanmaz; birden fazla görüşme, gerektiğinde ölçekler ve meslektaş danışmanlığı gerektirir.

Bir seans kaydı ise bu bütünün yalnızca küçük bir parçasıdır. Model, kayıtta söylenenleri görür; söylenmeyenleri, beden dilini, sessizlikleri ve terapistin yıllar içinde biriktirdiği klinik sezgiyi göremez.

Sorumluluk kimde?

Tanı, sonuçları olan bir karardır. Tedavi planını, danışanın kendini nasıl algıladığını ve bazı durumlarda hukuki ya da sosyal sonuçları etkileyebilir. Bu kararın sorumluluğu, eğitim almış, meslek etiğine bağlı ve hesap verebilir bir uzmanda olmalıdır. Bir yazılım bu sorumluluğu taşıyamaz.

Bir araç ne kadar yetenekli olursa olsun, verdiği kararın sonuçlarını üstlenemiyorsa o kararı vermemelidir.

Otomasyon yanlılığı gerçek bir risktir

Bir sistem tanı önerdiğinde, en deneyimli uzmanlar bile bu öneriden etkilenebilir. İnsanların otomatik sistemlerin çıktısına gereğinden fazla güvenme eğilimi, pek çok alanda tartışılan bir olgudur. Klinik bir ortamda bu eğilim, uzmanın kendi gözlemlerini ikinci plana atmasına ve yanlış bir etiketin not üzerinden sürece yerleşmesine yol açabilir.

Tanı önermeyen bir sistem ise uzmanı düşünmeye davet eder. Karşısında hazır bir sonuç değil, düzenlenmiş bir malzeme vardır. Yorum ve karar yine ona aittir.

Peki yapay zeka ne yapmalı?

Yapay zekanın klinik alandaki en değerli rolü, uzmanın zamanını geri kazandırmaktır. Bu çerçevede doğru görevler şunlardır:

• Yapılandırma: Seansta konuşulanları tutarlı başlıklar altında düzenlemek.
• Özetleme: Önemli noktaları, danışanın kendi ifadelerine sadık kalarak öne çıkarmak.
• İzlenebilirlik: Her maddeyi kaydın ilgili dakikasına bağlayarak uzmanın doğrulamasını kolaylaştırmak.
• Süreklilik: Önceki seanslarda konuşulan hedefleri ve ev ödevlerini hatırlatmak.

Bu görevlerin hiçbiri klinik yargının yerini almaz; tümü, klinik yargıya daha fazla alan açar.

Sınırları tasarımda çizmek

Danışanla konuşmayan bir sistem

Terapötik ilişki, iki insan arasında kurulur. Bu nedenle bir dokümantasyon aracının danışanla doğrudan iletişim kurmaması, ona geri bildirim vermemesi ve terapistin yerine geçmemesi gerekir.

Onaysız arşiv yok

Model tarafından hazırlanan her taslak, uzman onaylamadan kalıcı kayda dönüşmemelidir. Onay adımı, sorumluluğun kimde olduğunu her seferinde yeniden hatırlatır.

Kaynağı gösterilebilen her cümle

Bir taslakta yer alan her ifadenin, kaydın hangi anından geldiği gösterilebilmelidir. Kaynağı belli olmayan bir özet, uzmanın doğrulamasını zorlaştırır ve modelin kendi çıkarımlarını gerçek bir gözlem gibi sunmasına kapı aralar. İzlenebilirlik, hem hatanın erken fark edilmesini hem de uzmanın taslağa duyduğu güvenin sağlam bir temele oturmasını sağlar.

Danışan açısından güven

Bu sınırlar yalnızca uzmanı değil, danışanı da korur. Terapiye gelen bir kişi, anlattıklarının bir yazılım tarafından etiketlenmesini değil, eğitimli bir insan tarafından dinlenip anlaşılmasını bekler. Kaydın hangi amaçla kullanılacağının danışana açıkça anlatılması ve yapay zekanın tanı koymadığının bilinmesi, terapötik ilişkideki güvenin korunmasına katkı sağlar.

ConsulTech'in yaklaşımı

Psikolog AI'yı geliştirirken bu ilkeleri ürünün temeline yerleştirdik. Sistem tanı koymaz, danışanla konuşmaz ve danışanın kimliğini M.A.R. gibi kod adlarla maskeler. Hazırladığı on başlıklı seans notunda "Klinik değerlendirme" bölümü, yalnızca seansta gözlemlenen ve konuşulan içeriği düzenler; değerlendirmeyi yapan, düzelten ve onaylayan her zaman psikologdur.

Yapay zekanın klinik alandaki geleceği, uzmanın yerini almasında değil, uzmanın işini daha iyi yapabilmesi için ona zaman ve düzen sağlamasında yatıyor.