Daha fazla insan, iş stresi, ilişki kaygıları ve daha fazlası gibi günlük sorunlarda yapay zeka (YZ) sohbet robotlarından yardım istiyor. Şimdi, yeni bir çalışma, zihinsel sağlık tavsiyesi söz konusu olduğunda bu sistemlerin yetersiz kalabileceği konusunda uyarıyor. Rhode Island Brown Üniversitesi'nden bir ekip, YZ sistemlerine eğitimli terapistler gibi davranmaları söylendiğinde, genellikle profesyonel etik standartlarını karşılayamadıklarını buldu. Ekip, bu sistemlerin danışmanlık benzeri konuşmalarda nasıl tepki verdiğini incelemek için zihinsel sağlık uzmanlarıyla birlikte çalıştı. Çalışmaları, büyük dil modeli (LLM) danışmanlarının zihinsel sağlık uygulamalarında standartları nasıl ihlal ettiğini göstermek için bir dizi etik riski inceledi. OpenAI'nin GPT modellerinin çeşitli versiyonları, Anthropic'in Claude'u ve Meta'nın Llama'sı da dahil olmak üzere birçok büyük yapay zeka sistemi test edildi.

Çalışma için araştırmacılar, eğitimli akran danışmanlarından, sistemlerin bilişsel davranışçı terapi (BDT) veya diyalektik davranışçı terapi (DBT) danışmanları gibi davranmasını sağlamak üzere tasarlanmış yönlendirmeler kullanarak yapay zeka ile uygulama terapi seansları yapmalarını istediler. Daha sonra üç lisanslı psikolog yapay zeka yanıtlarını inceledi. Çalışmanın belirlediği bazı riskler;

Yapay zeka genellikle kişinin benzersiz geçmişini göz ardı etti.
Bazen konuşmaları çok güçlü bir şekilde yönlendirdi veya zararlı inançları pekiştirdi.
Yapay zeka, duyguları gerçekten kavramadan "Anlıyorum" gibi ifadeler kullandı.
Bazı yanıtlar cinsiyet, din veya kültürel önyargılar sergiledi.
Bazı durumlarda, sohbet robotları intihar düşüncelerini yanlış ele aldı veya kullanıcıları uygun yardıma yönlendirmede başarısız oldu.

Makalenin/Haberin İngilizce versiyonuna buradan ulaşabilirsiniz.
Haber Yayınlanma Tarihi : 04.03.2026

---

Haberi Sosyal Medyada Paylaş:

Uzun Süreli COVID, Kalp Sağlığı Riskleriyle İlişkili

Yeni bir araştırma, uzun süreli COVID geçiren kişilerin, hastaneye yatırılacak kadar ağır hasta olmayan genç yetişkinler de dahil olmak üzere, ciddi kalp sorunları yaşama riskinin daha yüksek olduğunu gösteriyor. Uzun süreli COVID, ... Devamını oku

Okul Öncesi Çocukların Tek Başına Ekran Başında Geçirdiği Zaman, Daha Sonra Davranış Problemlerine ve Dil Zorluklarına Yol Açabilir

Yeni bir araştırmaya göre, okul öncesi çağındaki çocuğunuzun ekran başında vakit geçirmesine izin vermek, zihinsel ve duygusal gelişimini olumsuz etkileyebilir. Araştırmacılar, günde yarım saate kadar denetimsiz ekran başında vaki... Devamını oku

Bilim İnsanları Artrit Nedeniyle Hasar Gören Eklemleri Yeniden Oluşturmanın Yeni Yollarını Test Ediyor

İki ekip — biri Duke Üniversitesi'nde, diğeri Colorado Boulder Üniversitesi'nde — kıkırdak ve kemiği yeniden oluşturmaya yardımcı olabilecek enjeksiyonlar veya infüzyonlar geliştiriyor. Columbia Üniversitesi'ndeki üçüncü bir ekip... Devamını oku