Terapötik Yapay Zeka: Yeni Düzenleyici Mayın Tarlası

Yapay Zeka Yasası (AI Act) nihayet soyut kabuğundan sıyrılıyor ve 'terapötik' ve 'duygusal destek' odaklı yapay zeka konusunda somutlaşıyor. Yakın tarihli kılavuzlar, psikolojik destek için uyarlanmış genel amaçlı yapay zeka (GPAI) dahil olmak üzere terapi için tasarlanmış sistemlerin mercek altında olduğunu netleştiriyor. Sağlayıcılar artık çift katmanlı bir uyumluluk yüküyle karşı karşıya: Modelin temel bütünlüğünden ve terapötik uygulamanızın özel dağıtımından siz sorumlusunuz.

Belçika'daki KOBİ ekosistemi için bu bir uyarı niteliğinde. Eğer uygulamanız 'destekleyici sohbetler' veya ruh sağlığına yönelik yönlendirmeler sunmak için bir LLM kullanıyorsa, sadece yazılım satmıyorsunuz; potansiyel olarak yüksek riskli, tıbbi nitelikte bir araç işletiyorsunuz. AB, 'bu sadece bir sohbet robotu' savunmasından uzaklaşıyor. Sisteminiz bir kullanıcının duygusal durumunu veya ruh sağlığını etkiliyorsa, geleneksel bir med-tech firmasını bile terletecek düzeyde sıkı risk yönetimi sistemleri, insan gözetimi ve veri yönetişimi uygulamanız bekleniyor.

Bunu görmezden gelmek sadece düzenleyici bir risk değil, aynı zamanda bir sorumluluk kabusudur. Belçikalı düzenleyiciler, hasta verileri ve sağlıkla ilgili hizmetler söz konusu olduğunda oldukça titizdir. Bu alanda bir şeyler inşa ediyorsanız, yapay zekanızı kara kutu bir özellik olarak görmeyi bırakıp, onu klinik bir bileşen olarak ele almaya başlamalısınız.

Bu çeyrekte, ürün yol haritanız üzerinde bir 'Düzenleyici Denetim' gerçekleştirin. Duygusal destek veya terapötik etkileşim ima eden her özelliği tanımlayın. Herhangi birini bulursanız, bunları hemen Yapay Zeka Yasası'nın yüksek risk gereklilikleriyle karşılaştırın. Modelinizin ruh sağlığı krizi yaşayan bir kullanıcıyı nasıl ele aldığını belgeleyemiyorsanız, o özelliği piyasaya sürmemelisiniz. Bir özelliği şimdi kaldırmak, Veri Koruma Otoritesi kapınızı çaldığında ürünü App Store'dan çekmekten çok daha iyidir.

Kaynak: https://artificialintelligenceact.eu/ai-therapy-under-the-eu-ai-act/