Yapay Zeka Terapisinin Yüksek Riskleri

AB Yapay Zeka Yasası, terapi veya duygusal destek için tasarlanmış sistemler üzerindeki denetimini sıkılaştırıyor. Eğer ürününüz, kullanıcılarla terapötik bir bağlamda etkileşim kurmak için Genel Amaçlı Yapay Zeka (GPAI) kullanıyorsa, artık sadece bir özellik geliştirmiyorsunuz; çıktınızı potansiyel bir klinik müdahale olarak gören yüksek riskli bir düzenleyici çerçevenin içinde hareket ediyorsunuz.

Belçika'daki KOBİ dünyası için bu bir uyarı niteliğinde. Birçoğumuz, SaaS platformlarımıza değer katmak için bir "iyilik hali botu" veya "yapay zeka koçu" ekleme eğilimindeyiz. Yasa kapsamında bunlar artık sadece akıllı arayüzler değil. Eğer sisteminiz duygusal destek veya terapi sağlama amacı taşıyorsa, fiilen bir tıbbi cihaz sağlayıcısının rolüne bürünüyorsunuz. Şeffaflık, insan gözetimi ve veri yönetişimi konularında katı yükümlülüklerle karşı karşıyasınız. Modelin birincil geliştiricisi olmasanız bile, sisteminizin güvenli olduğunu ve tehlikeli bir tavsiyede bulunmayacağını (halüsinasyon görmeyeceğini) kanıtlama yükü tamamen sizin omuzlarınızda.

Küçük bir stüdyo olduğunuz için düzenleyicilerin başka yerlere odaklandığını varsaymayın. AB, duygusal durumları manipüle eden veya insan empati yeteneğini taklit eden yapay zekaya karşı özellikle hassas. Eğer ürününüz bir kullanıcının ruh sağlığını etkiliyorsa, modelin rotadan çıkma riskini nasıl azalttığınızı belgelemeniz gerekir. "Bu sadece bir LLM deneyi" dönemi, terapötik alana girdiğiniz an sona erer.

Bu çeyrekte, mevcut yol haritanız üzerinde bir "Terapötik Niyet Denetimi" gerçekleştirin. Duygusal durumlar, depresyon veya anksiyete üzerine tavsiye veren herhangi bir özelliğiniz varsa, sistemin tam olarak nerede bir bilgi aracı olmaktan çıkıp destek aracına dönüştüğünü belgeleyin. Eğer bu sınırları net bir şekilde tanımlayamıyorsanız, özellikleri tamamen bilgilendirici içerik seviyesine indirgeyin. "Olsa iyi olur" dediğiniz bir özelliği kaybetmek, önümüzdeki iki yılınızı Belçika veri koruma otoritesi veya AB Yapay Zeka Ofisi'nden gelecek bir denetimle uğraşarak geçirmekten çok daha iyidir.

https://artificialintelligenceact.eu/ai-therapy-under-the-eu-ai-act/