Resumen: Las aplicaciones de salud mental han surgido como un área crítica en la salud computacional, impulsadas por el aumento de las tasas globales de enfermedad mental, la integración de la IA en la atención psicológica y la necesidad de soluciones escalables en las comunidades desatendidas. Estos incluyen chatbots de terapia, detección de crisis y plataformas de bienestar que manejan datos confidenciales, que requieren seguridad de IA especializada más allá de las salvaguardas generales debido a la vulnerabilidad emocional, los riesgos como el mal diagnóstico o la exacerbación de los síntomas y el manejo preciso de los estados vulnerables para evitar resultados severos como la autocominación o la pérdida de confianza. A pesar de los avances de seguridad de IA, las salvaguardas generales abordan inadecuadamente los desafíos específicos de la salud, incluida la precisión de la intervención de crisis para evitar las escaladas, la adhesión de las directrices terapéuticas para evitar la información errónea, las limitaciones de escala en entornos con recursos y adaptación a las diálogos anguacados donde los genéricos pueden introducir prejuicios o perder señales de angustia. Introducimos un enfoque para aplicar capacitación constitucional de IA con principios de salud mental específicos de dominio para sistemas CAI seguros y adaptados al dominio en aplicaciones de salud mental computacional.
Publicado Originalme en export.arxiv.org El 22 de septiembre de 2025.
Ver Fuente Original
