Resumen: La suscripción de seguros comerciales es un proceso que requiere mucha mano de obra y requiere la revisión manual de una extensa documentación para evaluar el riesgo y determinar el precio de las pólizas. Si bien la IA ofrece mejoras sustanciales en la eficiencia, las soluciones existentes carecen de capacidades de razonamiento integrales y de mecanismos internos para garantizar la confiabilidad en entornos regulados y de alto riesgo. La automatización total sigue siendo poco práctica y desaconsejable en escenarios donde el juicio y la responsabilidad humanos son críticos. Este estudio presenta un sistema agente de decisión negativa y con un ser humano involucrado que incorpora un mecanismo de autocrítica adversario como una arquitectura de seguridad limitada para flujos de trabajo de suscripción regulados. Dentro de este sistema, un agente crítico cuestiona las conclusiones del agente principal antes de enviar recomendaciones a revisores humanos. Este sistema interno de controles y equilibrios aborda una brecha crítica en la seguridad de la IA para los flujos de trabajo regulados. Además, la investigación desarrolla una taxonomía formal de modos de falla para caracterizar errores potenciales cometidos por agentes que toman decisiones negativas. Esta taxonomía proporciona un marco estructurado para la identificación y gestión de riesgos en aplicaciones de alto riesgo. La evaluación experimental utilizando 500 casos de suscripción validados por expertos demuestra que el mecanismo de crítica adversaria reduce las tasas de alucinaciones de IA del 11,3% al 3,8% y aumenta la precisión de las decisiones del 92% al 96%. Al mismo tiempo, el marco impone una estricta autoridad humana sobre todas las decisiones vinculantes diseñadas. Estos hallazgos indican que la autocrítica adversaria apoya un despliegue más seguro de la IA en dominios regulados y ofrece un modelo para la integración responsable donde la supervisión humana es indispensable.
Publicado originalmente en export.arxiv.org el 16 de febrero de 2026.
Ver fuente original
