Política de seguridad en Inteligencia Artificial para Atapia

• IntroducciónAtapia es una herramienta de apoyo a la salud mental basada en inteligencia artificial (IA) y en los principios clínicos de la Teoría Cognitivo-Conductual (TCC). Su diseño y aplicación están alineados con el Reglamento Europeo de IA (UE 2024/1689), el Reglamento General de Protección de Datos (RGPD), y demás normativas aplicables para garantizar la protección de los derechos fundamentales de los ciudadanos europeos. Esta política tiene como objetivo detallar las medidas de seguridad, privacidad y responsabilidad que rigen el uso de Atapia.

  Cumplimiento con el Reglamento Europeo de IA

  El Reglamento Europeo de IA (2024/1689) establece un marco legal destinado a regular los sistemas de inteligencia artificial que pueden tener un impacto en la salud y seguridad de las personas, clasificando los sistemas según el riesgo que representan. Atapia es considerada una herramienta de riesgo limitado, ya que no realiza diagnósticos ni pre-diagnósticos y su función es únicamente de apoyo. Aun así, cumple con los más altos estándares de seguridad, transparencia y supervisión humana, en conformidad con los requisitos de transparencia y gestión de riesgos establecidos para este tipo de sistemas.

  Declaración de uso

  Atapia ha sido diseñada para proporcionar apoyo en salud mental utilizando técnicas basadas en la Terapia Cognitivo-Conductual, ayudando a los usuarios a reflexionar sobre sus pensamientos y emociones. No obstante, se debe subrayar que Atapia no sustituye la terapia profesional ni actúa como un diagnóstico clínico. La herramienta es exclusivamente un complemento a los recursos de salud mental ya existentes y debe utilizarse en combinación con la atención profesional cuando sea necesario.

  Validación y restricciones de acceso

  Para asegurar el uso adecuado de Atapia y proteger a personas vulnerables y menores de edad, se implementará un test de validación previo al acceso. Este test permitirá identificar y restringir el uso a aquellos usuarios que no cumplan con los criterios de seguridad establecidos. Atapia está prohibida para menores de edad, conforme a la normativa europea, y su uso por personas vulnerables se encuentra estrictamente regulado. El sistema bloqueará el acceso de usuarios que no cumplan con estos requisitos.

  Filtro de evaluación y supervisión humana

  Atapia incorpora un filtro de evaluación en tiempo real que monitorea las interacciones de los usuarios para detectar signos de riesgo o peligro, como respuestas incoherentes o indicios de crisis emocional. Si el sistema detecta una situación de riesgo, se bloqueará el acceso automáticamente y se notificará inmediatamente a un equipo de supervisión humana, conformado por psicólogos clínicos. Esta medida permite una intervención humana oportuna, garantizando que el usuario reciba la atención adecuada si se considera necesario.

  Medidas de seguridad adicionales para Sistemas de IA de Riesgo Limitado

  Conforme a la clasificación de sistemas de IA de riesgo limitado, Atapia cumple con los siguientes requisitos adicionales:

  • Transparencia del sistema: Los usuarios serán debidamente informados sobre las capacidades y limitaciones de la herramienta, incluyendo su precisión, ámbito de aplicación y los posibles riesgos que implican su uso.
  • Supervisión humana: Las interacciones de alto riesgo serán gestionadas y supervisadas por profesionales capacitados para garantizar la seguridad y protección de los usuarios.
  • Precisión y ciberseguridad: Atapia está diseñada con mecanismos robustos de protección frente a la manipulación de datos y garantiza un alto nivel de seguridad cibernética, en línea con los estándares europeos.

  Respuesta a anomalías

  Si durante la interacción Atapia detecta anomalías o incoherencias graves en las respuestas del usuario, la herramienta interrumpirá automáticamente la conversación y notificará al usuario que no puede continuar. Esta medida se toma para evitar cualquier uso indebido o potencialmente dañino para el bienestar del usuario.

  Protección de datos y privacidad

  Atapia garantiza el cumplimiento de las disposiciones establecidas en el Reglamento General de Protección de Datos (RGPD), protegiendo la privacidad y confidencialidad de la información personal de los usuarios. Todos los datos recopilados durante el uso de la herramienta se manejan de manera segura, limitándose únicamente a los fines de funcionamiento y evaluación del sistema, sin transferirse a terceros sin el consentimiento explícito del usuario.

  Medidas adicionales de seguridad

  • Auditorías y controles periódicos: Se realizarán revisiones continuas de la seguridad y conformidad del sistema para garantizar el cumplimiento con las normativas vigentes.
  • Información clara y accesible: Los usuarios recibirán información detallada sobre el uso seguro y responsable de la herramienta.
  • Enlaces a servicios de apoyo profesional: Atapia proporcionará acceso directo a recursos y servicios de atención profesional para aquellos usuarios que necesiten asistencia adicional.

  Conclusión

  Atapia está diseñada para ser una herramienta segura y eficaz, que cumple rigurosamente con el Reglamento Europeo de IA y otras normativas europeas sobre salud mental y protección de datos. A través de estas medidas, se garantiza la protección del bienestar, seguridad y derechos de los usuarios, minimizando los riesgos potenciales y proporcionando un recurso que complementa la atención profesional en salud mental.