Norma para el consumo de IA Generativa

Ámbito de aplicación de la norma

Esta norma se aplica a cualquier escenario donde, para la realización de una tarea, se utilice IA Generativa como acelerador.

Las directrices que contiene la norma son independientes de la solución de IA Generativa que se utilice.  Si además de utilizar IA Generativa estás desarrollando un sistema IA completo, deberás seguir -además de ésta- la norma para el desarrollo de sistemas IA.

Cumplimiento normativo

DIR_1 Conformidad con el reglamento UE de IA

OBLIGATORIO Toda interacción con la IA Generativa debe cumplir con:

• El Reglamento (UE) 2024/1689 de Inteligencia Artificial
• Las directrices éticas europeas para una IA fiable
• La estrategia andaluza sobre IA 2030.
• El Artículo 50: Obligaciones de transparencia de los proveedores y responsables del despliegue de determinados sistemas de IA

DIR_2 Cumplimiento del RGPD

OBLIGATORIO Toda interacción con la IA Generativa debe respetar en todo momento los principios establecidos en el RGPD, en particular:

• Licitud, lealtad y transparencia
• Limitación de la finalidad
• Minimización de datos
• Integridad y confidencialidad

Cómo y cuándo utilizar la IA Generativa

DIR_3 Uso de IA Generativa para consultas sensibles

OBLIGATORIO Se deben utilizar exclusivamente modelos de IA corporativos autorizados por la Junta de Andalucía que garanticen la privacidad y protección de la información compartida en consultas sensibles.

Se consideran consultas sensibles:

• Aquellas en las que se comparta documentación propiedad de la Junta de Andalucía.
• Aquellas en las que se adjunte código fuente propiedad de la Junta de Andalucía.
• Aquellas en las que se introduzcan datos sensibles asociados a personas físicas o a la Junta de Andalucía.

DIR_4 Protección del código y activos propietarios

OBLIGATORIO Se deben utilizar modelos de IA corporativos autorizados por la Junta de Andalucía que preserven la confidencialidad del código propietario, algoritmos internos, documentación, configuraciones sensibles y credenciales en todo momento.

DIR_5 Selección de herramientas que protejan la propiedad intelectual

OBLIGATORIO Se deben utilizar herramientas basadas en IA autorizadas por la Junta de Andalucía y que garanticen la no reutilización de la información proporcionada para entrenamiento de agentes y fines no autorizados.

DIR_6 Uso de IA Generativa para consultas generales

RECOMENDADO Se recomienda utilizar modelos de IA corporativos autorizados por la Junta de Andalucía para la realización de consultas generales (técnicas, legales, documentales o de otra naturaleza) en el desarrollo habitual de la actividad, siempre que no impliquen la exposición de información sensible ni compartir activos propiedad de la Junta de Andalucía.

DIR_7 Elaboración de borradores iniciales

RECOMENDADO Se recomienda utilizar la IA Generativa para la generación de borradores iniciales, que sirvan como base para el desarrollo posterior del contenido, teniendo en cuenta que los resultados pueden contener imprecisiones, sesgos o interpretaciones no correctas.

DIR_8 Uso de la IA Generativa como apoyo al análisis

RECOMENDADO Se recomienda utilizar la IA Generativa como herramienta de apoyo para el análisis de información, facilitando la identificación de patrones y la síntesis de contenidos, teniendo en cuenta que los resultados pueden contener imprecisiones, sesgos o interpretaciones no correctas.

Calidad de las instrucciones (prompt engineering)

DIR_9 Control sobre la información introducida en prompts

OBLIGATORIO La información incluida en los prompts debe ser revisada previamente, asegurando que no incluye datos personales, confidenciales o estratégicos.

DIR_10 Uso de ejemplos ficticios o anonimizados

OBLIGATORIO Las instrucciones deben redactarse utilizando ejemplos ficticios o datos anonimizados cuando se simulen casos reales. Si en algún momento debe introducirse en el prompt información sensible siempre deberá ser la mínima posible para cumplir con el RGPD.

DIR_11 Definición clara de la tarea

RECOMENDADO Se recomienda que las instrucciones que se envíen al modelo de IA Generativa sean claras, específicas y no ambiguas para garantizar la calidad del resultado.

DIR_12 Definición apropiada del contexto

RECOMENDADO Se recomienda incluir un contexto que aporte información adicional sobre el destinatario y el uso previsto del contenido en la instrucción que se envíe al modelo de IA Generativa. Incluir contexto permite a la herramienta adaptar el tono, el nivel de detalle y el enfoque del resultado.

DIR_13 Formulación específica y detallada de las instrucciones

RECOMENDADO Se recomienda formular las instrucciones de manera concreta, específica y suficientemente detallada, definiendo claramente la tarea, el alcance y el resultado esperado.

DIR_14 Definición de la estructura del contenido

RECOMENDADO Siempre que se utilice un modelo de IA Generativo autorizado por la organización, se recomienda en la instrucción definir la estructura del contenido, incluyendo organización, secciones y nivel de detalle para mejorar la legibilidad y coherencia del resultado.

Control del formato y estilo del resultado

DIR_15 Uso adecuado según finalidad

OBLIGATORIO Las funcionalidades de la IA Generativa deben utilizarse de acuerdo con una finalidad definida y alineada con el contexto organizativo.

DIR_16 Adecuación al contexto institucional

OBLIGATORIO El contenido generado debe garantizar coherencia, calidad y adecuación al contexto institucional, incluyendo criterios de neutralidad, rigor y claridad

DIR_17 Revisión de cumplimiento en propiedad intelectual

OBLIGATORIO Se debe verificar que el contenido generado respeta derechos de propiedad intelectual, evitando similitudes no justificadas o uso indebido de contenido protegido.

DIR_18 Auditabilidad y trazabilidad

OBLIGATORIO Se deben implementar mecanismos que permitan el seguimiento completo de los datos y las decisiones generadas por la IA, garantizando que toda acción tomada por la IA sea verificable. Los datos auditados deben poder reconstruir el proceso completo:

• Datos de entrada (anonimizados o protegidos cuando revelen información sensible)
• Transformaciones
• Tecnología y versión del modelo que utiliza el sistema IA
• Parámetros
• Logs de ejecución

DIR_19 Especificación del formato de salida

RECOMENDADO Se recomienda especificar el formato de salida esperado (por ejemplo, tabla, lista, pasos, resumen o esquema) en la instrucción.

Proceso iterativo y mejora continua

DIR_20 Uso de la IA Generativa dentro de flujos de trabajo definidos

OBLIGATORIO El uso de la IA Generativa debe integrarse en flujos de trabajo estructurados, que definan las fases de generación, revisión y validación del contenido

DIR_21 Iteración y corrección de resultados generados

RECOMENDADO Se recomienda iterar sobre los resultados generados por la IA Generativa para refinarlos y corregir errores, imprecisiones o inconsistencias. La mejora iterativa permite obtener resultados más precisos y ajustados al objetivo.

DIR_22 Uso de herramientas de apoyo para prompts

RECOMENDADO Se recomienda utilizar herramientas o asistentes de apoyo autorizados por la Junta de Andalucía para mejorar la formulación de instrucciones para facilitar la optimización de prompts y la mejora de la calidad del resultado.

Validación y control humano

DIR_23 Supervisión humana del proceso

OBLIGATORIO El uso de IA Generativa debe realizarse bajo supervisión humana continua durante todo el proceso. La supervisión es necesaria debido al carácter probabilístico de los resultados.

DIR_24 Validación del contenido generado

OBLIGATORIO El contenido generado por la IA generativa debe considerarse siempre como un borrador inicial. Su exactitud, fiabilidad y adecuación normativa deben revisarse antes de su uso y ser validadas por personal responsable y debidamente cualificado.

DIR_25 Uso de la IA Generativa como herramienta de apoyo

OBLIGATORIO La IA Generativa debe utilizarse sólo como herramienta de apoyo para la generación, análisis y organización de la información, manteniendo el control humano sobre el resultado final y siendo el personal el responsable último del resultado y sus consecuencias.

Desarrollo de software

DIR_26 Uso de IA Generativa en desarrollo de software

OBLIGATORIO Se debe utilizar la IA Generativa como una herramienta de apoyo al desarrollo que nunca debe sustituir al propio desarrollador ni su experiencia o criterio técnico.

DIR_27 Propiedad intelectual del código generado

OBLIGATORIO La propiedad del código generado con las herramientas de IA Generativa es de la Junta de Andalucía. Por ello, deben utilizarse solo las herramientas de IA Generativa autorizadas ya que garantiza que sus modelos no van a utilizar el código propiedad de la Junta de Andalucía para entrenar sus propios modelos ni cederlo a terceros.

DIR_28 Revisión de licencias del código generado

OBLIGATORIO Se debe validar que el código generado cumple con las políticas de licenciamiento y no introduce dependencias no autorizadas.

DIR_29 Validación de seguridad del código generado

OBLIGATORIO Todo código generado debe someterse a revisiones de seguridad, incluyendo análisis de vulnerabilidades, robustez y rendimiento.

DIR_30 Desarrollo de conocimiento técnico interno

RECOMENDADO Se recomienda mantener y reforzar el conocimiento técnico interno evitando dependencia excesiva de herramientas de IA.