Por qué una fundición de IA local y qué cambios GxP

Parte 1 de 6. El índice de la serie, con enlaces a cada parte a medida que se publica, es la Parte 0: Introducción y mapa de la serie. Esta serie está dirigida a las personas que deben defender la capacidad compartida de IA en una organización de ciencias biológicas regulada: jefes de arquitectura, directores de tecnología y vicepresidentes de ingeniería, junto con sus socios en calidad, validación y seguridad. Se supone que sabes qué son un modelo de lenguaje y un índice vectorial. Los términos básicos se definen en el glosario al final de la serie. El estado regulatorio se establece a partir de septiembre de 2026 y cambiará. Esta es una guía técnica, no un consejo legal.

El problema que resuelve esta serie

La mayoría de las organizaciones de software de ciencias biológicas inician la IA de la misma manera. Un equipo de producto llama a un modelo alojado. Otro elige un modelo diferente. Un tercero construye su propio canal de recuperación. Cada equipo hace una elección local sensata. La organización acaba con un problema que nadie eligió.

Los síntomas son predecibles.

• Los documentos se copian en varios índices y las copias se desvían de las versiones aprobadas en el sistema de gestión de documentos.
• Algunas integraciones aplican reglas de acceso y otras no, por lo que el mismo usuario obtiene diferentes respuestas a la pregunta "¿puedo ver esto?"
• Los avisos se encuentran en el código, en las hojas de cálculo y en los historiales de chat, y nadie puede decir qué aviso produjo el resultado del mes pasado.
• No existe una base de evaluación compartida, por lo que "el modelo mejoró" y "el modelo empeoró" son opiniones, no mediciones.
• Cada integración mantiene sus propios registros, en su propio formato, con su propio período de retención o sin ninguno.

En un entorno GxP, estas no son molestias de ingeniería. Son hallazgos de inspección esperando a suceder. Un inspector que vea un resumen de desviación redactado por IA hará una cadena de preguntas. ¿Qué versión del procedimiento leyó el sistema? ¿A quién se le permitió verlo? ¿Qué modelo y qué mensaje produjo el texto? ¿Qué ha cambiado desde que se validó el sistema? ¿Quién revisó el resultado antes de que ingresara al registro? Un patrimonio ad hoc no puede responder esas preguntas de manera consistente, y una respuesta inconsistente es peor que ninguna respuesta.

La evidencia dice que la ruta ad hoc rara vez es rentable, incluso fuera del trabajo regulado. Un estudio del MIT de 2025 sobre IA generativa empresarial, basado en una encuesta de 153 líderes, 52 entrevistas a ejecutivos y un análisis de más de 300 implementaciones públicas, encontró que alrededor del 95 por ciento de los pilotos no produjeron ningún impacto mensurable en las pérdidas y ganancias [16]. El estudio culpa a la brecha de aprendizaje y a la débil integración en flujos de trabajo reales, no a la calidad del modelo. Los ganadores fueron sistemas estrechos de back-office que se ajustaban a un proceso existente, y las organizaciones que se asociaron con especialistas tuvieron aproximadamente el doble de éxito que aquellas que construyeron solos [16]. Un informe de RAND de 2024 señala que, según algunas estimaciones, más del 80 por ciento de los proyectos de IA fracasan, el doble que otros proyectos de TI. A partir de 65 entrevistas con científicos e ingenieros de datos, se identifican cinco causas fundamentales: un problema mal entendido, datos inadecuados, perseguir la tecnología en lugar del resultado, inversión insuficiente en infraestructura de implementación y problemas más allá de lo que la IA actual puede hacer [17]. La mayoría de esas causas son organizativas y una plataforma es una respuesta organizacional.

Una fundición local de IA es la respuesta. Es una plataforma compartida y autohospedada que proporciona modelos, recuperación, aplicación de políticas, evaluación, auditoría y operaciones para cada producto, manteniendo aislados los datos, permisos, indicaciones y umbrales de calidad de cada producto. Los equipos de productos consumen una API pequeña y estable. El equipo de la plataforma posee los controles sobre los que preguntarán los inspectores.

La división de responsabilidades es el corazón de la idea.

La palabra "fundición" es deliberada. Una fundición no decide qué se moldea. Garantiza que todo lo que se lanza cumple con un estándar.

¿Qué significa "local" aquí?

"Local" tiene un significado preciso en esta serie.

• Autohospedado. Los modelos, índices, solicitudes y registros se ejecutan en la infraestructura que controla la organización.
• Capacidad para espacio de aire. La plataforma debe funcionar sin conectividad saliente. Los pesos, contenedores y dependencias de los modelos se incorporan una vez y se actualizan mediante el control de cambios.
• Soberano. Ningún aviso, fragmento de documento o salida sale del límite a menos que una decisión documentada lo permita.

¿Por qué llegar tan lejos? Hay cuatro razones, y solo una de ellas tiene que ver con la salida de datos del edificio.

Estado validado. Un sistema computarizado GxP se valida para el uso previsto y luego se mantiene en ese estado [2][10]. Un modelo alojado que cambia debajo de usted, a través de una actualización de versión silenciosa, rompe ese estado sin ninguna solicitud de cambio de su parte. Una versión de modelo fijada localmente cambia solo cuando usted lo decide, mediante control de cambios, con evidencia.

Auditabilidad. La Parte 11 y el Anexo 11 esperan que los registros de auditoría, el control de acceso y la retención de registros estén bajo su control [8][10]. Esto es mucho más fácil de demostrar cuando los registros, las indicaciones y el texto recuperado se almacenan en los sistemas que usted administra.

Responsabilidad del proveedor. El borrador del Anexo 22 establece que la responsabilidad por la producción de IA permanece en la empresa regulada, y el Anexo 11 espera la supervisión de los proveedores y prestadores de servicios [10]. Sólo puede ejercer esa supervisión sobre los componentes que puede inspeccionar y fijar.

Previsibilidad de costos. La inferencia de uso facturado es un costo variable vinculado a cómo las personas usan el sistema. El hardware propio o arrendado en uso constante tiene un costo conocido. La parte 6 vuelve a los números.

Los diseños híbridos son posibles y los reguladores no prohíben la nube. La guía de garantía de la FDA cubre explícitamente modelos de nube como software como servicio, plataforma como servicio e infraestructura como servicio cuando se utilizan para la producción o el trabajo del sistema de calidad, y escala la garantía al uso previsto y al riesgo [3]. La cuestión no es que la nube esté prohibida. El punto es que una carga de trabajo no regulada, un entorno de desarrollo o un experimento de datos sintéticos pueden ejecutarse con capacidad alquilada, mientras que cualquier cosa que toque datos GxP o decisiones GxP se ejecuta dentro de los límites de forma predeterminada. Cada excepción es una decisión registrada, no una conveniencia.

Tres pruebas separan "local" de "instalado localmente".

1. La prueba saliente. Bloquee todo el tráfico de red saliente de la plataforma. ¿Todas las funciones siguen funcionando? Una herramienta que llama a un punto final alojado para incrustaciones, moderación, comprobaciones de licencia o telemetría no supera esta prueba.
2. La prueba de actualización. ¿Puedes instalar un nuevo modelo, contenedor o dependencia a partir de los medios que incorporaste, a través de tu propio control de cambios, sin que se pueda acceder al servidor del proveedor?
3. La prueba de dependencia. ¿Tiene una lista de materiales para cada modelo, contenedor y biblioteca de la plataforma, de modo que se pueda rastrear un aviso de vulnerabilidad hasta lo que realmente ejecuta?

La parte 6 aplica estas pruebas a herramientas reales.

Qué cambios "regulados"

Regulado no significa agregar una lista de verificación de cumplimiento al final. Cambia el diseño. La tabla asigna los marcos que son importantes para las organizaciones farmacéuticas y de dispositivos médicos según lo que cada uno exige de la plataforma. Los párrafos posteriores a la tabla explican los que más afectan a la arquitectura.

GAMP 5 y la Guía GAMP AI. GAMP 5 no es ley. Es el método estándar de la industria para validar sistemas computarizados en GxP y los inspectores lo conocen bien. La segunda edición, publicada en 2022, añadió un apéndice sobre IA y aprendizaje automático. En julio de 2025, ISPE publicó una Guía de IA independiente que se utilizará junto con ella [1][2]. La Guía de IA cubre el ciclo de vida de la IA desde el concepto hasta el retiro, incluye apéndices sobre gestión de proveedores y calidad por diseño, incorpora registros de ISPE y orientación sobre integridad de datos, y considera explícitamente ISO/IEC 42001 [1]. Su énfasis es el mismo que el de la segunda edición: seguridad del paciente, calidad del producto, integridad de los datos y pensamiento crítico en lugar de marcar casillas. Para un arquitecto, el mensaje práctico es sencillo. Los sistemas habilitados para IA son sistemas validados y el ciclo de vida de validación debe cubrir los modelos y los datos, no solo el código.

Gasto de software informático de la FDA. En septiembre de 2025, la FDA finalizó su guía CSA para el software utilizado en sistemas de calidad y producción de dispositivos, reemplazando la Sección 6 de su guía de validación de software de 2002 [3][4]. El enfoque se basa en el riesgo y es menos gravoso. Usted identifica el uso previsto de cada característica del software, evalúa su riesgo para la seguridad del paciente y la calidad del producto, y elige actividades de aseguramiento en proporción: pruebas programadas cuando el riesgo es alto, pruebas no programadas o exploratorias donde es menor, monitoreo continuo como evidencia continua y evidencia del proveedor cuando existe [3]. Se aplica tanto al software local como en la nube, y no se aplica al software que es en sí mismo un dispositivo médico [3]. Su alcance formal son los dispositivos, pero el enfoque también se ha convertido en el vocabulario compartido de los equipos de calidad farmacéutica, porque GAMP 5 ya se inclina en la misma dirección. La parte 4 construye el enfoque de validación a partir de ello.

El borrador del marco de credibilidad de la FDA. El borrador de la guía de la FDA de enero de 2025, todavía un borrador en septiembre de 2026, propone un marco de siete pasos para establecer la credibilidad de un modelo de IA para un contexto de uso específico [5]. Los pasos son: definir la pregunta de interés; definir el contexto de uso; evaluar el riesgo del modelo en función de la influencia del modelo y las consecuencias de la decisión; desarrollar un plan para establecer credibilidad; ejecutar el plan; documentar los resultados y cualquier desviación; y determinar si el modelo es adecuado para el contexto de uso [5]. El borrador trata sobre la IA utilizada para respaldar decisiones regulatorias para medicamentos y productos biológicos, no sobre todas las herramientas comerciales. Pero sus dos ideas centrales, el contexto de uso y el riesgo como influencia multiplicada por consecuencia, son la forma más clara de razonar sobre cualquier característica de la IA en un producto regulado. Esta serie los utiliza en todas partes.

Principios conjuntos de la FDA y la EMA. En enero de 2026, las dos agencias publicaron diez principios no vinculantes de buenas prácticas de IA en el desarrollo de fármacos, basándose en el documento de reflexión de 2024 de la EMA [6][15]. Cubren valores centrados en el ser humano, cumplimiento de estándares, un enfoque basado en riesgos, un contexto de uso claro, gobernanza de datos, experiencia multidisciplinaria, gestión del ciclo de vida, transparencia, supervisión humana y cooperación internacional [6]. Nada de esto es nuevo para un practicante de GAMP. Lo que importa es que los dos mayores reguladores dicen ahora las mismas cosas en un solo documento.

Integridad de registros y datos. 21 CFR Parte 11 requiere registros de auditoría seguros, generados por computadora y con marca de tiempo que registren la fecha y hora de las entradas y acciones del operador que crean, modifican o eliminan registros electrónicos, retenidos al menos durante el mismo tiempo que los registros mismos [8]. La guía de integridad de datos de la FDA establece ALCOA+: los registros deben ser atribuibles, legibles, contemporáneos, originales y precisos, y también completos, consistentes, duraderos y disponibles [9]. En la UE, el Anexo 11 establece expectativas similares para los sistemas computarizados, y PIC/S PI 041 brinda a los inspectores una visión compartida de la integridad de los datos en entornos GMP y GDP [10][24]. Para una plataforma de IA, esto plantea una pregunta que la mayoría de los equipos no se han planteado. Cuando un resultado de IA influye en una decisión de GxP, ¿es el resultado en sí un récord? La respuesta segura es sí. Diseños de la parte 2 para ello.

Anexo 22, el borrador que más importa. En julio de 2025, la Comisión Europea abrió consultas sobre un Capítulo 4 revisado, un Anexo 11 revisado y un nuevo Anexo 22 sobre IA en GMP, preparado con el grupo de trabajo de inspectores de EMA y PIC/S [10]. La consulta se cerró el 7 de octubre de 2025 con alrededor de 1.300 comentarios. En septiembre de 2026, los tres textos siguen siendo borradores, el plan de trabajo de la EMA apunta a un texto final para finales de 2026 y no se ha anunciado ninguna fecha de entrada en vigor [10]. El alcance del borrador es la IA en aplicaciones GMP críticas, es decir, aquellas con un impacto directo en la seguridad del paciente, la calidad del producto o la integridad de los datos. Su afirmación central es que los modelos dinámicos, los modelos que pueden devolver diferentes resultados para entradas idénticas, la IA generativa y los LLM no deben usarse en esas aplicaciones críticas [10]. Para los modelos estáticos que permite, espera un uso previsto definido, datos de validación que representen condiciones operativas reales, explicabilidad, umbrales de confianza cuando corresponda, supervisión humana, control de cambios y monitoreo continuo del desempeño [10]. Permite la IA generativa en usos no críticos, como resumir un informe de desviación o procedimientos de búsqueda, cuando una persona calificada revisa el resultado y mantiene la responsabilidad documentada. Y es explícito que la responsabilidad recae en la empresa regulada, no en el proveedor. La EMA celebró un taller los días 30 de junio y 1 de julio de 2026 para considerar si los modelos adaptativos y generativos podrían abordarse bajo salvaguardias basadas en riesgos, pero el texto publicado no ha cambiado [10]. Una plataforma prudente trata ahora el borrador como una guía de diseño. Si el texto final flexibiliza la norma, no se pierde nada. Si no es así, la plataforma ya está alineada.

La Ley de IA de la UE, modificada. La Ley de IA entró en vigor en agosto de 2024. En julio de 2026, el Ómnibus Digital sobre IA la modificó y cambió el calendario [11][12]. Los deberes de transparencia del artículo 50, como informar a las personas que están interactuando con IA y marcar el contenido generado de forma legible por máquina, se aplican desde el 2 de agosto de 2026, con un período de gracia hasta el 2 de diciembre de 2026 para los sistemas que ya están en el mercado [12]. Las obligaciones de alto riesgo ahora se aplican a partir del 2 de diciembre de 2027 para los sistemas independientes enumerados en el Anexo III, y desde el 2 de agosto de 2028 para la IA integrada en productos cubiertos por la legislación de productos de la UE en virtud del Anexo I, como los dispositivos médicos [12]. Los sistemas comercializados antes de esas fechas están protegidos a menos que sufran un cambio de diseño significativo y el umbral de "significativo" aún no esté definido [12]. Para un sistema de calidad o un asistente documental, los dos posibles ganchos de alto riesgo son la gestión de los trabajadores según el Anexo III, por ejemplo si el sistema asigna tareas o supervisa el desempeño, y ser un componente de seguridad de un dispositivo médico según el Anexo I [11]. La mayoría de los asistentes del sistema de calidad no serán de alto riesgo. Pero la clasificación debe documentarse, y los deberes de alfabetización en IA del artículo 4 y los deberes de transparencia del artículo 50 se aplican independientemente. La parte 5 trabaja a través de la clasificación.

Privacidad. La Ley de Protección de Datos Personales Digitales de la India, 2023, entró en vigor a través de las Reglas DPDP notificadas en noviembre de 2025, con obligaciones graduales hasta 2027 [13]. La organización que decide el propósito y los medios del procesamiento es un fiduciario de datos, y eso incluye capacitar o implementar IA en datos personales. La notificación de infracciones consta de dos etapas: notificar al Consejo de Protección de Datos sin demora, luego presentar un informe detallado dentro de las 72 horas y notificar a las personas afectadas sin umbral de materialidad [13]. Las sanciones alcanzan los 250 millones de rupias por incumplimiento de medidas de seguridad razonables [13]. Las organizaciones que operan en Europa trabajan a través del RGPD, incluidas sus reglas sobre decisiones automatizadas y evaluaciones de impacto. La parte 5 cubre la privacidad dentro de la plataforma.

Estándares de gestión. ISO/IEC 42001:2023 define un sistema de gestión de IA que puede certificarse y que se integra con ISO/IEC 27001 [19]. El marco de gestión de riesgos de IA del NIST ofrece un vocabulario compartido de cuatro funciones: gobernar, mapear, medir y gestionar, y su perfil de IA generativa 2024 agrega riesgos específicos de los sistemas generativos, incluida la confabulación y la integridad de la información [20][22]. Tampoco es un requisito de GxP. Ambos constituyen un andamiaje útil para la gobernanza de la Parte 5.

En todo esto destacan dos cosas.

En primer lugar, los marcos concuerdan entre sí. Todos exigen un uso previsto definido, garantía basada en riesgos, responsabilidad humana, evidencia documentada y control sobre el cambio. Una plataforma construida para uno de ellos es la mayor parte del camino para los demás.

En segundo lugar, la limitación más difícil sigue siendo el draft. Ésa es una razón para diseñarlo ahora, no una razón para esperar. El costo de incorporar revisión humana y evidencia en la plataforma es pequeño. El coste de modernizarlo después de una inspección no lo es.

La consecuencia que da forma a todo lo demás.

Junte los marcos y se seguirá una regla. Cada uso de la IA debe clasificarse antes de su construcción, en dos ejes.

1. Impacto GxP. ¿El resultado afecta la calidad del producto, la seguridad del paciente o un registro regulado? ¿Crítico o no crítico?
2. Influencia en la decisión. ¿El resultado informa una decisión humana o toma la decisión? Ésta es la lógica del marco de credibilidad de la FDA, donde el riesgo del modelo aumenta con la influencia del modelo y con la consecuencia de una decisión equivocada [5]. También es la lógica de ICH Q9(R1), que vincula la formalidad de la gestión de riesgos con la importancia de la decisión y advierte sobre la subjetividad en las evaluaciones de riesgos [14].

Juntos, los dos ejes forman cuatro cuadrantes.

La plataforma se ubica por defecto en el cuadrante superior izquierdo: apoyo a la toma de decisiones, uso no crítico, con una persona designada que revisa y firma. Todo lo demás es una excepción con su propio caso de validación. El cuadrante inferior derecho está fuera de la mesa para los modelos generativos hasta que los reguladores digan lo contrario.

La FDA ya ha demostrado lo que sucede sin esto. En abril de 2026, envió una carta de advertencia a un fabricante después de que una inspección descubriera que la empresa había utilizado un agente de IA para redactar especificaciones y registros sin una revisión adecuada [7]. La empresa dijo a los investigadores que no había realizado la validación del proceso porque el agente nunca le dijo que era necesaria la validación. La carta establece que una empresa que utiliza IA como ayuda en la creación de documentos debe revisar la precisión y el cumplimiento de los documentos generados, y cita 21 CFR 211.22(c), la norma que hace que la unidad de calidad sea responsable de los procedimientos y especificaciones, y 211.100 sobre controles de producción escritos [7]. El remedio que esperaba la FDA era simple: una persona autorizada debe revisar y aprobar cualquier resultado de un agente de IA [7]. La MHRA del Reino Unido hizo una observación similar en junio de 2026 sobre las respuestas asistidas por IA a los resultados de las inspecciones: deben ser precisas, técnicamente revisadas y aprobadas por una persona responsable [23].

Esa carta es el resumen de diseño de una plataforma de IA regulada. El sistema puede redactar. Una persona decide. El registro muestra quién.

La clasificación también decide la profundidad de la validación y el nivel de revisión. Según CSA, se puede garantizar una función de apoyo a la toma de decisiones no crítica con pruebas y monitoreo sin guión, mientras que una característica crítica necesita evidencia escrita por contexto de uso [3]. Bajo el marco de credibilidad de la FDA, el plan de credibilidad crece con la influencia del modelo y las consecuencias de las decisiones [5]. La parte 4 convierte esto en un procedimiento concreto.

Seis principios de diseño

Estos principios se encuentran en todas las partes posteriores. Cada uno viene con lo que significa en la práctica y lo que impide.

1. Soberano por defecto. Los datos, modelos y registros permanecen dentro del límite. En la práctica: una lista aprobada de lo que puede cruzar la frontera, y nada más. Previene la divulgación accidental y hace posible la supervisión de proveedores que el Anexo 11 y el Anexo 22 esperan [10].
2. Denegación predeterminada, aplicada antes de la recuperación. La plataforma sabe quién pregunta y qué documentos puede ver, y filtra antes de que cualquier texto llegue a un modelo. El aislamiento a nivel de producto no es suficiente. Dos usuarios del mismo producto pueden tener derechos diferentes sobre el mismo documento. En la práctica: la identidad y los derechos de la persona que llama viajan con la solicitud, y el recuperador los filtra antes de clasificar, nunca después de la generación. Previene las rutas de fuga que OWASP enumera como divulgación de información confidencial y como vectores y debilidades de incrustación [21].
3. La evidencia primero. Cada respuesta cita el documento fuente, la versión y la sección que utilizó. Si la evidencia es escasa, el sistema lo dice en lugar de adivinar. En la práctica: las citaciones llevan identidad del documento, versión, fecha de vigencia y sección, y el sistema se abstiene por debajo de un umbral de evidencia. Proporciona el tipo de evidencia que solicita el marco de credibilidad de la FDA [5].
4. Responsabilidad humana por diseño. Los resultados apoyan las decisiones. Una persona calificada revisa todo lo que alimenta un registro o decisión de GxP, y la revisión es en sí misma un registro. En la práctica: un nivel de revisión por cuadrante y un registro capturado de quién revisó qué y cuándo. Es la norma contenida en la carta de advertencia de abril de 2026 y en el proyecto de Anexo 22 [7][10].
5. Validación basada en riesgos y control de cambios. El uso previsto se define por función. Los cambios en un modelo, solicitud, configuración de recuperación o modelo de incrustación son cambios controlados con evidencia, no ediciones de configuración. En la práctica: un conjunto de evaluación que se ejecuta en cada cambio y un registro que registra exactamente lo que se implementa. Se alinea con CSA y GAMP, y protege la protección bajo la Ley de IA al hacer que el "cambio significativo" sea una decisión documentada en lugar de un accidente [2][3][12].
6. Registros, no registros. Las pistas de auditoría cumplen con las expectativas de 21 CFR Parte 11 y Anexo 11: seguras, con sello de tiempo, atribuibles, inalterables y retenidas durante la vida útil del registro [8][10]. En la práctica: los eventos de auditoría se escriben en un almacén con los mismos controles que otros registros GxP y su retención sigue el registro con el que se relacionan.

Modelos y proveedores, brevemente

El modelo es la parte menos estable de la plataforma. Cada pocos meses aparecen nuevas versiones, las licencias cambian y los proveedores retiran los modelos. Por lo tanto, la plataforma no debe depender de ningún modelo en particular, y el diseño debe hacer que el cambio de modelo sea un cambio controlado y evidenciado en lugar de una reconstrucción. La parte 2 presenta el modelo de enrutador que hace esto posible. Cuatro puntos importan al principio.

Los modelos de peso abierto y los respaldados por el proveedor pueden ejecutarse localmente. Los modelos de peso abierto se descargan y se hospedan automáticamente. Los modelos respaldados por proveedores están empaquetados y respaldados bajo una licencia comercial, pero aún se ejecutan en su hardware. La diferencia es el soporte, la indemnización, el embalaje y el costo. No es soberanía. Cualquiera de las rutas pasa la prueba de salida si se implementa correctamente y falla si las herramientas que la rodean llaman a casa.

Las licencias difieren y cambian. A partir de septiembre de 2026, varias familias de modelos potentes utilizan licencias permisivas. Las versiones de peso abierto de Qwen3 y las versiones de IBM Granite 4 son Apache 2.0, las versiones de DeepSeek usan MIT y algunos modelos de Mistral son Apache 2.0 mientras que otros no [18]. La licencia comunitaria Llama 4 es gratuita para menos de 700 millones de usuarios activos mensuales, pero incluye reglas de nomenclatura y atribución para los modelos derivados [18]. Algunos proveedores utilizan términos personalizados que son más restrictivos que Apache 2.0. Verifique la licencia en la tarjeta del modelo para conocer la versión exacta que implementa y regístrela en el registro de modelos descrito en la Parte 5. Lo mismo se aplica a la incorporación y reclasificación de modelos, que a menudo se olvidan. También tienen licencias y versiones, y un cambio en el modelo de incrustación invalida todos los vectores creados con el anterior.

No puede verificar completamente los datos de capacitación, así que califique al proveedor. Las tarjetas modelo varían ampliamente en lo que revelan sobre los datos de capacitación y los límites de conocimiento. No existe una forma práctica de auditar un corpus de formación desde el exterior. Dos palancas ayudan. La Ley de IA de la UE exige que los proveedores de modelos de IA de uso general mantengan documentación técnica, incluido un resumen del contenido utilizado para la formación [11]. Y la Guía GAMP AI incluye un apéndice de gestión de proveedores, mientras que el borrador del Anexo 22 es explícito en que la responsabilidad recae en la empresa regulada, no en el proveedor [1][10]. La respuesta práctica es un expediente de calificación de proveedores para cada modelo. Debe contener la licencia y el identificador de la versión, el resumen documentado de los datos de capacitación, la evaluación publicada y la evidencia de sesgo, las limitaciones conocidas, la postura de seguridad del contenedor de servicio, los compromisos de notificación de cambios y versiones del proveedor, los términos de soporte e indemnización, si los hubiera, y sus propios resultados de evaluación. La guía de garantía de la FDA permite que la evidencia del proveedor reduzca sus propias pruebas, pero solo si posee esa evidencia y puede demostrarla [3].

Trate el modelo como cualquier otro componente calificado. Un sistema validado no cambia su motor de base de datos sin una solicitud de cambio. Tampoco debería cambiar su modelo lingüístico sin uno. Eso significa que el registro registra el modelo, su versión, su licencia, los resultados de su evaluación y los productos que lo utilizan, y un intercambio pasa por la misma puerta que cualquier otro cambio controlado.

¿Qué viene después?

Todas las partes están vinculadas desde el índice de la serie en la Parte 0. La Parte 2 brinda la arquitectura de referencia: el plano de control, las ocho capas de ejecución y la ruta de solicitud que lleva la identidad y la autorización a la recuperación antes de que cualquier texto llegue a un modelo. La parte 3 trata los documentos como datos gobernados. La parte 4 responde a la pregunta que todo jefe de calidad se hace primero: ¿cómo se valida un sistema que no es determinista? La parte 5 cubre seguridad, privacidad y gobernanza. La parte 6 cubre el alojamiento, el costo, las operaciones, el equipo y una lista de verificación de preparación para la producción.

Fuentes para la Parte 1

Los enlaces marcados (confirmar) no se volvieron a verificar para este borrador y deben verificarse antes de la publicación.

1. ISPE. Guía ISPE GAMP: Inteligencia Artificial. Julio 2025. Final. https://ispe.org/publications/guidance-documents/gamp-guide-artificial-intelligence
2. ISPE. ISPE GAMP 5: Un enfoque basado en el riesgo para sistemas computarizados que cumplen con GxP, segunda edición. 2022. Final. https://ispe.org/topics/gamp
3. FDA. Aseguramiento de Software Informático para Sistemas de Producción y Calidad. Guía para la industria y el personal de la FDA. Septiembre de 2025. Final. https://www.fda.gov/regulatory-information/search-fda-guidance-documents/computer-software-assurance-production-and-quality-system-software
4. Registro Federal. Aviso de disponibilidad de la guía CSA. 24 de septiembre de 2025. https://www.federalregister.gov/documents/2025/09/24/2025-18468/computer-software-assurance-for-production-and-quality-system-software-guidance-for-industry-and
5. FDA. Consideraciones para el uso de inteligencia artificial para respaldar la toma de decisiones regulatorias para medicamentos y productos biológicos. Borrador de orientación, enero de 2025. Borrador, no para implementación, a partir de septiembre de 2026. https://www.fda.gov/regulatory-information/search-fda-guidance-documents/considerations-use-artificial-intelligence-support-regulatory-decision-making-drug-and-biological
6. FDA y EMA. Principios rectores de buenas prácticas de IA en el desarrollo de fármacos. Enero de 2026. No vinculante. https://www.fda.gov/media/189581/download
7. FDA. Carta de advertencia, referencia 722591, de fecha 2 de abril de 2026, citando 21 CFR 211.22(c) y 211.100. Base de datos de cartas de advertencia de la FDA. https://www.fda.gov/inspections-compliance-enforcement-and-criminal-investigations/compliance-actions-and-activities/warning-letters (enlace directo a la carta: confirmar)
8. 21 CFR Parte 11, Registros electrónicos; Firmas Electrónicas, sección 11.10(e). eCFR. https://www.ecfr.gov/current/title-21/chapter-I/subchapter-A/part-11
9. FDA. Integridad de los datos y cumplimiento del CGMP de medicamentos: preguntas y respuestas. Orientación, diciembre de 2018. Final. (confirmar)
10. Comisión Europea. Consulta con las partes interesadas sobre EudraLex Volumen 4: Capítulo 4 revisado, Anexo 11 revisado y nuevo Anexo 22, Inteligencia Artificial. Consulta del 7 de julio al 7 de octubre de 2025. Borrador, no adoptado, a septiembre de 2026. (página de consulta: confirmar)
11. Reglamento (UE) 2024/1689, Ley de Inteligencia Artificial. EUR-Lex. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
12. Reglamento (UE) 2026/1744, Ómnibus Digital sobre IA. Publicado el 24 de julio de 2026, en vigor el 27 de julio de 2026. EUR-Lex. https://eur-lex.europa.eu/eli/reg/2026/1744/oj
13. Ministerio de Electrónica y Tecnología de la Información, India. Ley de Protección de Datos Personales Digitales, 2023, y Reglas de Protección de Datos Personales Digitales, 2025, G.S.R. 846(E), 13 de noviembre de 2025, Gaceta del 14 de noviembre de 2025. (Enlace de la Gaceta: confirmar)
14. PCI. Q9(R1) Gestión de riesgos de calidad. Paso 4, enero de 2023. https://database.ich.org/sites/default/files/ICH_Q9(R1)_Guideline_Step4_2022_1219.pdf 15.EMA. Documento de reflexión sobre el uso de la Inteligencia Artificial en el ciclo de vida del medicamento, EMA/CHMP/CVMP/83833/2023. Adoptado en septiembre de 2024. https://www.ema.europa.eu/en/use-artificial-intelligence-ai-medicinal-product-lifecycle-scientific-guideline
15. MIT NANDA. La brecha GenAI: estado de la IA en los negocios 2025. Julio de 2025. (enlace del informe: confirmar)
16. Corporación RAND. Ryseff, De Bruhl, Newberry. Las causas fundamentales del fracaso de los proyectos de inteligencia artificial y cómo pueden tener éxito. 2024. RRA2680-1. https://www.rand.org/pubs/research_reports/RRA2680-1.html (confirmar)
17. Licencias modelo: Meta Llama 4 Commu

Licencia de comunidad; Tarjetas modelo Qwen3; tarjetas modelo IBM Granite 4; tarjetas modelo DeepSeek; Tarjetas modelo Mistral. Los términos de la licencia se indican en cada modelo de tarjeta y varían según la versión. (enlaces: confirme en la publicación las versiones exactas implementadas) 19.ISO. ISO/IEC 42001:2023, Sistema de gestión de inteligencia artificial. Diciembre de 2023. https://www.iso.org/standard/42001 20. NIST. Marco de gestión de riesgos de inteligencia artificial (AI RMF 1.0), NIST AI 100-1. Enero de 2023. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf (confirmar) 21. Proyecto de seguridad OWASP GenAI. OWASP Top 10 para aplicaciones LLM 2025. https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-v2025.pdf 22. NIST. Marco de gestión de riesgos de inteligencia artificial: perfil de inteligencia artificial generativa, NIST AI 600-1. Julio de 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (confirmar) 23. Inspección de la MHRA. Publicación de blog sobre el uso de IA en respuestas a los hallazgos de la inspección GxP. 29 de junio de 2026. (confirmar) 24. FOTO/S. PI 041-1, Buenas prácticas para la gestión e integridad de datos en entornos regulados GMP/GDP. En vigor el 1 de julio de 2021. https://picscheme.org (enlace del documento: confirmar)