IA Responsable en Grovity

En Grovity, el modelo de lenguaje no es la solución: es un componente dentro de una capa de orquestación que controla qué información recibe cada agente de IA, qué acciones puede realizar y bajo qué reglas responde. Esta declaración resume los principios y controles con los que Grovity diseña y opera los agentes de IA.

• Comportamiento acotado. Cada agente opera dentro de un ámbito de negocio definido por el Cliente, con salvaguardas (guardrails) configurables sobre lo que puede y no puede hacer.
• Fundamentación. Las respuestas se basan en el conocimiento aprobado del Cliente y en datos recuperados de sistemas autorizados, no en el conocimiento libre del modelo.
• Supervisión humana. Los agentes pueden transferir una conversación a una persona, y el Cliente mantiene el control sobre el comportamiento de sus agentes.
• Transparencia. Los Usuarios Finales deben ser informados de que están interactuando con un sistema de IA.
• Privacidad desde el diseño. Solo se envían a los modelos los datos necesarios para cada tarea, y los datos del Cliente no se utilizan para entrenarlos.
• Trazabilidad. La configuración, las instrucciones y la operación de los agentes se versionan y se registran.

Control	Descripción
Acciones restringidas	Los agentes solo pueden invocar las funciones de negocio predefinidas que se les asignan, con parámetros tipados validados del lado del servidor. Nunca ejecutan código arbitrario.
Conocimiento limitado por cliente	La recuperación de conocimiento solo consulta los índices del Cliente del agente que responde.
Separación de instrucciones	Las instrucciones del sistema se mantienen separadas del contenido del Usuario Final para reducir el riesgo de inyección de prompts.
Configuración versionada	El modelo, los parámetros y las instrucciones de cada agente se versionan, de modo que puede identificarse la configuración vigente en cualquier momento.
Gobernanza y evaluación	Las interacciones pueden evaluarse y calificarse para detectar desviaciones, y hay informes de gobernanza disponibles para el Cliente.
Transferencia a una persona	Las conversaciones pueden escalarse al personal del Cliente.
Exclusiones de datos sensibles	Los datos de tarjetas de pago nunca se incluyen en los prompts. Los datos de salud se tratan únicamente en virtud del Anexo de Datos de Salud.

Grovity accede a los modelos de lenguaje principalmente a través de Amazon Bedrock, dentro de su entorno de AWS, y selecciona el modelo más adecuado para cada agente. Según la configuración del Cliente, se utilizan modelos de otros proveedores a través de sus API empresariales. Los proveedores vigentes se enumeran en la página de Subencargados. Conforme a los términos empresariales de cada proveedor, los datos, los prompts y las salidas del Cliente no se utilizan para entrenar sus modelos, y Grovity no entrena ni ajusta (fine-tuning) modelos con datos del Cliente.

Ningún proveedor puede garantizar que un sistema basado en modelos fundacionales esté libre de sesgos o errores, y Grovity no hace esa afirmación. Grovity mitiga estos riesgos acotando el comportamiento de los agentes, fundamentando las respuestas en conocimiento aprobado, permitiendo configuraciones más deterministas cuando el caso de uso lo requiere y manteniendo a personas en el circuito. Las salidas de la IA pueden ser erróneas y deben validarse antes de confiar en ellas para decisiones importantes.

La Política de Uso Aceptable prohíbe utilizar agentes de IA para brindar asesoría médica, legal, psicológica o financiera sin la participación de un profesional calificado, para tomar decisiones con efectos jurídicos o significativos similares sobre las personas basadas únicamente en un tratamiento automatizado, o para suplantar a personas reales. El uso en actividades relacionadas con la salud está sujeto al Anexo de Datos de Salud.

Grovity proporciona la plataforma y sus controles. El Cliente define el propósito, las instrucciones, el conocimiento y las salvaguardas de sus agentes; informa a sus Usuarios Finales sobre el uso de la IA; supervisa a sus agentes; y atiende los escalamientos.

Preguntas sobre el uso de la IA por parte de Grovity o solicitudes de documentación de gobernanza de la IA con fines de auditoría: privacy@grovity.ai.