IA Responsável na Grovity

Na Grovity, o modelo de linguagem não é a solução: é um componente dentro de uma camada de orquestração que controla quais informações cada agente de IA recebe, quais ações pode executar e sob quais regras responde. Esta declaração resume os princípios e controles com os quais a Grovity projeta e opera agentes de IA.

• Comportamento delimitado. Cada agente opera dentro de um escopo de negócio definido pelo Cliente, com salvaguardas (guardrails) configuráveis sobre o que pode e o que não pode fazer.
• Fundamentação. As respostas baseiam-se no conhecimento aprovado pelo Cliente e em dados obtidos de sistemas autorizados, e não no conhecimento livre do modelo.
• Supervisão humana. Os agentes podem transferir uma conversa para um ser humano, e o Cliente mantém o controle sobre o comportamento de seus agentes.
• Transparência. Os Usuários Finais devem ser informados de que estão interagindo com um sistema de IA.
• Privacidade desde a concepção. Somente os dados necessários para cada tarefa são enviados aos modelos, e os dados do Cliente não são utilizados para treiná-los.
• Rastreabilidade. A configuração, as instruções e a operação dos agentes são versionadas e registradas.

Controle	Descrição
Ações restritas	Os agentes só podem invocar funções de negócio predefinidas que lhes foram atribuídas, com parâmetros tipados validados no servidor. Nunca executam código arbitrário.
Conhecimento delimitado por tenant	A recuperação de conhecimento consulta apenas os índices do Cliente do agente que está respondendo.
Separação de instruções	As instruções de sistema são mantidas separadas do conteúdo dos Usuários Finais para reduzir o risco de injeção de prompt.
Configuração versionada	O modelo, os parâmetros e as instruções de cada agente são versionados, de modo que a configuração vigente em qualquer momento pode ser identificada.
Governança e avaliação	As interações podem ser avaliadas e pontuadas para detectar desvios, e relatórios de governança são disponibilizados ao Cliente.
Transferência para humano	As conversas podem ser escaladas para o pessoal do Cliente.
Exclusões de dados sensíveis	Dados de cartões de pagamento nunca são incluídos nos prompts. Dados de saúde são tratados somente nos termos do Adendo de Dados de Saúde.

A Grovity acessa modelos de linguagem principalmente por meio do Amazon Bedrock, dentro de seu ambiente AWS, e seleciona o modelo mais adequado para cada agente. Dependendo da configuração do Cliente, modelos de outros provedores são utilizados por meio de suas APIs empresariais. Os provedores atuais estão relacionados na página de Suboperadores. Nos termos empresariais de cada provedor, os dados, os prompts e as saídas do Cliente não são utilizados para treinar seus modelos, e a Grovity não treina nem ajusta (fine-tune) modelos com dados do Cliente.

Nenhum provedor pode garantir que um sistema baseado em modelos fundacionais esteja livre de vieses ou erros, e a Grovity não faz essa afirmação. A Grovity mitiga esses riscos delimitando o comportamento dos agentes, fundamentando as respostas em conhecimento aprovado, permitindo configurações mais determinísticas quando o caso de uso as exigir e mantendo seres humanos no circuito. As saídas de IA podem estar erradas e devem ser validadas antes de se confiar nelas para decisões importantes.

A Política de Uso Aceitável proíbe utilizar agentes de IA para prestar aconselhamento médico, jurídico, psicológico ou financeiro sem a participação de um profissional qualificado, para tomar decisões com efeitos jurídicos ou similarmente significativos sobre pessoas com base unicamente em tratamento automatizado, ou para se passar por pessoas reais. O uso em atividades relacionadas à saúde está sujeito ao Adendo de Dados de Saúde.

A Grovity fornece a plataforma e seus controles. O Cliente define a finalidade, as instruções, o conhecimento e as salvaguardas de seus agentes; informa seus Usuários Finais sobre o uso de IA; supervisiona seus agentes; e responde aos escalonamentos.

Dúvidas sobre o uso de IA pela Grovity ou solicitações de documentação de governança de IA para fins de auditoria: privacy@grovity.ai.