Governança de IA para startups e fintechs: o que já obriga e o que ainda está por vir em 2027

Escrito por Laura Tostes, advogada especialista em proteção de dados para startups, fintechs e empresas do setor financeiro na NDM Advogados.

Desde 2014 oferecemos assessoria jurídica completa para empresas tech crescerem com segurança e poderem focar no que importa.

Atualizado em 11/11/2026

Quando uma startup incorpora Inteligência Artificial (IA) ao seu produto, ela passa a assumir também responsabilidades jurídicas que vão muito além do código. É nesse cenário que a governança de IA se torna um diferencial estratégico: trata-se do conjunto de processos, políticas e documentos jurídicos que garante que os algoritmos sejam utilizados de forma ética, segura e em conformidade com a lei.

Mas como isso funciona no dia a dia de uma empresa em crescimento? A governança começa pela classificação do risco da ferramenta, o que permite entender quais cuidados cada solução exige. Em seguida, entra a elaboração da Avaliação de Impacto Algorítmico (AIDA), que mapeia os efeitos do sistema sobre pessoas e direitos. Os Termos de Uso também precisam ser ajustados, inclusive para definir a titularidade dos direitos autorais sobre o que a IA gera. Somam-se a isso a supervisão humana, conhecida como “Human-in-the-Loop”, que mantém pessoas no centro das decisões mais sensíveis, e a transparência no tratamento de dados pessoais, pilar da Lei Geral de Proteção de Dados (LGPD).

Neste artigo, vamos explorar cada um desses elementos, separar o que já obriga hoje do que ainda está por vir e mostrar como eles podem transformar a conformidade em confiança e em vantagem competitiva.

Quem é responsável por falha no algoritmo?

Em 2026, a Inteligência Artificial (IA) deixou de ser tendência e passou a ser o motor da velocidade competitiva. Startups de tecnologia e fintechs já utilizam LLMs (Large Language Models) para otimizar processos internos ou entregar valor direto aos clientes.

Essa mesma tecnologia, porém, cria um paradoxo para fundadores e investidores. Ao mesmo tempo em que multiplica a produtividade, ela pode se tornar, sem governança adequada, o caminho mais curto para a exposição de dados e para a interrupção de serviços críticos.

O caso do agente Kiro, da AWS, ilustra bem esse risco. Segundo relatos da imprensa, o sistema usou seus privilégios para apagar um ambiente de produção, o que resultou em cerca de 13 horas de indisponibilidade, sem que houvesse uma contenção humana a tempo.

Por isso, a pergunta deixou de ser “o que a IA pode fazer?” e passou a ser “quem responde quando o algoritmo falha?”. A governança de IA já não é um luxo jurídico: ela virou requisito de arquitetura e, cada vez mais, critério eliminatório na due diligence de rodadas de investimento.

O Marco Legal da IA no Brasil e a Classificação de Risco

O pilar central da regulação brasileira em discussão é o PL 2338/2023, o Marco Legal da Inteligência Artificial. O projeto foi aprovado pelo Senado em dezembro de 2024 e segue na Câmara dos Deputados, em comissão especial, aguardando o parecer do relator. Mesmo que o texto ainda mude, ele já funciona como o principal termômetro do que vem pela frente. Inspirado no AI Act da União Europeia, o PL adota uma abordagem baseada em risco, ou seja, a regulação atua de forma proporcional ao potencial de dano da tecnologia.

Isso muda a ordem das conversas dentro da startup. Antes de escrever uma linha de código ou integrar uma API, é preciso saber onde o produto se encaixa nessa matriz. A tabela a seguir traz uma leitura didática dos níveis de risco, para que líderes de tecnologia e de negócios identifiquem os requisitos que tendem a se aplicar aos seus sistemas.

A tabela a seguir apresenta os diferentes níveis de risco regulatório, ajudando líderes de tecnologia e negócios a identificarem os requisitos legais aplicáveis aos seus sistemas.

Na prática, uma ferramenta de IA não precisa ser proibida para ser perigosa. Startups de setores regulados, como fintechs e healthtechs, costumam operar sistemas de alto risco, e classificar o sistema é o primeiro passo para não ser surpreendido por sanções. O texto do Senado prevê multas de até R$ 50 milhões por infração, que no projeto também são limitadas a 2% do faturamento.

Há ainda um ponto que costuma passar despercebido: enquanto a lei não chega, a LGPD já se aplica, em especial o direito à revisão de decisões automatizadas (art. 20). A ANPD incluiu inteligência artificial entre os eixos centrais de fiscalização do biênio 2026 e 2027, o que mostra que a agenda regulatória não espera o Congresso.

O que já obriga hoje e o que ainda está por vir

A confusão mais comum do mercado é falar do Marco Legal da IA como se ele já estivesse valendo. Não está: o PL 2338/2023 ainda é um projeto de lei, e a votação foi adiada várias vezes ao longo de 2026, com a retomada esperada para depois do período eleitoral.

Isso não significa, porém, que não exista regra. Pelo contrário: já há um conjunto de normas em vigor que alcança sistemas de IA mesmo sem usar a palavra algoritmo, e é esse conjunto que a sua startup precisa atender hoje. A tabela a seguir separa o que já obriga do que ainda está por vir, para facilitar a priorização.

Como usar essa distinção a seu favor?

Trate o PL 2338 como um mapa de destino, e não como uma obrigação atual. Construir hoje a documentação que ele deve exigir amanhã custa pouco e já serve a três objetivos imediatos: responder à LGPD, sustentar a defesa da empresa perante o consumidor e passar pela due diligence de investidores. Já a adequação feita às pressas, sob prazo legal, costuma ser mais cara e menos consistente.

A Avaliação de Impacto Algorítmico (AIDA)

Se a matriz de risco é o mapa, a Avaliação de Impacto Algorítmico é a bússola da governança de IA. Trata-se de um instrumento documental e preventivo, usado para identificar e mitigar os riscos de sistemas automatizados antes que eles virem problema.

Investidores têm exigido esse documento cada vez mais, porque ele demonstra que a startup tem controle sobre o “cérebro” da plataforma. Para isso, a análise precisa abrir a caixa preta da tecnologia em três frentes:

• Inputs (Dados de Entrada): auditoria dos conjuntos de dados para reduzir vieses de raça ou gênero e prevenir o Data Poisoning, a inserção de dados maliciosos no treinamento.
• Lógica (Processamento): demonstração de que o modelo é explicável, de modo que reguladores e usuários entendam os critérios matemáticos ou probabilísticos por trás de cada recomendação.
• Outputs (Saídas): avaliação dos danos possíveis em caso de “alucinações”, com defesas contra a reconstrução de dados pessoais a partir das respostas (Model Inversion) e contra a cópia do comportamento do modelo via API (ataques de extração).

Vale esclarecer que explicabilidade não significa entregar o código fonte nem expor segredos industriais. O objetivo é garantir que a pessoa compreenda como seus interesses são afetados pela automação, o que, aliás, já dialoga com a LGPD, que assegura essa informação respeitando os segredos comercial e industrial.

Termos de Uso e LGPD

Levar Termos de Uso genéricos para uma plataforma movida por IA generativa é um erro comum e caro. A tecnologia é estocástica, ou seja, produz respostas probabilísticas, e isso muda a dinâmica contratual: o documento precisa tratar da possibilidade de erros e “alucinações”, da necessidade de conferência humana, da divisão de responsabilidades entre a startup, o provedor do modelo e o usuário, e do uso permitido da ferramenta. Em relações de consumo, vale lembrar que cláusulas que simplesmente afastam toda a responsabilidade do fornecedor tendem a ser consideradas abusivas.

A integração de IA também se cruza diretamente com a Lei Geral de Proteção de Dados (Lei nº 13.709/2018). O art. 20, por exemplo, garante ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado, além de informações claras sobre os critérios e procedimentos utilizados.

O aviso de privacidade de uma IA corporativa deve observar alguns pontos inegociáveis:

• Finalidade, necessidade e base legal (arts. 6º e 7º): o uso de dados de entrada para retreinar modelos exige finalidade definida, coleta mínima e uma base legal clara, como consentimento ou legítimo interesse, devidamente documentada.
• Dados sensíveis (art. 11): sistemas que tratam biometria ou dados de saúde contam com bases legais mais restritas, e o legítimo interesse não está entre elas.
• Transparência (arts. 6º, 9º, 18 e 20): a startup deve informar o compartilhamento de dados com operadores e suboperadores, como APIs de terceiros, e oferecer canais acessíveis para a contestação de decisões automatizadas.

Direitos Autorais e a “Autoria de Máquina”

Aqui existe um abismo que poucos enxergam. A Lei de Direitos Autorais (Lei nº 9.610/1998) define autor como a pessoa física criadora da obra, e máquinas não têm personalidade jurídica. Na prática, sem cláusulas contratuais bem construídas, o conteúdo gerado na plataforma pode cair em uma zona cinzenta de titularidade.

Por isso, é indispensável prever a cessão de direitos patrimoniais nos contratos com fornecedores, desenvolvedores e colaboradores, de forma escrita e específica, como exige o art. 49 da mesma lei. Os Termos de Uso, por sua vez, devem deixar claro quem pode usar os resultados gerados pela IA e em que condições, o que dá segurança ao cliente e ao investidor.

Soberania de Dados e Integração via API

Ao consumir um modelo de linguagem (LLM), a escolha da arquitetura tem peso jurídico. Para onde vão as planilhas e os contratos que a startup envia à IA? A localização dos data centers define as regras de transferência internacional de dados da LGPD.

Em 2026, Brasil e União Europeia avançaram para o reconhecimento recíproco de adequação, o que cria um verdadeiro corredor digital de fluxo de dados entre as duas regiões. Esse reconhecimento, porém, não alcança outros países: para servidores nos Estados Unidos, a startup ainda precisa de um mecanismo válido de transferência, como as cláusulas contratuais padrão aprovadas pela ANPD.

A tabela a seguir compara o impacto jurídico entre versões gratuitas e integrações profissionais, o que ajuda na decisão estrutural da startup.

Portanto, consumir IA via API não é apenas uma decisão técnica: é uma estratégia ativa de mitigação de riscos. Vale lembrar que a API, sozinha, não resolve tudo, e que contrato, localização dos dados, suboperadores e retenção continuam precisando de revisão.

Responsabilidade Civil e o “Human-in-the-Loop”

Juridicamente, a IA não é sujeito de direitos: não pode ser processada nem multada. A responsabilidade recai sobre a cadeia humana, que o PL 2338/2023 organiza em três papéis: o desenvolvedor, que cria o modelo base, o distribuidor, que o licencia ou disponibiliza, e o aplicador, que o utiliza em sua operação, como a sua startup.

Perante o Código de Defesa do Consumidor (Lei nº 8.078/1990), em especial nos arts. 12 a 14, quem presta o serviço ao consumidor responde de forma objetiva, ou seja, independentemente de culpa, e havendo mais de um responsável na cadeia a responsabilidade tende a ser solidária. Se o algoritmo discrimina na concessão de crédito ou entrega uma “alucinação” que causa dano, é a sua marca que o consumidor enxerga e que chega primeiro aos tribunais. À startup resta buscar ressarcimento junto ao provedor, o chamado direito de regresso, o que depende de um contrato bem negociado desde o início.

Supervisão humana

Nesse cenário, a supervisão humana, conhecida como Human in the Loop, é uma das ferramentas mais eficazes da governança de IA. Na prática, significa garantir que decisões críticas, como as que afetam crédito, saúde, emprego ou direitos fundamentais, não sejam totalmente autônomas, e que sempre haja alguém capaz de revisar, questionar e reverter o resultado.

Mas a supervisão humana precisa ser desenhada, e não apenas declarada. Existem três arranjos diferentes, e misturar os três é o que faz a governança falhar:

●       Humano no circuito (human in the loop): nada produz efeito sem a aprovação de uma pessoa. É o arranjo mais indicado para decisões de alto risco, como concessão de crédito, triagem de candidatos ou apoio a diagnóstico.

●       Humano sobre o circuito (human on the loop): o sistema age sozinho e a pessoa monitora, com poder de reverter. Serve para operações de volume alto e risco moderado, desde que existam alertas e trilha de auditoria.

●       Humano no comando (human in command): a pessoa define os limites, as permissões e as situações em que o sistema deve ser desligado. É a camada que o caso Kiro colocou em evidência: de nada adianta exigir aprovação se uma permissão ampla demais deixa o agente contornar a regra.

Quando se trata de agentes autônomos, ou seja, aqueles que executam ações e não apenas sugerem textos, quatro controles técnicos valem mais do que qualquer política escrita:

●       Privilégio mínimo: o agente usa uma credencial própria, com apenas as permissões de que precisa, e nunca a credencial de uma pessoa.

●       Separação real entre teste e produção: o ambiente em que o agente experimenta não pode alcançar os dados e os sistemas usados pelos clientes.

●       Aprovação obrigatória para ações destrutivas ou irreversíveis: apagar, sobrescrever ou transferir informações exige a validação de uma pessoa.

●       Registro completo e possibilidade de reverter: tudo o que o agente fez fica documentado, e existe um caminho para desfazer.

Em setores regulados, a supervisão humana deixou de ser apenas boa prática e passou a ser exigência normativa. Na saúde, a Resolução CFM nº 2.454/2026 trata a IA como ferramenta de apoio: a decisão final permanece com o médico, o paciente tem o direito de ser informado sobre o uso da tecnologia e esse uso deve ser registrado no prontuário.

A norma também veda delegar à IA a comunicação de diagnósticos e prognósticos sem mediação humana e protege o médico contra responsabilização indevida por falhas atribuíveis exclusivamente ao sistema, desde que ele comprove o uso diligente, crítico e ético da ferramenta. Embora se dirija a médicos e instituições médicas, ela repercute diretamente nas healthtechs, que precisarão oferecer soluções compatíveis com esses deveres.

Crianças e Adolescentes

Quando o produto pode ser acessado por crianças e adolescentes, o cuidado precisa ser redobrado. O ECA Digital (Lei nº 15.211/2025), em vigor desde 17 de março de 2026 e regulamentado pelo Decreto nº 12.880/2026, alcança produtos e serviços de tecnologia direcionados a esse público ou de “acesso provável” por ele, o que pode incluir soluções baseadas em IA. Entre as exigências estão a verificação de idade por meios confiáveis, a proibição do perfilamento para publicidade dirigida a menores, a vedação a práticas de design manipulativo, a segurança desde a concepção e ferramentas de supervisão parental. A ANPD é a autoridade responsável pela regulamentação e pela fiscalização, e vem implementando as obrigações em etapas.

Política Interna de Uso de IA

Esse documento costuma ser esquecido porque parece burocrático, e é justamente ele que evita o incidente mais comum: alguém do time colar informação confidencial de um cliente em uma ferramenta gratuita para resolver um problema mais rápido. A intenção é boa, mas o efeito é um vazamento sem registro, exatamente o risco apontado na comparação entre versões gratuitas e integrações profissionais, apresentada na seção sobre soberania de dados.

Uma política útil cabe em duas páginas e responde a cinco perguntas:

●       Quais ferramentas estão aprovadas e como pedir a aprovação de uma nova.

●       O que nunca pode ser inserido, com exemplos concretos: dado pessoal de cliente, credencial, código proprietário e documento sob acordo de confidencialidade.

●       O que exige conferência humana antes de ir para fora, como texto que vai ao cliente, número que entra em relatório e código que vai para produção.

●       Como identificar o conteúdo gerado com apoio de IA internamente e, quando for o caso, perante o cliente.

●       A quem comunicar quando algo der errado, com um canal único e sem punição pela comunicação espontânea.

Para funcionar de verdade, a política precisa sair do papel: vale apresentar o documento a toda a equipe no momento da contratação e revisar o conteúdo com periodicidade definida, já que as ferramentas e os termos dos provedores mudam com frequência. A lista de ferramentas aprovadas, por sua vez, nasce do inventário de sistemas de IA da empresa.

Segurança da Informação e Cibersegurança

A governança exige uma tecnologia que seja não apenas inteligente, mas também resiliente. A integração de IA, especialmente via API, cria vetores de ataque novos, como o Prompt Injection (instruções maliciosas que levam o modelo a agir fora do esperado), o vazamento de informações sensíveis, o uso inseguro das saídas do modelo e o excesso de autonomia dado a agentes de IA, justamente o ponto em que a supervisão humana se torna indispensável.

A LGPD já exige medidas de segurança adequadas (art. 46), e as boas práticas internacionais têm servido de referência para demonstrar essa diligência:

• ISO/IEC 27001:2022: gestão de segurança da informação.
• ISO/IEC 27701:2025: gestão de privacidade, que a partir da revisão de 2025 passou a ser uma norma independente.
• ISO/IEC 42001:2023: sistema de gestão específico para inteligência artificial.
• NIST AI RMF 1.0: framework de gestão de riscos de IA.
• OWASP Top 10 para aplicações LLM (versão 2025): os principais riscos de segurança em modelos de linguagem.

Esses referenciais ajudam a estruturar testes periódicos de segurança, como testes de intrusão e exercícios de red team, e a mitigar as vulnerabilidades próprias dos modelos de linguagem.

O que esperar dos próximos meses

Dois movimentos merecem acompanhamento. O primeiro é a tramitação do PL 2338 na Câmara, que deve voltar à pauta depois do período eleitoral e ainda pode ser alterado pelo relator antes de retornar ao Senado. O segundo é a atuação da ANPD, que incluiu inteligência artificial e tecnologias emergentes entre seus temas prioritários para 2026 e 2027 e já sinalizou ações de fiscalização sobre tratamento de dados em sistemas de IA, inclusive dados de crianças e adolescentes.

A leitura estratégica é simples: a fiscalização tende a chegar antes da lei nova, usando os instrumentos que já existem na LGPD. Quem só começar a se organizar quando o Marco Legal for aprovado vai estar atrasado em relação a quem cobra, e não em relação ao prazo da norma.

Conclusão

Em 2026, ser uma startup movida apenas pela tecnologia já não garante longevidade no mercado. O sucesso tende a ser dos negócios que combinam visão jurídica desde o desenho do produto com inteligência tecnológica. O retorno do compliance é a confiança que a empresa transmite a clientes e a investidores institucionais.

A governança de IA é o pavimento que permite acelerar a inovação sem soltar o volante. Documentar hoje os fluxos algorítmicos é muito mais barato e estratégico do que administrar amanhã uma crise regulatória ou de reputação.

Assuma o controle da sua tecnologia: formalize a Avaliação de Impacto Algorítmico, revise os Termos de Uso e mantenha o ser humano no centro das decisões críticas do seu negócio.

FAQ

O PL 2338/2023 já está valendo?

Não. Ele foi aprovado pelo Senado em dezembro de 2024 e continua em tramitação na Câmara dos Deputados, em comissão especial, aguardando o parecer do relator. A votação foi adiada diversas vezes em 2026. Enquanto isso, o que obriga a sua startup são LGPD, Código de Defesa do Consumidor, ECA Digital, normas setoriais e, para a área médica, a Resolução CFM nº 2.454/2026.

O que é a avaliação de impacto algorítmico e qual sua importância? 

É um documento preventivo que mapeia os riscos de um sistema de IA antes da implementação: viés nos dados de entrada, explicabilidade da lógica, dano possível das saídas e medidas de mitigação. Investidores pedem porque ele comprova maturidade operacional e reduz risco de passivo oculto na due diligence. 

Posso ser responsabilizado por uma resposta errada da IA mesmo usando a API de um grande fornecedor?

Sim. Perante o usuário final, quem entrega o serviço responde pela qualidade dele, e no âmbito do Código de Defesa do Consumidor essa responsabilidade é em regra objetiva e solidária na cadeia. A escolha do fornecedor é sua. Por isso importam tanto a revisão humana nas decisões sensíveis, os limites de uso bem redigidos no termo e o direito de regresso previsto no contrato com o provedor.

Usar os dados que meus clientes inserem na plataforma para treinar minha IA viola a LGPD?

Não necessariamente, mas depende de base legal válida, finalidade clara e informação adequada ao titular. Consentimento específico é o caminho mais seguro quando o uso não é esperado pelo cliente. A melhor prática é treinar com dado sintético ou efetivamente anonimizado e, se usar dado real, oferecer recusa simples e registrar essa escolha.

A LGPD impede usar provedores com servidores nos Estados Unidos?

Não impede, mas exige diligência. Desde a Resolução CD/ANPD nº 32, de janeiro de 2026, as transferências entre Brasil e União Europeia dispensam mecanismo adicional por reconhecimento recíproco de adequação. Para países sem essa decisão, como os Estados Unidos, é preciso formalizar as cláusulas contratuais padrão aprovadas pela ANPD e manter essa documentação organizada.

De quem é a propriedade intelectual do conteúdo gerado pela IA da minha plataforma?

A Lei 9.610/1998 reconhece como autor apenas a pessoa natural, então a máquina não é autora e a saída pode ficar em zona cinzenta. Para garantir direitos comerciais, estruture cessão de direitos patrimoniais nos contratos com fornecedores e desenvolvedores e inclua no termo de uso uma cláusula clara de titularidade da saída e de responsabilidade do usuário sobre o que ele insere.

Minha startup usa agentes de IA que executam tarefas, não só geram texto. O que muda?

Muda o tipo de controle necessário. Com agentes, política escrita não basta: é preciso privilégio mínimo com credencial própria do agente, separação real entre teste e produção, aprovação obrigatória para ações irreversíveis e registro completo com possibilidade de reverter. O caso Kiro, da Amazon, mostrou que a regra de aprovação existia e foi contornada por uma permissão ampla demais.

Somos uma startup pequena. Por onde começar sem travar o produto?

Pelos três documentos mais baratos e de maior efeito: inventário de sistemas de IA, política interna de uso e classificação de risco. Juntos, eles custam poucas horas de trabalho, eliminam o uso informal de ferramentas gratuitas com dado de cliente e mostram onde vale investir em controle mais robusto. Termos de uso, aviso de privacidade e avaliação de impacto vêm depois.