Uma empresa pretende utilizar inteligência artificial para analisar currículos, atender consumidores ou produzir conteúdo. Uma startup desenvolve um produto com IA e precisa definir suas responsabilidades. Uma pessoa descobre que sua imagem ou voz foi utilizada em um vídeo falso. Um advogado precisa questionar um relatório produzido com inteligência artificial e apresentado como prova.
Em todas essas situações, compreender a tecnologia é parte importante da análise jurídica.
O advogado especialista em inteligência artificial atua nas questões legais relacionadas ao desenvolvimento, à contratação e ao uso de sistemas de IA. Seu trabalho pode envolver a estruturação de projetos, a orientação de empresas, a proteção de direitos e a representação em conflitos.
O que é um advogado especialista em inteligência artificial?
O advogado especialista em inteligência artificial é o profissional da advocacia dedicado à análise e ao tratamento das questões jurídicas relacionadas ao desenvolvimento, à contratação e ao uso de sistemas de IA. Sua atuação compreende a orientação de projetos e empresas, a elaboração de contratos, a avaliação de riscos e obrigações, a estruturação de governança e compliance e a representação em conflitos envolvendo esses sistemas. Trabalha na intersecção entre tecnologia e Direito, considerando aspectos de privacidade, proteção de dados, propriedade intelectual, responsabilidade civil, relações de consumo, discriminação e questões criminais, com apoio técnico especializado quando necessário.
Essa atuação exige conhecer tanto as regras aplicáveis quanto as características da operação. Um sistema que auxilia na redação de textos apresenta questões diferentes de uma ferramenta utilizada para selecionar candidatos, analisar crédito ou apoiar decisões na área da saúde.
A análise deve considerar a finalidade do uso, os dados envolvidos, as pessoas afetadas e o papel de cada participante.
Quais questões jurídicas envolvem inteligência artificial?
A adoção de IA pode afetar direitos e criar obrigações em diferentes etapas: desde a escolha dos dados e a contratação do fornecedor até a utilização dos resultados e o tratamento de incidentes.
Entre as questões que precisam ser examinadas estão:
- Quais dados podem ser utilizados e para quais finalidades.
- Como proteger informações pessoais, confidenciais e estratégicas.
- Quais direitos existem sobre conteúdos utilizados ou produzidos.
- Quem responde por falhas, danos e descumprimentos contratuais.
- Como informar consumidores e outras pessoas afetadas.
- Quais controles são necessários para reduzir riscos de discriminação.
- Como documentar decisões e permitir sua revisão.
- Quais regras se aplicam ao projeto e à operação.
- Como investigar incidentes e preservar evidências.
A orientação jurídica precisa acompanhar o uso real do sistema. Uma política interna pode parecer adequada e, ainda assim, deixar de tratar o envio de documentos confidenciais por funcionários a ferramentas externas.
Por que procurar um advogado com conhecimento em IA?
Questões envolvendo inteligência artificial frequentemente dependem de fatos técnicos.
É necessário compreender, por exemplo, se a ferramenta apenas sugere uma resposta ou executa uma ação; se utiliza dados pessoais; se mantém registros; se permite intervenção humana; e quais controles permanecem nas mãos da empresa contratante.
Essas diferenças podem afetar a análise de riscos, a elaboração de contratos e a avaliação de responsabilidades.
O advogado com experiência na área consegue formular perguntas mais precisas, identificar informações relevantes e trabalhar com especialistas para fundamentar a orientação. Isso ajuda a evitar decisões baseadas apenas na apresentação comercial da ferramenta.
Advocacia consultiva em inteligência artificial: em quais casos atua?
Avaliação jurídica de projetos e produtos
Antes de lançar um produto com IA, é importante examinar seu funcionamento, o público atendido e os direitos que podem ser afetados.
A análise pode abranger o modelo de negócio, a origem dos dados, as condições de uso, a documentação e as responsabilidades de desenvolvedores, fornecedores e clientes.
O objetivo é identificar riscos e ajustes necessários desde a estruturação do projeto.
Contratação de ferramentas e fornecedores
Uma empresa que contrata IA precisa compreender o que está adquirindo e quais compromissos o fornecedor assume.
O apoio jurídico pode envolver cláusulas sobre confidencialidade, proteção de dados, segurança, uso das informações para treinamento, propriedade intelectual, níveis de serviço, alterações do produto e encerramento da contratação.
Também é importante verificar como a empresa poderá obter registros ou esclarecimentos se houver um incidente.
Políticas internas de uso de IA
Funcionários podem utilizar ferramentas de IA para redigir documentos, analisar contratos, organizar informações ou atender clientes.
A orientação jurídica ajuda a definir quais usos são permitidos, quais informações exigem proteção e quando os resultados devem passar por revisão humana.
Uma política útil precisa ser compreensível e compatível com a rotina da organização. Também deve indicar responsabilidades e procedimentos para dúvidas e incidentes.
Privacidade e proteção de dados pessoais
Sistemas de IA podem utilizar dados de clientes, empregados, pacientes, candidatos e outras pessoas.
A análise jurídica deve considerar as finalidades do tratamento, as bases legais pertinentes, a necessidade dos dados, os agentes envolvidos e os direitos dos titulares.
Conforme o caso, também pode ser necessário avaliar compartilhamentos, transferências internacionais, retenção de informações e medidas para reduzir a exposição de dados.
Direitos autorais, imagem, voz e marcas
Projetos de IA podem envolver obras protegidas, conteúdos jornalísticos, materiais de terceiros e reproduções da imagem ou da voz de pessoas identificáveis. As questões jurídicas aparecem tanto na formação das bases de treinamento quanto na geração e na exploração dos resultados.
Um modelo pode utilizar textos, fotografias e reportagens coletados de sites de notícias para seu treinamento. Outra ferramenta pode consultar esses conteúdos para produzir respostas, resumos ou reproduções de trechos. São usos distintos, que exigem avaliar a origem do material, os direitos envolvidos, as condições de acesso e a legislação aplicável.
O advogado pode analisar a necessidade de autorização ou licenciamento e negociar contratos com veículos de comunicação, editoras, autores e outros titulares. Esses instrumentos podem definir quais conteúdos serão utilizados, para quais finalidades, por quanto tempo e mediante quais condições de remuneração, atribuição e atualização. A necessidade de licença depende do uso concreto e das exceções legais aplicáveis; não deve ser presumida nem descartada apenas porque o conteúdo está acessível online.
A atuação também abrange autorizações para uso de imagem e voz, proteção de marcas e avaliação dos resultados produzidos pelo sistema. É importante examinar possíveis reproduções de obras, associações indevidas com pessoas ou empresas e os direitos que poderão ser atribuídos ao cliente nos contratos.
Disponibilidade na internet não equivale a liberdade irrestrita de utilização. A orientação jurídica ajuda a estruturar o acesso e o uso dos conteúdos e a tratar conflitos entre desenvolvedores, fornecedores, usuários e titulares de direitos.
Governança e compliance de IA
O apoio jurídico pode contribuir para organizar responsabilidades, critérios de contratação, avaliações de risco e controles sobre os sistemas utilizados.
Esse trabalho deve ser desenvolvido em conjunto com as áreas responsáveis pela tecnologia, segurança, proteção de dados e operação.
Governança de IA exige procedimentos que funcionem na prática, com documentação, acompanhamento e revisão.
O que é governança de inteligência artificial?
Governança de inteligência artificial é o conjunto de responsabilidades, políticas e procedimentos que orienta como uma organização desenvolve, contrata, utiliza e acompanha seus sistemas de IA.
Ela ajuda a responder perguntas essenciais: quem autoriza o uso? Quem avalia os riscos? Quais dados podem ser utilizados? Como os resultados são revisados? O que fazer quando surge uma falha?
O trabalho pode incluir:
- Inventário das ferramentas e dos usos de IA.
- Definição dos responsáveis por cada sistema.
- Avaliação de fornecedores e contratos.
- Análise e classificação de riscos.
- Critérios de supervisão humana.
- Registro de avaliações e decisões relevantes.
- Procedimentos para incidentes e reclamações.
- Treinamento e revisão periódica dos controles.
O advogado contribui para relacionar essas medidas às obrigações jurídicas e aos direitos das pessoas afetadas.
Como funciona a avaliação de riscos de um sistema de IA?
A avaliação começa pela finalidade concreta do sistema e pelas consequências de seu uso.
Uma ferramenta utilizada para sugerir títulos internos apresenta riscos diferentes de um sistema que influencia decisões sobre contratação, crédito ou acesso a serviços.
A análise pode considerar os dados utilizados, o grau de autonomia, os possíveis danos, a participação humana e a possibilidade de contestar ou corrigir resultados.
A classificação precisa indicar o critério adotado: pode servir à gestão interna de riscos ou a um enquadramento regulatório específico. Ela deve ser revista quando o sistema, sua finalidade ou as condições de uso mudarem.
Quais referências podem apoiar a governança de IA?
Além das regras jurídicas aplicáveis à operação, existem referências que podem ajudar na organização dos controles.
A ISO/IEC 42001 estabelece requisitos para um sistema de gestão de inteligência artificial nas organizações. Pode orientar a estruturação de políticas, responsabilidades e processos de melhoria.
O NIST AI RMF é uma estrutura voluntária destinada à gestão de riscos relacionados ao desenvolvimento e ao uso de IA.
O AI Act, regulamento europeu de inteligência artificial, estabelece regras baseadas nos riscos e nas características dos usos. Sua aplicação deve ser examinada conforme a operação e sua relação com o mercado europeu.
Esses instrumentos têm naturezas diferentes. O trabalho jurídico deve distinguir obrigações legais, compromissos contratuais e referências adotadas voluntariamente, além de acompanhar mudanças normativas e propostas legislativas relevantes.
Advocacia contenciosa em IA: quais conflitos podem surgir?
Danos relacionados ao uso de sistemas de IA
Uma informação incorreta, uma ação automatizada ou uma falha no atendimento pode causar prejuízos.
O advogado analisa os fatos, os deveres dos envolvidos e a relação entre o uso do sistema e o dano. A responsabilidade depende das circunstâncias, das regras aplicáveis e das provas.
Decisões discriminatórias ou indevidamente restritivas
Sistemas utilizados em seleção de pessoas, concessão de serviços ou outras decisões podem gerar controvérsias sobre critérios, dados e resultados.
A atuação jurídica pode envolver pedidos de informação, revisão e investigação técnica para compreender como a decisão foi produzida e quais direitos foram afetados.
Deepfakes e uso indevido de imagem ou voz
Vídeos, áudios e imagens manipulados podem ser utilizados para fraudes, exposição indevida ou ataques à reputação.
O trabalho pode abranger preservação de evidências, pedidos de remoção, obtenção de informações e medidas de responsabilização, conforme o caso.
Violações de propriedade intelectual
Disputas podem envolver o uso de obras, marcas, código e outros materiais, assim como a exploração comercial de conteúdos produzidos com auxílio de IA.
A análise exige examinar os elementos utilizados, os contratos, as licenças e as condutas atribuídas aos envolvidos.
Exposição de dados e informações confidenciais
O envio ou o tratamento inadequado de informações pode gerar conflitos com clientes, empregados, parceiros e titulares de dados.
A atuação pode combinar investigação do incidente, avaliação de obrigações e representação em procedimentos administrativos ou judiciais.
Descumprimento contratual por fornecedores
Uma solução pode não entregar as funcionalidades contratadas ou apresentar problemas de desempenho, segurança e integração.
O advogado examina os requisitos, as promessas comerciais, os registros de implantação e os impactos na operação para orientar a estratégia do cliente.
Questões criminais e fraudes com IA
Clonagem de voz, falsificação de conteúdos e outras aplicações podem integrar práticas criminosas. A atuação jurídica pode envolver tanto o apoio às vítimas quanto a defesa de pessoas investigadas ou acusadas, com atenção à identificação dos envolvidos e à confiabilidade das evidências.
Também podem surgir casos em que plataformas de IA encaminham às autoridades relatos ou registros relacionados às conversas de usuários, por suspeita de práticas ilícitas. Nessas situações, o advogado pode examinar o fundamento do compartilhamento, os dados efetivamente enviados e o contexto das interações, além de avaliar possíveis erros de interpretação ou de atribuição de autoria. A análise deve distinguir o conteúdo de uma conversa da existência de elementos que sustentem uma conduta criminosa, considerando a integridade dos registros e as garantias da pessoa investigada.
Provas e relatórios produzidos com inteligência artificial
Quando resultados de IA são utilizados para sustentar uma alegação, é necessário examinar sua origem, o método empregado e a relação entre o resultado e os dados analisados.
O trabalho pode envolver pedidos de esclarecimento, preservação dos materiais e análise técnica. A aparência de precisão de um relatório não substitui a demonstração de sua confiabilidade.
Por que o conhecimento técnico da equipe faz diferença?
Em conflitos envolvendo IA, uma interpretação equivocada pode comprometer toda a estratégia jurídica.
É preciso distinguir o que o sistema efetivamente fez daquilo que alguém atribuiu a ele. Também pode ser necessário investigar quais dados foram fornecidos, qual versão foi utilizada, quais instruções foram inseridas e se houve intervenção humana.
Conforme o caso, especialistas podem ajudar a examinar registros, testar hipóteses, avaliar limitações e verificar a sustentação de um relatório.
A equipe técnica também pode apoiar avaliações de segurança, privacidade, desempenho e possíveis vieses, dentro de um escopo definido.
O advogado especialista em IA utiliza esses elementos para orientar o cliente, elaborar contratos e formular pedidos. O trabalho conjunto permite fundamentar a análise e reconhecer quando as informações disponíveis são insuficientes para uma conclusão.
Quais competências procurar em um advogado especialista em IA?
O profissional deve reunir conhecimento jurídico pertinente ao caso e compreensão do funcionamento dos sistemas envolvidos.
São relevantes a experiência com Direito Digital, proteção de dados, contratos, propriedade intelectual, responsabilidade civil e relações de consumo, além das competências necessárias à natureza da disputa ou do projeto.
Também é relevante conhecer os principais referenciais de governança e gestão de riscos de IA, como a ISO/IEC 42001 e o NIST AI RMF, além das exigências regulatórias aplicáveis à operação. Esse conhecimento ajuda o advogado a orientar programas de adequação e compliance, em conjunto com as equipes técnicas, abrangendo inventário de sistemas, avaliação e classificação de riscos, análise de fornecedores, políticas internas, supervisão humana e resposta a incidentes. O diferencial está em traduzir esses referenciais em medidas compatíveis com a realidade da empresa, distinguindo obrigações legais de boas práticas adotadas voluntariamente.
Na contratação, procure compreender:
- Se o profissional tem experiência com necessidades semelhantes.
- Como será definido o escopo da análise.
- Quais documentos e informações serão necessários.
- Quando haverá participação de especialistas.
- Quais serão os entregáveis, os prazos e os honorários.
Uma proposta clara deve explicar o trabalho e seus limites.
Quando procurar orientação jurídica?
Em projetos, procure apoio antes de definir usos sensíveis, contratar fornecedores, disponibilizar o produto ou assumir compromissos com clientes.
Nas empresas, a orientação é especialmente útil quando ferramentas de IA passam a receber dados pessoais ou confidenciais, influenciar decisões ou executar ações na operação.
Em conflitos, busque avaliação ao identificar danos, discriminação, uso indevido de imagem ou voz, exposição de informações ou divergências com fornecedores.
Organize os contratos, as comunicações, os arquivos e os registros disponíveis. Se houver um resultado contestado, preserve também as informações sobre a ferramenta e as condições em que ele foi produzido.
Perguntas frequentes sobre advocacia em inteligência artificial
O advogado especialista em IA atua apenas para empresas de tecnologia?
Não. Pode atender organizações de diferentes setores que utilizam IA, além de pessoas cujos direitos foram afetados por esses sistemas.
Uma empresa pode contratar apoio jurídico antes de adotar IA?
Sim. A avaliação pode ajudar a definir usos, analisar fornecedores, revisar contratos e estabelecer controles compatíveis com a operação.
O advogado pode avaliar se uma ferramenta de IA é segura?
Pode analisar os riscos e as condições jurídicas de uso. A avaliação técnica de segurança exige competências próprias e pode ser realizada por especialistas em conjunto com a equipe jurídica.
A empresa pode ser responsabilizada por uma resposta produzida por IA?
A possibilidade depende do contexto, dos deveres envolvidos e da relação com o dano. Utilizar uma ferramenta de terceiro não encerra a análise sobre a atuação da empresa que a disponibilizou ou utilizou.
O advogado pode ajudar em casos de deepfake?
Sim. Pode orientar a preservação das provas e avaliar medidas para remoção, obtenção de informações e responsabilização.
Uma política interna resolve todos os riscos de IA?
Não. A política precisa ser acompanhada de procedimentos, responsáveis, treinamento e controles compatíveis com os usos reais da organização.
A governança de IA está relacionada à governança de proteção de dados?
Sim. Quando sistemas de IA utilizam dados pessoais, as duas devem atuar de forma integrada, considerando finalidades, bases legais, segurança, compartilhamento e direitos dos titulares. A governança de IA, porém, também abrange questões como confiabilidade dos resultados, discriminação, supervisão humana, propriedade intelectual e impactos sobre pessoas e negócios. Um programa de proteção de dados pode servir de base, mas precisa ser complementado com controles específicos para os usos e riscos da inteligência artificial.
Advocacia em inteligência artificial com compreensão jurídica e técnica
A utilização de IA exige decisões sobre dados, contratos, direitos e responsabilidades. Quando surge um conflito, também exige compreender o funcionamento do sistema e as evidências disponíveis.
O José Milagre Advogados atua em Direito Digital, com uma abordagem que integra análise jurídica e compreensão tecnológica para orientar projetos e empresas e representar clientes em controvérsias envolvendo inteligência artificial.
Se você precisa desenvolver, contratar ou utilizar IA, ou enfrenta um conflito relacionado a essa tecnologia, apresente o contexto para uma avaliação jurídica. A definição do problema e do escopo permite identificar os riscos relevantes e construir uma estratégia adequada.
José Milagre
Advogado em Direito Digital, mestre e doutor pela UNESP e CEO do José Milagre Advogados.
