Cenário ilustrativo. Uma empresa de distribuição está a escolher um assistente de IA para o apoio ao cliente. Há dois finalistas. O primeiro mostra na página inicial dois logótipos: «SOC 2» e «ISO 42001». O segundo não tem nenhum, mas oferece um teste de duas semanas com os e-mails reais do último trimestre. Na comissão de compra, alguém encerra a discussão: «o primeiro é certificado, o segundo não». Três meses depois, o assistente certificado responde com toda a confiança sobre prazos de entrega que não existem em nenhuma política da empresa.
A tese numa linha: um selo atesta que o fornecedor tem controlos e um sistema de gestão, não que a sua IA funcione no teu caso de uso. SOC 2 e ISO 42001 são bons sinais de maturidade e maus substitutos de uma avaliação. Pede-os, lê-os a sério e depois faz o que nenhum selo faz por ti: testar o sistema com os teus dados e deixar por escrito o que acontece quando ele se engana.
O que provam SOC 2 e ISO 42001 num fornecedor de IA?
Resposta curta. A ISO/IEC 42001 certifica que uma organização tem um sistema de gestão da IA: políticas, responsáveis, avaliação de riscos e melhoria contínua sobre a forma como desenvolve ou usa IA, dentro de um âmbito declarado. O SOC 2 é um relatório em que um auditor independente dá a sua opinião sobre os controlos de um prestador de serviços em matéria de segurança, disponibilidade, integridade do processamento, confidencialidade ou privacidade. Ambos falam da organização e dos seus controlos. Nenhum mede se as respostas do modelo estão certas para o teu negócio.
Não é uma crítica às normas: é o seu desenho. Uma norma de sistema de gestão não pode conhecer a tua política de devoluções, e um auditor de controlos não verifica se um resumo gerado por IA é fiel ao documento original. Confundir uma coisa com a outra é o erro caro.
O que é exatamente a ISO/IEC 42001?
É a norma internacional de sistemas de gestão da IA, publicada em dezembro de 2023. Segundo a secção de âmbito, especifica os requisitos para estabelecer, implementar, manter e melhorar continuamente um sistema de gestão da IA no contexto de uma organização, e destina-se a qualquer organização que forneça ou use produtos ou serviços baseados em sistemas de IA (ISO/IEC 42001:2023). É da mesma família da ISO 27001 para a segurança da informação: certifica a forma como te organizas, não o produto.
Daí resultam três consequências práticas para quem compra:
- Certifica a organização, não o modelo. Um fornecedor certificado não significa que cada funcionalidade vendida tenha passado num teste de qualidade. Significa que tem um sistema para identificar riscos, atribuir responsáveis e revê-los.
- O certificado tem um âmbito. Pode cobrir uma linha de produto, uma instalação ou um processo, e não o serviço concreto que estás a comprar. Primeiro lê-se o âmbito, não o logótipo.
- Tem emissor e validade. Um certificado é emitido por um organismo de certificação após uma auditoria, com data. «Alinhados com a ISO 42001» ou «seguimos os seus princípios» não é o mesmo que estar certificado, e a nuance costuma estar nas letras pequenas do site.
O que é um relatório SOC 2 e porque não é um certificado?
O SOC 2 faz parte dos serviços SOC da AICPA, a associação de revisores de contas dos Estados Unidos: trabalhos em que um auditor independente (um CPA) reporta sobre os controlos ao nível do sistema de uma organização prestadora de serviços (AICPA, serviços SOC). Os critérios agrupam-se em cinco categorias: segurança, disponibilidade, integridade do processamento, confidencialidade e privacidade. O resultado não é um diploma: é um relatório assinado com uma opinião, uma descrição do sistema e, muitas vezes, uma lista de exceções.
A diferença que mais conta para quem compra é o tipo de relatório:
| Tipo 1 | Tipo 2 | |
|---|---|---|
| O que avalia | Se os controlos estão bem desenhados e implementados | Além disso, se funcionaram de forma eficaz |
| Quando | Numa data concreta: uma fotografia | Ao longo de um período: um filme |
| O que te diz | Que o fornecedor tinha os controlos no papel nesse momento | Que o auditor testou que funcionaram durante meses |
| O que verificar | A data e que sistema descreve | O período coberto, as exceções e se o serviço de IA está na descrição |
Mais duas coisas. Primeiro: um relatório SOC 2 tem data e período; um de há dois anos descreve um sistema que provavelmente já não existe tal como era, sobretudo num produto de IA que muda de modelo de poucos em poucos meses. Segundo: a própria AICPA avisa na sua página de serviços SOC que as organizações devem avaliar esses serviços a fundo. Se a firma que assinou não te diz nada, também isso se verifica.
O que é que nenhum dos dois selos prova?
Este é o centro do argumento. Sozinho, nenhum dos dois te diz:
- Que a IA acerta no teu caso. A qualidade das respostas depende dos teus dados, das tuas políticas e das tuas exceções. Só se sabe com uma avaliação sobre casos reais, com critérios de aceitação escritos antes de começar.
- O que acontece aos teus dados no treino. Se o fornecedor usa ou não os teus dados para treinar os modelos, e com que subcontratantes trabalha, está no contrato e nas condições, não no selo. É o que contamos em IA e RGPD: o que o teu fornecedor não conta.
- Que o serviço que compras está coberto. Um certificado ou relatório sobre a plataforma principal não cobre automaticamente a nova integração, o agente lançado no mês passado ou o modelo de terceiros que está por trás.
- Que tu cumpres o AI Act. As tuas obrigações dependem do uso que dás ao sistema e do teu papel na cadeia, não dos selos do fornecedor. Um fornecedor certificado não te dispensa de classificar os teus usos nem de os supervisionar.
- Que alguém responde quando falha. Quem deteta um erro, em quanto tempo e como se corrige é uma questão de operação e de contrato. Um selo pode mostrar que existe um processo; não te diz quanto tempo demora no teu caso.
O que pedir além do selo?
Uma lista curta, que cabe num e-mail ao fornecedor. Cada pergunta tem um documento por trás; se a resposta for uma frase comercial, regista-a como pendente.
| Pergunta | Que documento pedes | Sinal de alarme |
|---|---|---|
| O serviço que compro está dentro do âmbito? | Certificado ISO 42001 com o seu âmbito, ou a descrição do sistema do relatório SOC 2 | O âmbito fala de «a plataforma» e o teu produto não aparece |
| Quando foi avaliado pela última vez? | Data do certificado ou período coberto pelo relatório | Relatório Tipo 1 antigo ou sem data visível |
| Que exceções encontrou o auditor? | Secção de resultados do relatório SOC 2 | «O relatório é confidencial», sem nenhuma via proposta para o ler |
| Funciona com os meus casos? | Teste sobre um conjunto fechado de casos teus, com critérios de aceitação acordados | Apenas uma demonstração com exemplos do fornecedor |
| O que fazem com os meus dados? | Contrato de subcontratação do tratamento, condições de uso para treino, lista de subcontratantes | Respostas verbais ou links para uma página de marketing |
| O que acontece quando se engana? | Procedimento de incidentes, registos consultáveis e prazos | «O modelo não se engana» ou «isso depende do modelo de base» |
A quarta linha é a que mais se salta e a que mais dinheiro poupa. Uma avaliação séria não é uma demonstração bonita: é um conjunto de casos reais, com as respostas esperadas escritas, que o sistema tem de superar antes de entrar em produção e de novo sempre que o fornecedor muda de modelo. É exatamente o que montamos quando ajudamos uma empresa a avaliar a qualidade dos seus agentes de IA.
Quando é que um selo deve mesmo pesar na decisão?
Quando o risco principal é organizativo e não de qualidade. Se vais dar a um fornecedor acesso a dados pessoais, a sistemas internos ou a processos regulados, um relatório SOC 2 Tipo 2 recente e um certificado ISO 42001 com o âmbito certo reduzem muito a incerteza sobre a forma como trabalha. Também pesam quando é o teu próprio cliente a pedi-los: se vendes a grandes empresas, o questionário de segurança sobre IA delas vai perguntar pelos fornecedores que usas, e um selo verificável é a resposta mais curta.
E ao contrário: a ausência de selo não desqualifica um fornecedor pequeno que te deixa auditar a configuração, te dá registos e aceita um teste com os teus dados. Às vezes isso vale mais do que um logótipo, desde que fique por escrito.
Como pôr isto no teu processo de compra sem o transformar em burocracia
Três passos, por esta ordem. Primeiro, decide o que o sistema tem de fazer e como vais saber que o faz bem; é o mesmo critério que usamos para escolher uma ferramenta de automação com IA: a ferramenta é a última decisão, não a primeira. Segundo, pede os documentos da tabela e lê-os com alguém que os saiba ler. Terceiro, depois de entrar, governa-o: registos, permissões, forma de parar o sistema e revisão periódica, que é o que explicamos em governação e controlo da automatização com IA.
E se operas um sistema que pode entrar nas categorias reguladas do Regulamento europeu da IA, os selos do fornecedor são uma peça do teu processo, não o processo. Para isso existe o trabalho de cumprir o AI Act a operar a IA no dia a dia.
Nota: este artigo não é aconselhamento jurídico nem de auditoria e não usa números de terceiros. As referências são a norma ISO/IEC 42001:2023 (secção 1, âmbito) e a descrição dos serviços SOC da AICPA; o âmbito exato de um certificado ou relatório verifica-se sempre no documento original.