Saltar para o conteúdo
Se não funciona, não pagas. 30 dias.
Implementa.
InfraestruturaOpinião··8 min

SOC 2 e ISO 42001 no teu fornecedor de IA: o que provam e o que não

SOC 2 e ISO 42001 são os dois selos que um fornecedor de IA mais mostra. Um é um relatório de auditoria sobre controlos; o outro certifica um sistema de gestão. Nenhum diz se a IA acerta no teu caso. O que atestam, o que não atestam e o que pedir além disso.

Senior AI Infrastructure Implementer

AI Infrastructure Pod

Cenário ilustrativo. Uma empresa de distribuição está a escolher um assistente de IA para o apoio ao cliente. Há dois finalistas. O primeiro mostra na página inicial dois logótipos: «SOC 2» e «ISO 42001». O segundo não tem nenhum, mas oferece um teste de duas semanas com os e-mails reais do último trimestre. Na comissão de compra, alguém encerra a discussão: «o primeiro é certificado, o segundo não». Três meses depois, o assistente certificado responde com toda a confiança sobre prazos de entrega que não existem em nenhuma política da empresa.

A tese numa linha: um selo atesta que o fornecedor tem controlos e um sistema de gestão, não que a sua IA funcione no teu caso de uso. SOC 2 e ISO 42001 são bons sinais de maturidade e maus substitutos de uma avaliação. Pede-os, lê-os a sério e depois faz o que nenhum selo faz por ti: testar o sistema com os teus dados e deixar por escrito o que acontece quando ele se engana.

O que provam SOC 2 e ISO 42001 num fornecedor de IA?

Resposta curta. A ISO/IEC 42001 certifica que uma organização tem um sistema de gestão da IA: políticas, responsáveis, avaliação de riscos e melhoria contínua sobre a forma como desenvolve ou usa IA, dentro de um âmbito declarado. O SOC 2 é um relatório em que um auditor independente dá a sua opinião sobre os controlos de um prestador de serviços em matéria de segurança, disponibilidade, integridade do processamento, confidencialidade ou privacidade. Ambos falam da organização e dos seus controlos. Nenhum mede se as respostas do modelo estão certas para o teu negócio.

Não é uma crítica às normas: é o seu desenho. Uma norma de sistema de gestão não pode conhecer a tua política de devoluções, e um auditor de controlos não verifica se um resumo gerado por IA é fiel ao documento original. Confundir uma coisa com a outra é o erro caro.

O que é exatamente a ISO/IEC 42001?

É a norma internacional de sistemas de gestão da IA, publicada em dezembro de 2023. Segundo a secção de âmbito, especifica os requisitos para estabelecer, implementar, manter e melhorar continuamente um sistema de gestão da IA no contexto de uma organização, e destina-se a qualquer organização que forneça ou use produtos ou serviços baseados em sistemas de IA (ISO/IEC 42001:2023). É da mesma família da ISO 27001 para a segurança da informação: certifica a forma como te organizas, não o produto.

Daí resultam três consequências práticas para quem compra:

  • Certifica a organização, não o modelo. Um fornecedor certificado não significa que cada funcionalidade vendida tenha passado num teste de qualidade. Significa que tem um sistema para identificar riscos, atribuir responsáveis e revê-los.
  • O certificado tem um âmbito. Pode cobrir uma linha de produto, uma instalação ou um processo, e não o serviço concreto que estás a comprar. Primeiro lê-se o âmbito, não o logótipo.
  • Tem emissor e validade. Um certificado é emitido por um organismo de certificação após uma auditoria, com data. «Alinhados com a ISO 42001» ou «seguimos os seus princípios» não é o mesmo que estar certificado, e a nuance costuma estar nas letras pequenas do site.

O que é um relatório SOC 2 e porque não é um certificado?

O SOC 2 faz parte dos serviços SOC da AICPA, a associação de revisores de contas dos Estados Unidos: trabalhos em que um auditor independente (um CPA) reporta sobre os controlos ao nível do sistema de uma organização prestadora de serviços (AICPA, serviços SOC). Os critérios agrupam-se em cinco categorias: segurança, disponibilidade, integridade do processamento, confidencialidade e privacidade. O resultado não é um diploma: é um relatório assinado com uma opinião, uma descrição do sistema e, muitas vezes, uma lista de exceções.

A diferença que mais conta para quem compra é o tipo de relatório:

Tipo 1Tipo 2
O que avaliaSe os controlos estão bem desenhados e implementadosAlém disso, se funcionaram de forma eficaz
QuandoNuma data concreta: uma fotografiaAo longo de um período: um filme
O que te dizQue o fornecedor tinha os controlos no papel nesse momentoQue o auditor testou que funcionaram durante meses
O que verificarA data e que sistema descreveO período coberto, as exceções e se o serviço de IA está na descrição

Mais duas coisas. Primeiro: um relatório SOC 2 tem data e período; um de há dois anos descreve um sistema que provavelmente já não existe tal como era, sobretudo num produto de IA que muda de modelo de poucos em poucos meses. Segundo: a própria AICPA avisa na sua página de serviços SOC que as organizações devem avaliar esses serviços a fundo. Se a firma que assinou não te diz nada, também isso se verifica.

O que é que nenhum dos dois selos prova?

Este é o centro do argumento. Sozinho, nenhum dos dois te diz:

  1. Que a IA acerta no teu caso. A qualidade das respostas depende dos teus dados, das tuas políticas e das tuas exceções. Só se sabe com uma avaliação sobre casos reais, com critérios de aceitação escritos antes de começar.
  2. O que acontece aos teus dados no treino. Se o fornecedor usa ou não os teus dados para treinar os modelos, e com que subcontratantes trabalha, está no contrato e nas condições, não no selo. É o que contamos em IA e RGPD: o que o teu fornecedor não conta.
  3. Que o serviço que compras está coberto. Um certificado ou relatório sobre a plataforma principal não cobre automaticamente a nova integração, o agente lançado no mês passado ou o modelo de terceiros que está por trás.
  4. Que tu cumpres o AI Act. As tuas obrigações dependem do uso que dás ao sistema e do teu papel na cadeia, não dos selos do fornecedor. Um fornecedor certificado não te dispensa de classificar os teus usos nem de os supervisionar.
  5. Que alguém responde quando falha. Quem deteta um erro, em quanto tempo e como se corrige é uma questão de operação e de contrato. Um selo pode mostrar que existe um processo; não te diz quanto tempo demora no teu caso.

O que pedir além do selo?

Uma lista curta, que cabe num e-mail ao fornecedor. Cada pergunta tem um documento por trás; se a resposta for uma frase comercial, regista-a como pendente.

PerguntaQue documento pedesSinal de alarme
O serviço que compro está dentro do âmbito?Certificado ISO 42001 com o seu âmbito, ou a descrição do sistema do relatório SOC 2O âmbito fala de «a plataforma» e o teu produto não aparece
Quando foi avaliado pela última vez?Data do certificado ou período coberto pelo relatórioRelatório Tipo 1 antigo ou sem data visível
Que exceções encontrou o auditor?Secção de resultados do relatório SOC 2«O relatório é confidencial», sem nenhuma via proposta para o ler
Funciona com os meus casos?Teste sobre um conjunto fechado de casos teus, com critérios de aceitação acordadosApenas uma demonstração com exemplos do fornecedor
O que fazem com os meus dados?Contrato de subcontratação do tratamento, condições de uso para treino, lista de subcontratantesRespostas verbais ou links para uma página de marketing
O que acontece quando se engana?Procedimento de incidentes, registos consultáveis e prazos«O modelo não se engana» ou «isso depende do modelo de base»

A quarta linha é a que mais se salta e a que mais dinheiro poupa. Uma avaliação séria não é uma demonstração bonita: é um conjunto de casos reais, com as respostas esperadas escritas, que o sistema tem de superar antes de entrar em produção e de novo sempre que o fornecedor muda de modelo. É exatamente o que montamos quando ajudamos uma empresa a avaliar a qualidade dos seus agentes de IA.

Quando é que um selo deve mesmo pesar na decisão?

Quando o risco principal é organizativo e não de qualidade. Se vais dar a um fornecedor acesso a dados pessoais, a sistemas internos ou a processos regulados, um relatório SOC 2 Tipo 2 recente e um certificado ISO 42001 com o âmbito certo reduzem muito a incerteza sobre a forma como trabalha. Também pesam quando é o teu próprio cliente a pedi-los: se vendes a grandes empresas, o questionário de segurança sobre IA delas vai perguntar pelos fornecedores que usas, e um selo verificável é a resposta mais curta.

E ao contrário: a ausência de selo não desqualifica um fornecedor pequeno que te deixa auditar a configuração, te dá registos e aceita um teste com os teus dados. Às vezes isso vale mais do que um logótipo, desde que fique por escrito.

Como pôr isto no teu processo de compra sem o transformar em burocracia

Três passos, por esta ordem. Primeiro, decide o que o sistema tem de fazer e como vais saber que o faz bem; é o mesmo critério que usamos para escolher uma ferramenta de automação com IA: a ferramenta é a última decisão, não a primeira. Segundo, pede os documentos da tabela e lê-os com alguém que os saiba ler. Terceiro, depois de entrar, governa-o: registos, permissões, forma de parar o sistema e revisão periódica, que é o que explicamos em governação e controlo da automatização com IA.

E se operas um sistema que pode entrar nas categorias reguladas do Regulamento europeu da IA, os selos do fornecedor são uma peça do teu processo, não o processo. Para isso existe o trabalho de cumprir o AI Act a operar a IA no dia a dia.

Nota: este artigo não é aconselhamento jurídico nem de auditoria e não usa números de terceiros. As referências são a norma ISO/IEC 42001:2023 (secção 1, âmbito) e a descrição dos serviços SOC da AICPA; o âmbito exato de um certificado ou relatório verifica-se sempre no documento original.

Continua a ler

Outros artigos sobre Infraestrutura

Deixamos isto a funcionar?

Se isto te ressoou, conversa de 30 minutos sem compromisso. Dizemos-te o que encaixa, o que não e o preço aproximado.

Ver casos
SOC 2 e ISO 42001 no teu fornecedor de IA: o que provam e o que não · Implementa