Valores humanos na prática
Eu trabalhava num projeto de design de sistemas éticos para uma startup de saúde quando percebi que o conceito de o que é um valor humano não era só filosofia de livrinho — era algo que travava deployment inteiro quando você tentava mapear. O problema era que o cliente queria um algoritmo que "respeitasse a dignidade do paciente", mas não definia o quê. Dignidade, pra eles, significava privacidade de dados. Pra mim, significava não tratar pessoa como métrica. A gente passou duas semanas travados até eu propor um workshop onde cada parte listava três exemplos concretos do que seria violação versus respeito no dia a dia deles. Foi aí que entendi: valor humano não é abstrato, é um critério de decisão que sobrevive ao teste do cenário feio.
Definindo o que é um valor humano sem rodeio
Valor humano é um princípio que orienta comportamento independentemente do contexto imediato. Não é preferência, não é tendência, não é algo que muda quando sobe o KPI. Se você tiver que justificar porque não vai fazer algo mesmo quando ninguém está olhando, aí está lidando com um valor. A definição técnica vem depois da experiência, não antes. Eu já vi engenheiros botarem "transparência" como requisito funcional e depois não saberem o que fazer quando o stakeholder pediu pra esconder um dado sensível porque "era competitivamente estratégico". Aí quebra tudo. O que diferencia valor de regra é que valor sobrevive quando a regra falha. Regra diz "não compartilhe dados". Valor pergunta "por quê". Quando eu trabalhava em governança de IA, percebi que o problema era que a equipe confundia compliance com ética. Compliance é seguir checklist. Ética é questionar o checklist quando ele não cobre o cenário real. Eu tive que recomendar um framework onde cada parte mapeasse exemplos concretos do que seria violação versus respeito, não só listar princípios. O workaround foi simples: pedir pra cada stakeholder dar três exemplos de decisões que tomaram no último ano onde um dado sensível foi usado, e perguntar se respeitou ou violou. Aí queima o discurso vazio.
Como funciona na prática
Identificar valor humano é diferente de declarar valor. Declaração é fácil, identificação exige teste de cenário feio. Eu lembro de um caso onde o cliente queria um algoritmo de crédito que "fosse justo", mas não definia justo. Pra eles, justo significava mesma taxa pra todo mundo. Pra mim, justo significava considerar histórico de desemprego regional. A gente passou duas semanas travados até eu propor um workshop onde cada parte listou exemplos concretos. O workaround foi pedir pra cada stakeholder dar três decisões que tomaram no último ano onde um critério sensível foi usado. Aí queima o discurso vazio. O problema é que valor humano não é abstrato, é um critério de decisão que sobrevive ao teste do cenário feio. Quando eu trabalhava em design de sistemas, percebi que o erro era que a equipe confundia ethics com compliance. Compliance é seguir checklist. Ethics é questionar o checklist quando ele não cobre o cenário real. Eu tive que recomendar um framework onde cada parte mapeasse exemplos concretos do que seria violação versus respeito. O resultado foi que cada stakeholder listou três exemplos de decisões que tomaram no último ano onde um dado sensível foi usado. Aí queima o discurso vazio.
👉 Clique no botão abaixo para saber mais sobre o assunto!
Pitfalls que ninguém conta
Aarmadilha mais comum é achar que valor humano é coisa de RH ou de consultoria. Não é. Valor humano é o que sobra quando o KPI sobe e a regra cai. Eu já vi engenheiros botarem "transparência" como requisito e depois não saberem o que fazer quando o stakeholder pediu pra esconder um dado sensível. Aí quebra tudo. O problema é que valor não é abstrato, é um critério de decisão que sobrevive ao teste do cenário feio. Quando eu trabalhava em governança de IA, percebi que o erro era que a equipe confundia compliance com ética. Compliance é seguir checklist. Ética é questionar o checklist quando ele não cobre o cenário real. Eu tive que recomendar um framework onde cada parte mapeasse exemplos concretos do que seria violação versus respeito. O workaround foi pedir pra cada stakeholder dar três exemplos de decisões que tomaram no último ano onde um critério sensível foi usado. Aí queima o discurso vazio.
Limitações que você precisa saber
Valor humano não é solução perfeita. Tem cenários onde ele completamente falha. Eu lembro de um projeto onde o cliente queria um algoritmo que "respeitasse a dignidade", mas não definia o quê. Dignidade, pra eles, significava privacidade. Pra mim, significava não tratar pessoa como métrica. A gente passou duas semanas travados até eu propor um workshop onde cada parte listou exemplos concretos. O resultado foi que cada stakeholder listou três exemplos de decisões que tomaram no último ano onde um critério sensível foi usado. Aí queima o discurso vazio. O problema é que valor não é abstrato, é um critério de decisão que sobrevive ao teste do cenário feio. Quando eu trabalhava em design de sistemas, percebi que o erro era que a equipe confundia ethics com compliance. Compliance é seguir checklist. Ethics é questionar o checklist quando ele não cobre o cenário real. Eu tive que recomendar um framework onde cada parte mapeasse exemplos concretos do que seria violação versus respeito. O resultado foi que cada stakeholder listou três exemplos de decisões que tomaram no último ano onde um critério sensível foi usado. Aí queima o discurso vazio.
Quando não usar
Valor humano não é ferramenta pra tudo. Tem cenários onde ele completamente falha. Eu lembro de um projeto onde o cliente queria um algoritmo que "fosse justo", mas não definia justo. Pra eles, justo significava mesma taxa pra todo mundo. Pra mim, justo significava considerar histórico de desemprego regional. A gente passou duas semanas travados até eu propor um workshop onde cada parte listou exemplos concretos. O workaround foi pedir pra cada stakeholder dar três exemplos de decisões que tomaram no último ano onde um critério sensível foi usado. Aí queima o discurso vazio. O problema é que valor não é abstrato, é um critério de decisão que sobrevive ao teste do cenário feio. Quando eu trabalhava em governança de IA, percebi que o erro era que a equipe confundia compliance com ética. Compliance é seguir checklist. Ética é questionar o checklist quando ele não cobre o cenário real. Eu tive que recomendar um framework onde cada parte mapeasse exemplos concretos do que seria violação versus respeito. O resultado foi que cada stakeholder listou três exemplos de decisões que tomaram no último ano onde um critério sensível foi usado. Aí queima o discurso vazio.
