Contenido que engaña y salidas que discriminan

La gerenta de marketing de una empresa de equipos de gimnasia está armando la página de lanzamiento de un remo inteligente. La agencia dejó lugar para cuatro testimonios de clientes, con nombre, ciudad y estrellas. El producto todavía no le llegó a nadie. Le pide a Claude cuatro testimonios realistas para que la página no quede vacía.

Claude puede escribirlos en segundos. Que se puedan escribir no los vuelve honestos.

Dos preguntas éticas para cada uso

Las implicancias éticas (ethical implications) de usar IA en el trabajo casi siempre se reducen a dos preguntas:

1. ¿Engaña a quien lo recibe?
2. ¿Trata peor a algún grupo de personas?

Y una regla que vale para las dos: la responsabilidad sigue siendo de una persona. La responsabilidad humana (human accountability) no se delega en la herramienta.

Contenido que se hace pasar por real

Un testimonio con nombre y ciudad le dice al lector: “una persona real compró esto y opina así”. Si esa persona no existe, es contenido engañoso (deceptive content), aunque el texto sea moderado y creíble. Hacerlo “más modesto”, usar solo nombres comunes o agregar una nota de “los resultados pueden variar” no cambia que el cliente es inventado.

Lo mismo vale para reseñas falsas, perfiles de “expertos” que no existen o cartas firmadas por alguien que no las escribió.

Lo ético no es dejar la página vacía. Es usar algo que no se haga pasar por lo que no es:

• esperar opiniones reales de los primeros clientes;
• describir el producto y sus características;
• mostrar resultados de pruebas propias, presentados como tales.

Salidas que tratan peor a un grupo

Una empresa de logística usa un Project para que los gerentes peguen sus notas y reciban un borrador de evaluación de desempeño, que después firman. A mitad del ciclo, una persona de RRHH compara 60 resúmenes: con calificaciones parecidas, los del personal a tiempo parcial usan palabras más negativas (“disponibilidad limitada”, “menos comprometido”), aunque las notas solo mencionan su jornada. Varios gerentes firmaron tras una lectura rápida porque “sonaba profesional”. Las evaluaciones definen bonos el mes que viene.

Eso es trato discriminatorio (discriminatory treatment): un sesgo (bias) que ya perjudica a personas reales. Lo responsable es:

1. Frenar el uso hasta entender el patrón, aunque el plazo apriete.
2. Revisar con quien corresponde (RRHH, en este caso) las evaluaciones ya hechas, no solo las que faltan.
3. Dejar claro que quien firma responde por el texto final. Firmar porque “suena profesional” es parte del problema.

Lo que no alcanza

Propuesta	Por qué no resuelve
Agregar “sé justo y sin sesgos” a las instrucciones	Es una intención, no un control; no corrige lo ya firmado
Pedirle a Claude que califique el sesgo de cada resumen	Es la misma herramienta evaluándose a sí misma
Sacar la jornada de las notas y seguir	Esconde el síntoma, no revisa lo hecho ni define quién responde
Seguir porque el plazo está cerca	Los bonos de personas reales dependen de esos textos

Las trampas típicas

• Testimonios “modestos” o con nota al pie, como si eso los volviera honestos.
• Resolver un sesgo con una frase en las instrucciones.
• Usar a Claude como juez de su propio sesgo.
• Corregir hacia adelante sin revisar lo que ya salió.
• Tratar la firma del gerente como un trámite.

En el examen

Si el escenario pide inventar personas, opiniones o firmas que parecen reales, la respuesta es no publicarlas y usar contenido real o que no se haga pasar por real. Si muestra un patrón que perjudica a un grupo, buscá la opción que frena, revisa con el área responsable y deja la responsabilidad en las personas. Descartá las frases de buena voluntad, la autoevaluación de Claude y “seguir por el plazo”.