Casos de uso apropiados e inapropiados: humano en el circuito

Una gerente de un banco tiene tres finalistas para un puesto de líder de equipo. Tiene las notas de la entrevista de un panel de cuatro personas, la rúbrica y un trabajo práctico de cada candidato. Está atrasada y quiere que Claude lea todo, elija al mejor y redacte los mails de rechazo para los otros dos, que salgan esa misma tarde. RRHH ya confirmó que las notas se pueden usar en el espacio de trabajo aprobado.

El problema no son los datos: están autorizados. El problema es quién decide.

La regla: Claude prepara, una persona decide

Hay decisiones que cambian la vida de alguien: contratar, despedir, dar o negar un crédito, recomendar una inversión, evaluar un desempeño que define un bono. En una decisión con consecuencias (high-stakes decision) para una persona, la decisión final la toma una persona calificada (qualified person) que puede explicarla y responder por ella. Eso es tener un humano en el circuito (human in the loop).

Claude sí tiene lugar en esas tareas, en la preparación:

• ordenar la evidencia de cada candidato contra la rúbrica;
• resumir las notas del panel y marcar dónde los entrevistadores no coinciden;
• armar una tabla comparativa para la reunión de decisión;
• redactar borradores de mails que la persona revisa y manda cuando la decisión ya se tomó.

El panel decide mejor y más rápido, y la responsabilidad sigue donde estaba.

Los dos extremos equivocados

Extremo	Por qué falla
“Que decida Claude, aplica la misma rúbrica a todos sin sesgos”	Sacar a la persona no elimina el sesgo, lo esconde; y nadie puede responder por la decisión
“Que decida Claude, pero que explique su razonamiento en el mail”	Explicar no convierte en apropiado que la IA decida sobre una persona
“No usar Claude para nada que tenga que ver con contratación”	Pierde el ahorro de tiempo en la parte que sí es apropiada

Por dónde empezar

Cuando un equipo arma su lista de primeros casos de uso, conviene empezar por los de bajo riesgo (low risk): los que no deciden nada sobre nadie y que una persona revisa antes de usar, como ya se hace con cualquier borrador.

Buenos para empezar:

• borradores internos (un procedimiento, una minuta, un instructivo) que alguien revisa;
• resúmenes de informes públicos para una reunión interna;
• ordenar notas sueltas, agrupar ideas de una lluvia de ideas.

Inapropiados, o para otra fase con cumplimiento involucrado:

• aprobar o rechazar pedidos de clientes y avisarles directamente;
• mandar recomendaciones financieras o médicas sin un profesional en el medio;
• publicar contenido que se hace pasar por algo que no es (reseñas “de clientes”, textos firmados por alguien que no los escribió).

Para reconocer un caso de uso apropiado (appropriate use case), hacé tres preguntas: ¿decide algo sobre una persona?, ¿alguien revisa antes de que salga?, ¿engaña a quien lo recibe? Si la primera es sí, Claude prepara y una persona decide. Si la segunda es no, falta un control. Si la tercera es sí, no es un caso de uso.

Las trampas típicas

• Confiar en la “objetividad” de la IA para decisiones sobre personas.
• Dejar que Claude decida y agregar una explicación como si eso lo arreglara.
• Prohibir todo uso en un área en lugar de separar preparación de decisión.
• Elegir para el piloto el caso más llamativo (aprobar créditos) en lugar del más seguro.
• Contenido publicado que engaña sobre quién lo escribió.

En el examen

Si el escenario pide que Claude elija, apruebe o rechace algo que afecta a una persona, buscá la opción en la que Claude organiza la información y una persona calificada decide. Si pide elegir casos de uso para empezar, quedate con los borradores internos y los resúmenes revisados, y descartá los que deciden sobre clientes o engañan. Desconfiá tanto del “que decida la IA” como del “no usarla para nada”.