<aside> 🧠
Cómo usar este cuestionario
Antes de desplegar la respuesta, intenta justificar tu decisión en voz alta. No basta con nombrar el concepto: explica por qué aplica y, cuando corresponda, por qué descartarías las alternativas.
</aside>
Escenario: Un sistema de selección de personal analiza CVs y descarta sistemáticamente a candidatos de una región geográfica específica. Al revisar el pipeline, el equipo técnico descubre que el dataset histórico de contratación casi no contenía empleados de esa región.
Pregunta: ¿Cuál es la diferencia conceptual entre el sesgo (bias) presente en el dataset y la falta de equidad (lack of fairness) observada en las contrataciones?
Escenario: Una empresa de reconocimiento de voz entrena un modelo con audios de personas de 10 acentos diferentes. Sin embargo, el dataset contiene 100,000 audios del acento central y solo 10 audios de cada uno de los otros 9 acentos. En producción, el modelo falla al entender a las minorías.
Pregunta: ¿Por qué este dataset califica como inclusivo pero desbalanceado?
Escenario: Un chatbot médico responde a la pregunta de un usuario sobre síntomas de gripe. El bot redacta un párrafo impecable con vocabulario clínico avanzado y empatía perfecta, pero recomienda consumir una dosis letal de un medicamento.
Pregunta: ¿Qué principio de IA responsable demuestra que la fluidez del lenguaje no es equivalente a la veracidad de la respuesta?
Escenario: Un desarrollador quiere evitar que los usuarios envíen números de tarjetas de crédito en sus prompts y también asegurarse de que el modelo no revele datos personales en sus respuestas, sin modificar los parámetros del modelo base en Amazon Bedrock.
Pregunta: ¿Por qué debe implementar Amazon Bedrock Guardrails en lugar de escribir instrucciones de seguridad dentro del prompt?