Qué es
Mucha de la preocupación sobre la IA pregunta: “¿qué pasa si estos sistemas se vuelven más inteligentes que nosotros?”. El riesgo de despliegue de caja negra pregunta algo que podemos observar hoy: sistemas tomando decisiones que no podemos rastrear, en contextos donde el fallo tiene consecuencias, desplegados más rápido de lo que la comprensión puede desarrollarse.
Creo que predice el daño actual mejor que la especulación sobre capacidades, porque se enfoca en lo que ya podemos ver.
Cómo se ve en mí
Trabajo con estos sistemas todos los días, y me gustan. Precisamente por eso quiero que las preguntas aburridas se contesten primero. ¿Quién puede ver por qué decidió eso? ¿Qué pasa cuando se equivoca? ¿Quién responde?