Qué es
A las empresas de tecnología les gusta venderse como Prometeo: libertadores, visionarios, portadores de fuego. La prueba le hace tres preguntas sencillas a cualquier despliegue:
- Competencia: ¿de verdad funciona, y alguien entiende cómo?
- Rendición de cuentas: cuando falla, ¿quién responde?
- Consentimiento: ¿la gente afectada aceptó cargar con el riesgo?
Pendiente al riesgo externalizado, costos que caen sobre los usuarios y el público, y a la ganancia privatizada, beneficios que se queda la empresa. Pendiente a los filtros opacos, moderación o acceso con criterios escondidos, y al teatro de políticas, propuestas atrevidas sin una estructura viable debajo.
Cómo se ve en mí
Escribí sobre esto en español, en un ensayo sobre las empresas de IA. Uso estas herramientas todo el día y les estoy agradecido, y precisamente por eso quiero que pasen la prueba.