La paradoja de Abilene
Google obligado a desactivar la generación de imágenes de Gemini. Una explicación a la polémica. ¿Cómo pudo ser que nadie lo advirtiera? La paradoja de Abilene y cómo evitarla.
Esta semana, Google anunciaba la posibilidad de crear imágenes con Gemini, su alternativa a Chat GPT. Pocos días después, daba marcha atrás después de que usuarios de todo el mundo observaran que la IA de Google estaba claramente sesgada a introducir estereotipos racialmente diversos, aunque fuera en contra el contexto histórico o cultural.
Por poner un ejemplo, Gemini devolvía resultados de soldados nazis o vikingos de etnias asiáticas o africanas. O, al pedirle una imagen del Papa de Roma, este lo representaba como una mujer o persona de color, pese a que los 266 que han habido en la historia han sido hombres y blancos.
En la era de la guerra cultural, no han faltado los referentes de los sectores más conservadores en elevar el grito al cielo y acusar a Google de ser una empresa controlada por el movimiento woke.
La realidad probablemente sea más sencilla. Es posible que Google tan sólo haya intentado compensar la falta de representatividad de sus modelos a través de la fuerza bruta.
Este es un problema común a todas las IAs. Un modelo sólo puede ser tan bueno como los datos sobre los que está entrenado, y cualquiera basado en imágenes, corre un alto riesgo de estar sesgado hacia una representación occidental del mundo.
Para tratar de compensar este sesgo, puedes, o bien ampliar tu modelo de la realidad consiguiendo y clasificando más datos, lo cual es caro y lento, o bien diciéndole a tu IA que represente en sus resultados a todas las razas por igual.
La teoría parecía buena, pero la práctica ha resultado en una crisis reputacional en toda regla.
Ahora bien, hay un aspecto especialmente interesante en toda esta historia. ¿Cómo puede ser que este producto haya salido a la luz? ¿Cómo es posible que nadie en Google lo haya estresado hasta obtener este tipo de resultados, y pensar, aquí puede haber un problema?
La explicación más sencilla es que alguien lo hizo.
Y se lo calló.
Camino a Abilene
La paradoja de Abilene fue propuesta por Jeff B. Harvey, en un artículo de la revista Organizational Dynamics. Su nombre viene de una anécdota que el autor utilizó para ilustrarla. Citando a la Wikipedia:
Una calurosa tarde en Coleman, una familia compuesta por suegros y un matrimonio está jugando al dominó cómodamente a la sombra de un pórtico. Cuando el suegro propone hacer un viaje a Abilene, ciudad situada a 80 km., la mujer dice: «Suena como una gran idea», pese a tener reservas porque el viaje sería caluroso y largo, pensando que sus preferencias no comulgan con las del resto del grupo. Su marido dice: «A mí me parece bien. Sólo espero que tu mamá tenga ganas de ir.» La suegra después dice: «¡Por supuesto que quiero ir. Hace mucho que no voy a Abilene!».
El viaje es caluroso, polvoriento y largo. Cuando llegan a una cafetería, la comida es mala y vuelven agotados después de cuatro horas.
Uno de ellos, con mala intención, dice: «¿Fue un gran viaje, no?». La suegra responde que, de hecho, hubiera preferido quedarse en casa, pero decidió seguirlos sólo porque los otros tres estaban muy entusiasmados. El marido dice: «No me sorprende. Sólo fui para satisfacer al resto de ustedes». La mujer dice: «Sólo fui para que estuviesen felices. Tendría que estar loca para desear salir con el calor que hace». El suegro después refiere que lo había sugerido únicamente porque le pareció que los demás podrían estar aburridos.
El grupo se queda perplejo por haber decidido hacer en común un viaje que nadie entre ellos quería hacer. Cada cual hubiera preferido estar sentado cómodamente, pero no lo admitieron entonces, cuando todavía tenían tiempo para disfrutar de la tarde.
La paradoja de Abilene no hace sino escenificar los problemas de comunicación que impiden frenar a tiempo iniciativas que no tienen ningún sentido.
¿Por qué sucede la paradoja de Abilene?
Probablemente todos hayamos experimentado en nuestras carnes la paradoja, y quizás, hasta hayamos sido cómplices silenciosos del descarrilamiento de algún proyecto.
Yo mismo, pese a ser probablemente de los más vocales en todas las empresas por las que he pasado, llegando a ganarme el apodo de troublemaker por alguno de mis jefes, he llegado a desistir alguna vez de luchar contra el sistema. En ocasiones, personas y organizaciones sólo aprenden a golpes.
Pero, ¿por qué sucede? ¿Qué incentivos nos incitan a quedarnos callados mientras vemos cómo se acerca el muro?
Veamos algunas de ellas.
Consecuencias laborales
Una de las principales razones por las que los empleados suelen preferir evitar alzar la voz contra el grupo son las consecuencias laborales.
En un mundo ideal, las empresas deberían ser paraísos meritocráticos donde las mejores ideas se impusiesen. La realidad es que también, y ante todo, son organizaciones jerárquicas llenas de intereses propios.
Si tu jefe tiene interés en lanzar un proyecto y te ve como un freno constante al mismo, lo más probable es que trate de deshacerse en cuanto pueda. Y, aunque no llegue al extremo de despedirte, tu carrera, tus ascensos, y tu sueldo, también dependen de él.
Autocensura
Nos autocensuramos cuando pensamos que nuestra opinión va a ser contraria a la del grupo.
Google es una empresa marcadamente progresista, hasta el punto de llegar a despedir a empleados por expresar sus opiniones. El caso más sonado fue el del conservador James Damore, tras publicar el artículo “Google’s Ideological Echo Chamber”.
Es bastante probable que muchos dentro de Google vieran el problema que se iba a crear con Gemini, pero prefirieron callar a posicionarse en un espectro ideológico distinto del resto.
Dilución de la responsabilidad
Otra posible causa de la paradoja de Abilene es la dilución de responsabilidad.
En un proyecto como el de Gemini Images probablemente hayan participado cientos, sino miles de personas. Con tal cantidad de ojos observando el producto, es fácil pensar que ya se encargará otro de dar la voz alarma.
Aversión al conflicto
Hay personalidades que directamente son adversas al conflicto, y su propia naturaleza les impide expresar una opinión que pueda generarlo. Pese a que internamente crean que aquello no va a ningún sitio, permanecerán en silencio haciendo su trabajo.
Cómo evitar la paradoja de Abilene
Todas las empresas terminan haciendo algún viaje a Abilene de vez en cuando. Las mejores, sin embargo, tratan de evitarlo haciendo esfuerzos intencionales de búsqueda del disenso y comunicación.
Así, por ejemplo, una empresa que quiera escuchar qué opinan sus empleados sobre sus propios proyectos, debería:
Abrir canales de comunicación en la organización para que la información pudiera fluir por encima de las líneas formalmente establecidas en el organigrama.
Hacer pre-mortems al inicio de un proyecto en los que se identifiquen los riesgos principales antes de que la tracción del mismo nos impide levantarlos.
Contratar a buenos ejecutivos que sepan admitir la discusión y hasta la promuevan entre sus filas. Los empleados tienen que tener seguridad en poder expresar libremente sus opiniones sin temor a represalias.
Hacer encuestas anónimas sobre cómo la organización percibe los distintos proyectos internos en desarrollo. Esto se hace poco, y muy probablemente por el temor de los ejecutivos a conocer los resultados.
Celebrar el fracaso. Si celebramos el éxito de un proyecto, también deberíamos celebrar su fracaso, pues supone la liberación de recursos para otros más provechosos.
Conclusiones
Todas las empresas tienen productos rumbo a Abilene de vez en cuando.
La estructura organizativa, la jerarquía, el miedo a que peligre tu puesto de trabajo o a destacar contra el grupo son fuertes incentivos a favor de que los empleados no expresen su opinión.
Es responsabilidad de las organizaciones ser conscientes de este fenómeno y poner medidas que incentiven hablar de los problemas antes de que exploten. No pueden permanecer pasivas esperando que alguien levante la voz, porque nadie lo hará, y hasta es posible, que quiénes lo hacían ya hayan sido expulsados del grupo.
El camino a Abilene puede ser largo y tortuoso. Más nos vale evitarlo.