El costo de la falta de una regulación tecnológica

La tecnología digital transformó la forma en que nos comunicamos, trabajamos, hacemos compras, aprendemos y nos entretenemos. Es posible que en poco tiempo tecnologías como la inteligencia artificial (IA), el ‘big data’ e internet de las cosas (IdC) reformulen por completo la atención médica, el suministro de energía eléctrica, el transporte, la agricultura, el sector público, el medioambiente e incluso nuestras mentes y cuerpos.

La aplicación de la ciencia a los problemas sociales generó grandes beneficios en el pasado. Mucho antes de la invención del microprocesador de silicio, innovaciones médicas y tecnológicas, ya habían vuelto nuestras vidas mucho más cómodas (y largas). Pero la historia también está repleta de desastres causados por el poder de la ciencia y el afán de mejorar la condición humana.

Por ejemplo, los intentos de aumentar la productividad agrícola con el auxilio de la ciencia y la tecnología en el contexto de la colectivización en la Unión Soviética y en Tanzania, una política que promovía la conversión de granjas individuales a colectivas, fueron totalmente contraproducentes. Y a veces los planes de remodelar ciudades apelando a la planificación urbana moderna las dejaron casi destruidas. El politólogo James Scott denominó alto modernismo a esos intentos de transformar la vida ajena mediante la ciencia.

Una ideología tan peligrosa cuanto dogmáticamente hiperconfiada. El alto modernismo se niega a reconocer que muchas prácticas y conductas humanas tienen una lógica inherente que está adaptada al complejo entorno en el que evolucionaron. Cuando los altomodernistas descartan esas prácticas para instituir una forma más científica y racional de hacer las cosas, casi siempre fracasan.

Históricamente, los ejemplos de alto modernismo más nocivos se han dado bajo Estados autoritarios que quisieron transformar sociedades postradas y débiles. En el caso de la colectivización soviética, el autoritarismo estatal, producto del autoproclamado ‘papel rector’ del Partido Comunista, llevó adelante sus planes en ausencia de organizaciones capaces de oponerles una resistencia efectiva o proteger a los campesinos a los que aplastó.

Pero el autoritarismo no es exclusividad de los Estados. También puede originarse en cualquier pretensión de conocimiento sin restricciones. Basta pensar en los intentos contemporáneos de corporaciones, emprendedores y otros que quieren mejorar el mundo a través de las tecnologías digitales. Innovaciones recientes aumentaron enormemente la productividad industrial, mejoraron las comunicaciones y enriquecieron las vidas de miles de millones de personas. Pero también podrían degenerar fácilmente hacia un fiasco altomodernista.

Tecnologías de frontera como la IA, el ‘big data’ e IdC suelen presentarse como panaceas para la optimización del trabajo, la recreación, la comunicación y la atención médica. La idea sería que tenemos poco que aprender de las personas ordinarias y de las adaptaciones que desarrollaron dentro de diferentes contextos sociales.

El problema es que una creencia incondicional en que la IA es mejor en todo, por dar un ejemplo, crea un desequilibrio de poder entre quienes desarrollan esas tecnologías y quienes verán sus vidas transformadas por ellas (y que, básicamente, no tienen ninguna influencia en el modo en que esas aplicaciones se diseñarán y usarán).

Los problemas actuales de las redes sociales son una muestra perfecta de lo que puede suceder cuando se imponen reglas uniformes sin ninguna consideración del contexto social y de las conductas resultantes de la evolución. Las ricas y variadas pautas de comunicación del mundo no digital han sido reemplazadas, en plataformas como Facebook y Twitter, por modos de comunicación guionados, estandarizados y limitados. El resultado es la aniquilación de los matices presentes en la comunicación cara a cara y en la presentación de noticias mediada por proveedores confiables. Los intentos de ‘conectar el mundo’ mediante la tecnología han creado una maraña de propaganda, desinformación, discurso de odio y hostigamiento.

Pero este sendero típicamente altomodernista no está predestinado. En vez de ignorar el contexto social, los desarrolladores de nuevas tecnologías podrían aprender algo de las experiencias e inquietudes de la gente real: crear una tecnología adaptativa, en vez de arrogante, diseñada para empoderar a la sociedad, en vez de silenciarla.

Hay dos fuerzas que pueden llevar las nuevas tecnologías en esa dirección. La primera es el mercado, que puede actuar como una barrera contra la imposición autoritaria de proyectos errados. Cuando los planificadores soviéticos decidieron colectivizar la agricultura, los aldeanos ucranianos poco pudieron hacer para detenerlos, y a eso siguió la hambruna. No es igual con las tecnologías digitales de la actualidad, cuyo éxito dependerá de decisiones tomadas por miles de millones de consumidores y por millones de empresas en todo el mundo (con la posible excepción de China).

Pero no hay que exagerar el poder controlador del mercado. No hay garantías de que promueva la adopción generalizada de las tecnologías correctas, ni de que internalice los efectos negativos de algunas aplicaciones nuevas. Que el ámbito donde Facebook existe y reúne información sobre sus 2.500 millones de s activos sea un entorno de mercado no implica que podamos confiar en el uso que dará a esos datos. El mercado no puede garantizar que el modelo de negocios de esa red social y las tecnologías que lo sostienen no traigan consecuencias imprevistas.

Para que el poder controlador del mercado funcione, hay que reforzarlo con un segundo freno más poderoso: la política democrática. Todos los Estados tienen un papel que cumplir en regular la actividad económica y el uso y la difusión de nuevas tecnologías. La política democrática suele impulsar la demanda de esa regulación, y también es la mejor defensa contra la captura de las normas estatales por empresas rentistas en busca de aumentar su cuota de mercado o sus ganancias.

La democracia también ofrece el mejor mecanismo para la expresión de una variedad de puntos de vista y para organizar la resistencia a planes altomodernistas costosos o peligrosos. La exteriorización de la opinión pública permite frenar o, incluso, prevenir las aplicaciones de vigilancia, seguimiento y manipulación digital más perniciosas. La expresión democrática fue, precisamente, lo que se les negó a los aldeanos ucranianos y tanzanos confrontados con esquemas de colectivización.

Pero la celebración periódica de elecciones no bastará para impedir a las grandes compañías tecnológicas crear una pesadilla altomodernista. En la medida en que las nuevas tecnologías puedan obstaculizar la libertad de expresión y el compromiso político, y profundizar la concentración de poder en los sectores público o privado, pueden frustrar el funcionamiento de la política democrática misma, creando un círculo vicioso. Si el mundo de la tecnología opta por el camino altomodernista, puede terminar dañando nuestra única defensa confiable contra su arrogancia: la supervisión democrática del desarrollo y uso de nuevas tecnologías. Nosotros, consumidores, trabajadores y ciudadanos, debemos ser más conscientes de la amenaza, porque somos los únicos que podemos detenerla.

DARON ACEMOGLU*

Project Syndicate