¿Cómo pueden afectar los procesos de digitalización y automatización al ejercicio y la protección de los derechos humanos?  

Creo que los procesos de digitalización y de automatización tienen ganancias evidentes en términos de eficiencia, aumento de la productividad, mejor coordinación de los recursos —en una empresa—, mejor coordinación entre el uso de bienes de capital y la disposición del tiempo de los trabajadores, por ejemplo. 

Los procesos de digitalización ayudan a disminuir el sesgo que tienen los seres humanos en su toma de decisiones, pero eso realmente no es tan “color de rosa”. Hay impactos negativos que han sido estudiados por la literatura: originalmente, impactos en el mundo de la privacidad o de la seguridad, pero también se han estudiado impactos en derechos tradicionales, como en la igualdad y no discriminación. Por ejemplo, cómo los procesos de digitalización y de automatización de decisiones en el mundo laboral terminan impactando en las mujeres. 

Es algo que hay que estudiar con mucho detalle, con evidencia, teniendo en mente que aquí hay derechos fundamentales que están en juego y que imponen “líneas rojas”; límites que son vinculantes, procesos o instituciones que nos permiten abordar estos conflictos y, por otro lado, formas de reparación. Teniendo eso claro, podemos empezar una discusión más rica y colaborativa. 

¿Cuáles son los principales desafíos que plantea dicha relación? Entre la digitalización, la automatización y los derechos fundamentales.  

Hay tres desafíos, principalmente. El primero es que, dado el carácter transnacional que tienen las tecnologías digitales, el hecho de que viajen cruzando fronteras a través de cables transoceánicos o por vía satelital hace que el desafío sea necesariamente de carácter global. Por lo tanto, una regulación nacional no va a tener mucho poder para abordar los impactos regulatorios o los daños que tienen las tecnologías sobre los derechos fundamentales. En ese sentido, se requiere un marco de cooperación transnacional. 

En segundo lugar, se relaciona con la alta concentración económica que observamos en el mundo de la industria de las big tech. El hecho de que, hoy en día, de las diez empresas con mayor valor bursátil, nueve se relacionen con la recolección y el análisis de datos genera desafíos que son bien importantes. De esta manera, hay que combinar lo que podemos hacer desde el mundo de los derechos fundamentales, pero también con áreas conexas, como el derecho de la libre competencia; la regulación económica, tratar de comprender cómo funciona la economía digital y de cómo se comportan los mercados con estos nuevos modelos de negocio. 

Por último, yo diría que el desafío es de carácter cultural, y es algo en lo que en Chile todavía estamos al debe, en el sentido de que no tenemos mucha conciencia de cómo nuestros datos personales tienen un valor, de cómo pueden generar un impacto negativo no solo para nosotros, no solo para nuestra privacidad, sino también para el colectivo. Todas las actividades de perfilamiento que hoy en día puede realizar el mundo privado creo que no están bien reguladas y, en ese sentido, una mejor cultura de protección de datos nos podría ayudar a todos a comprender cuáles son las diferentes aristas y las diversas formas en las que se pueden generar impactos negativos sobre nuestros derechos. 

¿Qué avances se esperan en Chile respecto a esta temática? 

Por un lado, Chile ranquea primero en la región en todos los indicadores en materia de, por ejemplo, acceso a internet, infraestructura digital, formación de talento y ecosistema de innovación para startups, etcétera. Pero, por otro lado, en materia de gobernanza, yo creo que estamos al debe. 

Recién aprobamos la reforma a la Ley de Protección de la Vida Privada, que básicamente actualiza nuestra legislación en materia de protección de datos, y eso genera una nueva forma de pensar y de abordar el conflicto. 

Además, en Chile actualmente se está discutiendo el proyecto de ley que regula los sistemas de inteligencia artificial. Es una regulación que está en debate y en la que muchas personas han participado, aunque, en general, quienes lo han hecho provienen de la industria y cuentan con mucho conocimiento técnico. Yo creo que falta democratizar mucho más el debate. 

Es importante que las personas tomen conciencia de cómo, hoy en día, las tecnologías digitales están impactando su vida. Por ejemplo, cómo las redes sociales afectan los derechos de niños, niñas y adolescentes; cómo, en el hogar, a nivel doméstico, ya se observa que las relaciones familiares y sociales están siendo intermediadas algorítmicamente; y cómo, a nivel del trabajo, del entretenimiento o de la creación de contenido, esta mediación también está presente. Incluso nuestra relación con el Estado se está viendo influida por complejos algoritmos de los que poco conocemos. 

Yo creo que el proyecto de ley que regula los sistemas de inteligencia artificial es una gran oportunidad para que Chile se transforme en pionero en la región, una región que no produce tecnología. La mayor parte de las tecnologías que usamos se producen en Estados Unidos o en China. Sin embargo, Chile ha optado por seguir el modelo europeo, lo que es bien interesante, porque, a pesar de que Europa tampoco es un gran productor de tecnologías, ha estado definitivamente en la vanguardia al momento de regularlas. 

El gran avance que se espera en Chile depende de cuál sea el liderazgo que adopte el país, no solo en los rankings de infraestructura o en el desarrollo de talento —que ya tenemos—, sino también en lo que podamos hacer desde el punto de vista de la gobernanza de datos, de la gobernanza de las tecnologías digitales y de cómo podamos abordar los conflictos que generan estas tecnologías, y específicamente la inteligencia artificial, en nuestra vida.