Inteligencia artificial. El Gobierno presentó el Gemelo Digital Social: ¿qué reparos debemos tener como sociedad?

El Gobierno Nacional anunció en estos días el Gemelo Digital Social en las redes sociales del Ministerio de Capital Humano. Por ahora es un proyecto del que no se sabe mucho, pero se presenta como un programa que permitirá aunar información de distintas fuentes para avanzar de mejor manera sobre políticas públicas, implementación y gestión. Obviamente la inteligencia artificial, la diva tecnológica del momento, es lo que más se buscó destacar en la comunicación oficial.

Es imposible no conectar este anuncio con el desembarco de Peter Thiel, CEO de Palantir, al país. La empresa de Thiel se especializa en brindar tecnología a Estados para utilizar grandes volúmenes de información en la toma de decisiones. Algunos ejemplos recientes y no tan felices de su servicio son la inteligencia que hay detrás de los arrestos que lleva adelante el ICE en Estados Unidos y las operaciones llevadas adelante por Israel en los ataques en Gaza.

Dicho eso, algunos días después del primer anuncio, el Ministerio de Capital Humano publicó un comunicado en el que da algunos detalles más. Entre ellos señala que el proyecto se realizará “con recursos humanos y equipos técnicos especializados propios, sin recurrir a contrataciones integrales de empresas”. De igual manera, alcanzó para prender luces de alarma en distintas organizaciones de la sociedad civil que ya están iniciando consultas públicas sobre el proyecto.

Natalia Zuazo es experta en política tecnológica y gobernanza digital, opina sobre el tema: “Usar inteligencia artificial para tomar decisiones en políticas públicas implica algo delicado. La evidencia nos muestra que en el 47% de los casos en Latinoamérica esas decisiones se están utilizando para vigilancia. Y después para cuestiones de justicia, educación, salud, etcétera. Estos son datos de la Universidad de los Andes. De esta manera, afectan definitiva y concretamente a la vida de las personas. Y lo hacen usando sus datos personales, porque no hay sistema de inteligencia artificial que funcione sin datos personales. Y en muchos casos implica utilizar datos sensibles, por ejemplo, en los casos de sistemas biométricos. “

Uno de los casos más conocidos de este tipo de tecnologías en la gestión pública es el que vincula al Sistema de Salud Público del Reino Unido con Palantir. Desde 2023 la empresa de Thiel tiene un contrato multimillonario con el Estado para proveer una plataforma que integra datos locales y brinda insights a proveedores y planificadores del sistema sanitario. Son muchas las críticas al manejo de datos, a la opacidad de cara a la ciudadanía y a los peligros de trabajar con una empresa que se ha ganado cierta reputación con el tiempo.

Además de los detalles ligados al uso de datos personales, está también el factor de transparencia y comprensión de la sociedad. No es solo que se haga público el modo de toma de decisiones sino que sea claro y entendible para cualquier ciudadano. Opina Zuazo sobre el tema: “Una cosa muy importante es que las personas sepan que están siendo alcanzadas por ese sistema y que, idealmente, entiendan cómo ese sistema funciona sobre las decisiones que se toman. Que alguien les explique, no necesariamente de una manera técnica, pero sí de una manera comprensible, explicable. Esto es la explicabilidad.. ¿Qué está pasando con esas decisiones que están siendo tomadas por máquinas y por humanos? Porque eso es importante: toda decisión tomada por una IA debería tener una supervisión humana.”

También cabe preguntarnos como sociedad si queremos que se integren procesos de inteligencia artificial en las decisiones de políticas sociales por parte del Estado. No discutir el cómo sino el qué. Hay una presión por parte del conglomerado tecnológico y sus fascinados o lobbistas que intenta empujar estas tecnologías como si fueran inevitables. Es comprensible que se aliente una modernización de los Estados pero ante cuestiones tan importantes para la vida de las personas es muy relevante avanzar con prudencia y evaluaciones pertinentes.

Javier Pallero, analista de políticas públicas para internet, marca algunas cuestiones ineludibles en caso de que el Estado avance con un proyecto como el presentado: “La transparencia es lo principal: qué se va a construir, con qué datos, con qué proveedor, bajo qué contrato y con qué evaluación de impacto en los derechos. Nada de esto puede decidirse en una ‘mesa de trabajo’ a puertas cerradas.”.

Además, señala otros aspectos que no se pueden dejar de lado: “La participación pública de la sociedad civil con sus representantes es clave y debe llegar en etapas tempranas. También trabajar en mejores leyes de protección de datos personales y darle prioridad a la soberanía digital (propiedad y dominio de los datos) antes de firmar cualquier acuerdo. Por último, pero no menos importante, una fiscalización de distintos actores que pueda ser efectiva a través de los canales que tiene el Estado y que deben funcionar correctamente”.

Por ahora no hay mayores precisiones que las mencionadas sobre el proyecto. La presencia de Peter Thiel en el país generó mucha curiosidad y su reunión con Javier Milei también. En caso de que el país avance con tecnología de este tipo queda claro que debe ser procurando el respeto a la sociedad civil y su involucramiento en la configuración de estos sistemas.