El 2 de septiembre Uruguay estampó su nombre en el Convenio Marco del Consejo de Europa
sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho. Fuimos el primer país latinoamericano en hacerlo. La foto en Estrasburgo, con nuestro embajador Enrique Emilio Loedel Soca en la ceremonia de firma, acompañado por el secretario general adjunto Bjørn
Berge o sonriendo junto a funcionarios europeos, se multiplicó en redes. Nos sentamos en la misma mesa que la Unión Europea, Estados Unidos o Japón. Bien. Pero quedarnos sólo en la foto sería un error: lo difícil empieza ahora, cuando haya que transformar esa firma en leyes, controles y políticas efectivas que protejan a la gente común.

El tratado es histórico: obliga a evaluar el impacto de los sistemas de alto riesgo antes de
aplicarlos, prohíbe usos incompatibles con la democracia —como el puntaje social chino o la
vigilancia masiva— y exige transparencia en algoritmos y datos.

Este tratado busca impedir que caigamos en una sociedad de control. También demanda una
autoridad para auditar y sancionar a quienes utilicen IA, ya sean actores públicos o privados y para ello se requiere compromisos concretos que implican crear capacidades de supervisión.

En Uruguay, esto se traduciría en evitar que un software decida, sin dar explicaciones, si podéis
acceder a un crédito, a una vivienda o a un plan estatal según tu “nota” de obediencia.

La paradoja es que el Gobierno quiere que sea la Agencia de Gobierno Electrónico (AGESIC) la que regule y fiscalice la IA. Es decir: que quien diseña y promueve políticas digitales se supervise a sí mismo. Ahí es donde me detengo. Creo que Uruguay debería aprender de su propia tradición institucional: la democracia se ha blindado gracias a organismos autónomos como la Corte Electoral, el Banco Central o las unidades reguladoras. Pedirle a Presidencia que se controle a sí misma es debilitar esa tradición.

Seguir leyendo