La inteligencia artificial: Estrategia nacional digital de Colombia 2023-2026

Lo que nos demuestra que los adelantos tecnológicos como la IA no tienen un carácter neutro, nace del resultado del estudio de los instrumentos de producción, que se utilizan para la producción de bienes materiales, del análisis de los seres humanos que crean, manejan y ponen en funcionamiento estos instrumentos, del proceder repetitivo que facilita aprender y trabajar con eficiencia y eficacia, y del sistema de relaciones sociales donde se aplican.

En buena parte de aquí nace la prioridad del Parlamento Europeo, que garantiza que los sistemas de IA utilizados en la UE deban ser seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente, y exige que todo sistema de IA debe ser supervisado por las personas, en lugar de que esta función sea realizada por la automatización[1]; evitando resultados perjudiciales para el ser humano, e iniciando además, los primeros pasos de un análisis sistemático y crítico de la moralidad, de los factores morales que guían la conducta humana en una determinada práctica o sociedad, es decir de la ética en el campo de innovación, ciencia y tecnología.

La “Ley de Inteligencia Artificial” (LIA), aprobada por el Parlamento Europeo el mes de marzo del 2024, clasifica la IA desde el punto de vista de los riesgos que ella genera específicamente a los seres humanos. Y define la IA de la siguiente manera:

La inteligencia artificial (IA) es un campo de la informática que se enfoca en crear sistemas que puedan realizar tareas que normalmente requieren inteligencia humana, como el aprendizaje, el razonamiento y la percepción.

Enfoca la clasificación de la IA en aspectos como la seguridad, la salud, y especialmente en los derechos fundamentales, y dentro de ellos enfatiza en que no haya discriminación, que exista libertad de expresión, que no afecte la dignidad humana, que exista protección a los datos personales y que exista claramente el concepto de privacidad, y da paso a un tema de alta complejidad como lo es la ética. Dentro de esta rama, de la filosofía que estudia la conducta humana, lo correcto y lo incorrecto, lo bueno y lo malo y especialmente el deber, hace énfasis en la opacidad, es decir, en la capacidad limitada de la mente humana en comprender como funcionan algunos de los sistemas de IA, aborda la complejidad de los sistemas, su complejidad, la adaptación del ser humano y la imprevisibilidad.

Enmarca de esta manera varias realidades existentes. Una de ellas es que la IA tiene intrínseco un crecimiento geométrico caracterizado en las últimas décadas por carecer de gobernanza[2], y una segunda consistente en no caer en el error de analizar la IA sólo por sus resultados, sino que tiene en cuenta al ser humano como prioridad.
Dentro de la LIA aparecen por primera vez en los intentos de gobernanza, la prohibición de algunas prácticas como la de no permitir técnicas subliminales es decir manipulaciones dañinas, técnicas que afecten a grupos de seres humanos específicos con discapacidad física o mental, prácticas utilizadas por las autoridades públicas encaminadas a dar puntuaciones sociales, sistemas de identificación biométricas en tiempo real en espacios de acceso público con fines policiales, salvo en casos limitados. Y clasifica la IA desde sus riesgos. Determina que existen riesgos inaceptables, aquellos que violan los derechos fundamentales de los seres humanos, Riesgos altos, refiriéndose a aquellos que puedan impactar la salud y el monitoreo de los seres humanos después del mercadeo y los riesgos de suplantación, manipulación y engaño.

Después de este gran avance, el paso a seguir es la creación de normativas y reglamentos, que serán diseñados por la oficina de IA de la Comisión Europea, por un panel de científicos de tecnología y un foro consultivo de industrias tecnológicas y todas las partes interesadas. Estas normativas y reglamentaciones deben velar por temas como: La protección de la intimidad, los riesgos en los cambios climáticos, los valores europeos de legislación, la generación de confianza de quien regulará los datos de los Estados y de las empresas, definidas todas bajo la directiva del control de riesgos.

Muévete rápido, aunque rompas cosas, y si no rompes cosas es que no vas lo suficientemente rápido.
Mark Zuckerberg

Ante este principio de la filosofía posmoderna, y la implementación de la LIA, es importante analizar como el país podría o no beneficiarse al acoger esta Ley o parte de ella como propia. Y para acercarnos a un análisis bajo estas dos tendencias, es importante conocer nuestro panorama y empezar a estudiarlo.

Panorama legal de la IA en Colombia

La Comisión Económica para América Latina y el Caribe (CEPAL), presentó el primer Índice Latinoamericano de Inteligencia Artificial (ILIA) elaborado por el Centro Nacional de Inteligencia Artificial de Chile (Cenia) junto con apoyo del BID, CAF y la OEA, con el objetivo de dar revisión el estado actual de la Inteligencia Artificial en 12 países de la región. Este índice busca relevar las capacidades instaladas en infraestructura, capital humano, datos, regulaciones, entre otros indicadores. Arrojando las calificaciones que se encuentran en la “Tabla Resultados de ILIA 2023” (Cifras extraídas del informe público presentado.[3]). En este índice Colombia se encuentra en sexto lugar. Fruto de las calificaciones y observaciones que se hacen en las siguientes dimensiones:

Dimensión N°1 (Factores habilitantes): Como su nombre lo dice, hace alusión a todos aquellos elementos necesarios para que se constituyan y desarrollen sistemas de IA robustos en cada país. De este modo, se evalúan elementos como la conectividad, el uso de datos y competencias. Los tres subdimensiones que la componen son:

1) Infraestructura 
2) Datos 
3) Desarrollo de talento 

Dimensión N°2 (Investigación, desarrollo y adopción): Mide los avances del ecosistema de investigación y el desarrollo e innovación (I+D+i) del país, considerando el desempeño del sector privado, la academia y el sector público; junto con la práctica de elementos como producción científica, inversión privada y transferencia tecnológica. Además, evalúa en qué medida los distintos sectores están utilizando sistemas de IA. Los tres subdimensiones que la componen son: 

1) Investigación 
2) I+D 
3) Adopción 

Dimensión N°3 (Gobernanza): Se encarga de medir el nivel de desarrollo del entorno institucional y regulatorio con respecto a los ecosistemas de IA en América Latina. Lo que va desde la existencia y/o vigencia de una política o estrategia en la materia, a asuntos como la participación en instancias multilaterales de IA, y los avances normativos. De este modo, los tres subdimensiones son: 

1) Visión e institucionalidad 
2) Internacional 
3) Regulación

En 2023 Colombia contaba con 1.854.086 empresas[4]. De ellas se conoce que las empresas que más invierten en tecnología para sus procesos productivos y de servicios son las grandes y medianas, sobresaliendo las del sector bancario. Un aspecto para tener en cuenta y que será analizado en próximos artículos es el acierto de las orientaciones de este gobierno del cambio, con respecto a las políticas de ciencia y tecnología incluida la IA.
En tercer punto es que a la fecha no existe una clara definición de quien maneja los datos recopilados por el Estado colombiano y quien es el responsable por su buen uso. Tema de vital importancia, ya que la IA trabaja con base a los Big Data[5]. Y sobre este aspecto este gobierno progresista, acaba de presentar un Proyecto de Ley 447 2024C “Infraestructura de datos del Estado colombiano”, por medio del Ministerio de las Tics, el cual pretende:

“Por medio de la cual se dictan disposiciones para el suministro, intercambio y aprovechamiento de la infraestructura de datos del Estado colombiano (IDEC) y la interoperabilidad de los sistemas de información de las entidades públicas y se dictan otras disposiciones”
Y tiene por objeto:

(…) establecer las disposiciones para el suministro, intercambio, y aprovechamiento de la infraestructura de datos del Estado colombiano (IDEC), la interoperabilidad de los sistemas de información de las entidades públicas y organismos, y la gobernanza, gestión y disponibilidad de los datos básicos maestros, de referencia y abiertos del Estado colombiano, y con ello orientar la toma de decisiones del Gobierno Nacional y Territorial, que permitan mejorar la calidad de vida de los ciudadanos y el desarrollo de las actividades sociales y económicas del país…

Otro acierto con orientaciones claras, encaminadas a dar prioridad a la gobernanza de los datos, su caracterización y uso, que desde luego podrán ser usados en la aplicación de sistemas de IA.

Y en cuarto lugar es importante lo que el (DNP) y el Consejo Nacional de Política Económica y Social (CONPES) anunció para el mes de agosto del 2024. La emisión de un documento sobre Inteligencia Artificial que hará parte de la implementación de la Estrategia Nacional Digital de Colombia 2023-2026 con una Hoja de Ruta lanzada por el Ministerio de Ciencias y la estrategia “Colombia Potencia Digital" que debe tener incorporados entre otras cosas los derechos fundamentales de los colombianos, el respeto al medio ambiente, la protección al ser humano y al trabajo digno.

Estos cuatro aspectos nombrados, son un buen inicio para abrirle paso no solo a la legislación colombiana de la IA, sino a la reglamentación y generación de normas para la creación y control nacional de la IA y la implementación, control y supervisión de sistemas de IA extranjeros que se quieran incorporar.

La LIA debe y puede ser un faro de orientación para temas de ciencia y tecnología en el país y el desarrollo y gobernanza de la IA.

Junio del 2024