La inteligencia artificial (IA) es un campo de la informática que se enfoca en la creación de sistemas y programas de computadora capaces de realizar tareas que normalmente requieren inteligencia humana. Estas tareas incluyen el aprendizaje, la resolución de problemas, el razonamiento, la percepción, el reconocimiento de patrones, la toma de decisiones y la comprensión del lenguaje natural.

En los últimos años se han multiplicado los usos de estas nuevas tecnologías empleándose en distintas áreas: medicina, educación y seguridad entre otras. Uno de los aspectos que causa mayor controversia tiene que ver con el uso de la Inteligencia Artificial con fines policiales y judiciales.

La IA tiene un gran impacto en la protección de los datos personales, ya que implica el tratamiento de grandes cantidades de información, que es muy sensible y que puede afectar a los derechos y libertades de las personas. Algunos de los desafíos que plantea la IA son:

• La transparencia: Uno de los aspectos claves en la utilización de la IA en ámbitos como el judicial es la transparencia. ¿Cómo se informa a los usuarios sobre el uso de sus datos por parte de la IA? ¿Qué información se les proporciona sobre la lógica, el propósito y las consecuencias de los tratamientos que realizan los sistemas de IA? La falta de transparencia puede generar desconfianza y preocupación entre los ciudadanos. ¿Qué medidas se adoptan para evitar sesgos o discriminaciones en los algoritmos o en los resultados de la IA?
• La seguridad: ¿Cómo se protegen los datos frente a accesos no autorizados, pérdidas, o divulgaciones indebidas? ¿Qué mecanismos se implementan para prevenir o mitigar posibles ataques o vulnerabilidades en los sistemas de IA?

La seguridad de los datos es esencial para garantizar que la información sensible esté a salvo de amenazas cibernéticas. Sobre el tema, Herbert Paguas, director ejecutivo de Agesic ha afirmado que en Uruguay se está en pleno debate en relación a la gobernanza e institucionalidad de la IA y de los datos para regular su uso y proteger así los derechos fundamentales y la transparencia algorítmica.

• La responsabilidad: Esta es otra cuestión compleja a tener en cuenta. ¿Quién es el responsable de los tratamientos que realiza la IA? ¿Qué derechos tienen los usuarios sobre sus datos y cómo pueden ejercerlos? ¿Qué garantías se ofrecen para asegurar el cumplimiento de la normativa de protección de datos y el respeto a los principios éticos? La determinación de la responsabilidad en casos de decisiones incorrectas o daños causados por la IA plantea un desafío significativo.

Controversias sobre el tema

A nivel internacional, existen posiciones encontradas sobre las bondades y los peligros que presenta la utilización de la IA en relación a los derechos humanos. En Uruguay,   durante la inauguración de la 2.ª Cumbre Mundial de Comisiones de Futuro, el presidente L. Lacalle Pou se manifestó a favor del desarrollo de estas nuevas tecnologías, las que consideró que nos harán más libres. 

Si bien manifestó que todo depende del uso que se haga de las mismas, no mencionó el problema de los que producen, controlan y ganan en esta etapa del llamado por algunos académicos,  como Rosana Reguillo,  el “Capitalismo de Plataformas”.

• Análisis de cómo operan estos aspectos en el marco de las actuales plataformas utilizadas en el sistema uruguayo. 
• Mapeo de la situación a nivel nacional del impacto que pueden tener las normas de delitos informáticos en los derechos humanos.
• Desarrollo de acciones de capacitación, sensibilización y autodefensa digital para periodistas, organizaciones de la sociedad civil y defensores de los derechos humanos.

En conclusión: El uso de la inteligencia artificial plantea desafíos complejos en términos de privacidad y derechos humanos. A medida que estas tecnologías continúan evolucionando, es fundamental que se establezcan regulaciones efectivas y mecanismos de control que equilibren la innovación con la protección de los derechos civiles y políticos.

Palabras Claves: Inteligencia Artificial, Sesgos, protección de datos, transparencia.

Si te interesa el tema ¡Siguenos en instagram @codigo.ia!