top of page
Buscar

El avance en la regulación de la Inteligencia Artificial

Actualizado: 16 ene

Indudablemente, 2023 fue el año en el que la inteligencia artificial (IA) tuvo un gran auge. La IA, que solía ser una inquietud de la ciencia ficción, se ha vuelto tangible y apremiante y, además, un recurso de poder en manos de empresas privadas, posicionando conceptos como soberanía digital dentro del análisis de las relaciones internacionales.


En noviembre de 2022 se lanzó ChatGPT, un bot conversacional que da información, explica conceptos y resume ideas en frases sencillas. Había millones de usuarios asombrados con la capacidad del chatbot para escribir poesía, realizar trabajo tedioso o incluso redactar documentos legales. Al mismo tiempo se pudo ver un lado más turbio: podía facilitar la creación de textos, imágenes, audios y videos falsos que promueven desinformación.


Al poco tiempo comenzó el debate sobre beneficios versus daños que no se limitó a la discusión académica o periodística, también dentro la misma industria, lo que comenzó el deseo de las autoridades de regular la IA, un tema que parecer ser cada vez más apremiante.


Los desafíos que plantea dicha regulación son particularmente numerosos. Una protección adecuada de las libertades frente a cuestiones técnicas y complejas, la necesaria preservación de la innovación, la eficacia y la eficiencia de las normas elegidas: todos estos son desafíos que parece necesario atender y a los que varios Estados y organizaciones internacionales decidieron negociar durante varios eventos el año pasado.


En mayo de 2023, los líderes del G7 identificaron temas de discusión en el Proceso de Inteligencia Artificial (IA) de Hiroshima y generaron un informe publicado en septiembre que presenta los resultados de un cuestionario desarrollado para apoyar el balance y ayudar a guiar las discusiones del G7 sobre prioridades políticas comunes con respecto a la IA generativa. También, proporciona una breve descripción general del desarrollo de la IA generativa a lo largo del tiempo y en todos los países. Los resultados del informe son indicativos de las tendencias identificadas en esta área de tecnología en rápida evolución.


El cuestionario que se generó tenía como objetivo hacer un balance de las políticas existentes y previstas de los miembros del G7, además de las iniciativas y consideraciones sobre las principales oportunidades y riesgos asociados a la IA generativa y fue organizado en las siguientes cuatro secciones:

1. Evaluación de oportunidades y riesgos

2. Prioridades en términos de principios basados en valores

3. Posible enfoque internacional colectivo

4. Iniciativas nacionales y regionales


Otro punto a destacar de este informe es que los miembros del G7 están aprovechando oportunidades y abordando desafíos de generación de IA ya sea a través de iniciativas existentes o lanzando nuevas iniciativas:


Estados Unidos respondió que muchas de sus políticas, órdenes ejecutivas y enfoques existentes todavía se aplica a la IA generativa. Varios de los compromisos voluntarios para las empresas líderes en IA incluyen compromisos sobre cuestiones específicas de la IA generativa, como el compromiso de desarrollar sistemas de marcas de agua.


Canadá mencionó que algunos departamentos y agencias están explorando actualmente la posibilidad de lanzar nuevas iniciativas para apoyar la investigación y el desarrollo en el campo de la IA generativa y compartir más información sobre estos a medida que avanzan.


La legislación y las políticas existentes de la Unión Europea, incluyen las relativas a la protección de datos, la desinformación y las prácticas desleales. Las prácticas comerciales, la protección de los derechos de autor y los servicios digitales se aplican plenamente a la IA generativa.


Otro evento importante en torno a este tema fue la primera cumbre mundial en Bletchley Park sobre los riesgos de la inteligencia artificial que se inauguró el 1 de noviembre del 2023 en Reino Unido, y reunió a dirigentes políticos, gigantes tecnológicos y expertos que debatieron sobre los peligros que plantea el auge de esta tecnología.


Al finalizar esta cumbre se alcanzó un acuerdo "pionero en el mundo" sobre la seguridad de la inteligencia artificial (IA), en el que representantes y empresas de 28 países, entre ellos EE.UU. y China, así como la UE, firmaron el pacto que pretende atajar los riesgos de los llamados modelos fronterizos de IA.


La declaración de Bletchley reconoce que existe un esfuerzo para examinar los riesgos potenciales, los riesgos sustanciales y los riesgos imprevistos de las IA. Esta evaluación debe ser urgente dado el ritmo acelerado con el que avanza las tecnologías de IA, lo que genera cierta incertidumbre. Por otra parte, se hizo énfasis en lo peligroso que puede ser la desinformación generada por los IA y las gravísimas consecuencias que pueden derivar de ello.


Además, es necesario contar con la cooperación internacional para fortalecer la creación de IA y así disminuir las brechas de desarrollo de esta tecnología entre las diferentes naciones. Por ello, “se deben fortalecer los métodos para monitorear, medir y mitigar los posibles daños”, como se menciona en la declaración.


Finalmente, en diciembre de 2023, la Unión Europea aprobó la primera Ley de Inteligencia Artificial del mundo. El acuerdo entre el Parlamento Europeo y los estados miembros regulará la inteligencia artificial, las redes sociales y los motores de búsqueda.


El acuerdo ha planteado fuertes restricciones a la tecnología de reconocimiento facial. También incluye fuertes restricciones al uso de la IA con el fin de manipular el comportamiento humano, junto con disposiciones que incluyen sanciones severas para las empresas que violen las reglas. Los gobiernos pueden hacer uso de la vigilancia biométrica en tiempo real en áreas públicas sólo en situaciones en las que existan amenazas graves. 


Carme Artigas, secretaria de Estado de IA de España, quien facilitó las negociaciones, dijo que Francia y Alemania apoyaron el texto, en medio de informes de que las empresas tecnológicas de esos países estaban luchando por un enfoque más ligero para fomentar la innovación entre las pequeñas empresas.


Existieron voces críticas sobre el acuerdo. La Asociación de la Industria de la Computación y las Comunicaciones (CCIA Europa) advirtió que sin mejoras técnicas significativas en las próximas semanas, Europa podría perder una oportunidad única en lo que respeta al uso de la IA.


La asociación empresarial destaca que el texto se aleja del enfoque propuesto por la Comisión, que priorizaba la innovación frente al exceso de regulación. Señalan que ciertos sistemas de IA de bajo riesgo ahora estarán sujetos a requisitos estrictos sin una justificación adecuada, mientras que otros serán prohibidos por completo.


Otros sectores como el académico se quejan de ciertos vacíos legales que permitirán a los promotores definir alto riesgo, mientras que otros acusan a los legisladores de dejar en manos de los tribunales garantizar los derechos fundamentales de los ciudadanos más vulnerables.


Hay muchas razones para regular la IA en general, específicamente cuando se miran los riesgos para las poblaciones en situación de vulnerabilidad. Esta primera propuesta legislativa de este tipo en el mundo puede establecer un estándar global en torno a la regulación de la IA, promoviendo acuerdos sobre este tema en el escenario mundial que impacten directamente a las naciones porque es crítico y urgente que los formuladores de políticas actúen y proporcionen, tanto para las organizaciones del sector público como del privado que adquieren, desarrollan y utilizan IA, certeza de que estos sistemas se construyen de manera transparente, responsable y tengan resultados justos y equitativos para la sociedad.


Lo anterior puede instar a crear un marco internacional unificado para la regulación de las tecnologías de IA e informar el desarrollo de políticas sobre IA en todo el mundo lo más pronto posible, ya que temas como las criptomonedas, la piratería de anuncios políticos personalizados, los vehículos autónomos y agentes armados autónomos ya son una realidad, afectando el comercio internacional, la política internacional y los escenarios de conflicto armado.

66 visualizaciones

Entradas Recientes

Ver todo
bottom of page