Con información publicada por el Parlamento Europeo, la Unión Europea (UE) presentó una actualización del Acta para prohibir el uso de reconocimiento facial en vigilancia ciudadana, denominada AI Act.

Según el comunicado de prensa consultado, el comité parlamentario dictaminó que trabajará para la regulación de la inteligencia artificial (IA) en materia de: transparencia, seguridad, trazabilidad, y no discriminación.

El mercado de IA podría alcanzar un valor de 2 trillones de dólares en 2023, según cifras de Statista. Asimismo, en el contexto de la transformación digital, las herramientas como Chat GPT, representan un auge para el mercado, con repercusiones clave sobre las empresas y organizaciones.

Por ello, pese al entusiasmo por su adopción, el tema de la IA ha generado preocupaciones entre los especialistas encargados de su desarrollo. Al respecto, Geoffrey Hinton, conocido como uno de los pioneros en su desarrollo, calificó a las IA como un “riesgo para la humanidad”. Tras ver los resultados en el modelo de lenguaje Chat GPT-4, de OpenAI, el especialista de redes neuronales confirmó su renuncia de Google el 2 de mayo de 2023.

Bajo esta línea, la UE expresó su preocupación ante el uso de tecnologías derivadas de la inteligencia artificial, especialmente las de reconocimiento facial. Según el documento del parlamento, es posible obtener datos biométricos e identificar a las personas con cámaras instaladas en la vía pública gracias a la inteligencia artificial.

Con base en los posibles riesgos por la invasión de la privacidad, clasificación de personas a partir de su comportamiento, y restricciones de acceso por clase social, los voceros dieron a conocer las prohibiciones que podrían entrar en vigor en Europa con la iniciativa parlamentaria:

Identificación de datos biométricos en tiempo real
Envío de datos de reconocimiento facial sin autorización judicial previa
Usar género, grupo étnico, estado civil, religión o postura política para clasificar ciudadanos

Modelos predictivos de antecedentes penales para identificar probables criminales

Reconocimiento emocional en instituciones

Minería de información de rostros a partir de redes sociales y cadenas de televisión para crear perfiles de reconocimiento facial.

El manuscrito de la UE para regular las inteligencias artificiales se encuentra en la versión 1.0, y cuenta con una serie de modificaciones clave desde su presentación en 2021. Según la versión actualizada, la Unión Europea busca implementar artículos relacionados con la automatización y el machine learning que contribuyan a los puntos de prohibición mencionados.

NotiPress