Campbell Cowie, jefe de Políticas de iProov, empresa líder mundial en autenticación biométrica facial en línea, que trabaja con gobiernos, bancos y otras empresas para verificar de forma segura la identidad del cliente, considera que esta Orden Ejecutiva de Joe Biden para el establecimiento de estándares de seguridad, es un paso en la dirección correcta, y que posiblemente otros países, como Chile, debieran replicarlo.

El presidente de los Estados Unidos, Joe Biden, emitió una nueva orden ejecutiva sobre Inteligencia Artificial, la primera acción de este tipo del gobierno americano, que requiere nuevas evaluaciones de seguridad, orientación sobre equidad y derechos civiles e investigación sobre el impacto de la IA en el mercado laboral.

Es la primera acción de este tipo del gobierno de EE.UU., que requiere nuevas evaluaciones de seguridad, orientación sobre equidad y derechos civiles e investigación sobre el impacto de la IA en el mercado laboral.

La orden ejecutiva emanada de la Casa Blanca incluye algunos aspectos clave, como crear nuevos estándares de seguridad para la IA, incluso exigiendo a algunas empresas que compartan los resultados de las pruebas de seguridad con el gobierno federal, y proteger la privacidad del consumidor, incluso mediante la creación de pautas que las agencias puedan utilizar para evaluar las técnicas de privacidad utilizadas en la IA, entre otros.

Esta nueva normativa, que podría ser un parámetro a seguir por otros países, como Chile, representa «el conjunto de acciones más sólidas que cualquier gobierno del mundo haya tomado jamás en materia de seguridad y confianza en la IA», dijo el subjefe de gabinete de la Casa Blanca, Bruce Reed, en un comunicado.

iProov: es una solución a largo plazo

«Si bien la promoción de la innovación y el crecimiento en las aplicaciones de IA y un mayor enfoque en generar confianza en el desarrollo de casos de uso deben ser calurosamente bienvenidos, la Orden Ejecutiva de Biden es simplemente una declaración de un deseo o esperanza en lugar de una ley. Otros países como Chile podrían replicarlo e ir por el camino correcto, pero es necesario que se materialice en normativas aplicables”, afirma Campbell Cowie, Jefe de Políticas de iProov, empresa líder mundial en autenticación biométrica facial en línea, que trabaja con gobiernos, bancos y otras empresas para verificar de forma segura la identidad del cliente.

Cowie agrega que la reciente propuesta del gobierno para un mayor papel del NIST (Instituto Nacional de Estándares y Tecnología, por sus siglas en inglés) en el establecimiento de estándares de seguridad es un paso en la dirección correcta, pero no existe ningún requisito para que la industria apoye al NIST o se adhiera a sus directrices.

“Lo que no se puede ignorar es que se trata de estrategias a largo plazo que en sí mismas muestran una debilidad fundamental al pasar por alto cómo abordamos los riesgos inmediatos a corto plazo, como los deepfakes, la ciberseguridad, el fraude de identidad y la inclusión, a los que las organizaciones deben estar alerta, al momento y para los cuales existen soluciones disponibles en el mercado hoy en día», finalizó Cowie.

Controles sobre los productos de IA

La orden ejecutiva de Biden exige que las grandes empresas compartan los resultados de las pruebas de seguridad con el gobierno de Estados Unidos antes del lanzamiento oficial de los sistemas de inteligencia artificial. También da prioridad al desarrollo de estándares por parte del Instituto Nacional de Estándares y Tecnología para el “equipo rojo” de IA, o pruebas de estrés de las defensas y los posibles problemas dentro de los sistemas. El Departamento de Comercio desarrollará estándares para poner marcas de agua en el contenido generado por IA.

La orden también aborda los datos de entrenamiento para grandes sistemas de inteligencia artificial y establece la necesidad de evaluar cómo las agencias recopilan y utilizan los datos disponibles comercialmente, incluidos los datos comprados a intermediarios de datos, especialmente cuando esos datos involucran identificadores personales.

La administración Biden también está tomando medidas para reforzar la fuerza laboral de IA.