«Riesgo básico» para algunos grupos relacionados con los controles fronterizos de IA canadiense, el experto advierte

«Riesgo básico» para algunos grupos relacionados con los controles fronterizos de IA canadiense, el experto advierte

La Agencia Canadiense de Servicios Fronterizos (CBSA) busca obtener ayuda, de la inteligencia artificial.

Lo que se llama Indicador de correspondencia del viajero está diseñado para proporcionar a los funcionarios un resumen de datos de tiempo real.

La agencia dice que esta tecnología ayudará a identificar a los viajeros que cumplan con los requisitos más rápido y liberen a los oficiales para centrarse en viajeros desconocidos y de mayor riesgo.

«(Este) indicador no cambia la decisión del funcionario ni determina automáticamente los resultados», dijo CBC News en un correo electrónico de CBSA.

«La decisión real de si el viajero es un examen secundario depende del oficial de servicio fronterizo cuya capacitación, competencia y conocimiento especializados les permitan buscar siempre amenazas potenciales».

CBSA dice que 2023 lanzó un proyecto piloto en seis puertos de entrada. Como la estrella de Toronto informó por primera vez, CBSA dice que espera implementar la implementación de la tecnología en todos los puertos de la Tierra hasta 2027. Fin – con puertos aéreos y marítimos que se seguirán más adelante.

Ebrahim Bagheri es profesor en la Universidad de Toronto, centrándose en la IA.
Ebrahim Bagheri es profesor en la Universidad de Toronto, centrándose en la IA. (Radio-Chanada)

Ebrahim Bagheri es profesor en la Universidad de Toronto, que se especializa en el desarrollo responsable de la inteligencia artificial.

Él dice que la agencia fronteriza está tratando de acelerar el riesgo de calcular lo que va a una cola esperando que el país determine qué recursos o tiempo deberían ser para cada caso.

«Obviamente Mañana de Windsor;

Bagheri dice que la herramienta de riesgo está destinada a simplificar a los viajeros que se consideran de bajo riesgo en comparación con más recursos para las personas que se consideran con mayor riesgo.

Pero hay problemas con esto.

«El riesgo principal es lo que hemos notado en otros sistemas similares, que es un sesgo contra ciertas subpoblaciones».

Un funcionario de la Agencia Canadiense de Servicios Fronterizos está investigando un cruce de vehículos en el Niágara Falls International Rainbow Bridge en Niagara Falls, Ontario, 2024. Viernes 7 de junio. El personal de CBSA en todo el país hoy podría tomar un trabajo a menos que se llegue al acuerdo antes de la fecha límite para la huelga.
Un funcionario de la Agencia Canadiense de Servicios Fronterizos está investigando la transición de vehículos en el Puente Internacional de Rainbow de las Cataratas del Niágara en las Cataratas del Niágara, Ontario. (Aaron Lynett/Canadian Press)

El cita Brújula La herramienta utilizada en los tribunales penales de EE. UU. Para mantener a los acusados ​​que registren o no.

«Ahora, según la investigación estadística, sabemos que hay diferencias impactantes cuando los acusados ​​negros tenían casi el doble que los blancos se clasificaron incorrectamente como un alto riesgo basado en el sistema de IA».

Según Bagheri, estos sistemas de IA de especies generalmente se enseñan en función de datos históricos, pero los errores estructurales están ocultos.

«Cuando capacite a este sistema de acuerdo con dichos datos históricos, tendrá sistemas que mostrarán sesgo de una forma u otra. El sistema de IA funcionará bien como los datos que proporciona».

Él dice que CBSA tiene que decidir si sus oficiales pasan tiempo con personas que intentan cruzar la frontera para tomar decisiones imparciales y meticulosas, o si la IA funciona en otros aspectos de la organización.

«Si está pensando en áreas en las que la IA puede ayudar, generalmente debemos pensar en cómo puedo hacer el trabajo que hacemos de manera más efectiva sinceramente. Cómo podemos pensar ingeniosamente en el empoderamiento de los empleados existentes para hacer algo que no se podía hacer antes porque no teníamos una tecnología, o lo hicimos (y), simplemente no tuvimos tiempo para gastar en las cosas.

Escepticismo sindicato

El presidente de la Unión Nacional de Aduanas e Inmigración (CIU) dice que teme que las nuevas tecnologías de IA no se usen directamente para ayudar a sus funcionarios.

Según Mark Weber, CIU representa a unos 12,000 empleados, más de la mitad de ellos son como empleados.

«Por lo general, piensas en los problemas de la unión de pan y mantequilla como cosas como … salario, beneficios, todas esas cosas», dijo.

«Lo que pasamos mucho tiempo para preparar a nuestro empleador permite que nuestros miembros hagan nuestro trabajo correctamente. Vemos que la tecnología en realidad está asumiendo una agencia que no está interesada en la interdicación».

El acuerdo de negociación colectiva del sindicato con la agencia federal de aplicación de la ley es válido el próximo verano.

La gente cruza la frontera de Estados Unidos -Canadá después de que Canadá abrió una frontera para los estadounidenses vacunados Blaine, Washington, EE. UU., 2021. 9 de agosto
La gente cruzó la frontera de Estados Unidos y Canadá desde BC a Blaine, lo fueron. (David Rider/Reuters)

Weber dice que su membresía le preocupa que la agencia se esté retirando de la interacción humana y humana.

«Te está yendo bien … al recoger los indicadores, descubrirás cuál es la diferencia. Creo que mucho de lo que hacemos se basa en entrevistas. Esto se basa en hablar con los viajeros. Esto se basa en leer el lenguaje corporal y la reacción. Creo que … realmente no puedo hacerlo».

Según Weber, nadie con «malos objetivos» tiene la intención de hablar voluntariamente con un oficial.

«Nadie va a declarar el quiosco por su cuenta. Esto nunca ha sucedido».

Comentarios

Aún no hay comentarios. ¿Por qué no comienzas el debate?

    Deja una respuesta

    Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *