Aunque el uso de herramientas como la Inteligencia Artificial (IA) se ha popularizado en los últimos tiempos y ha ayudado a las organizaciones a mejorar ciertos procesos, no está exento de riesgos legales para empresas y organizaciones, por lo que es importante tener en mente este tipo de situaciones.
Por ejemplo, cuando Amazon descubrió que su herramienta de reclutamiento basada en Inteligencia Artificial mostraba un sesgo contra las mujeres, la reprogramó para ignorar explícitamente palabras relacionadas con el género. Sin embargo, el sistema revisado siguió aplicando patrones implícitos de género, como verbos altamente correlacionados con los hombres.
Este tipo de errores pueden causar problemas legales para las organizaciones que pueden convertirse en sanciones de corte penal, difíciles de contener para empresas y organizaciones.
Las herramientas de Inteligencia Artificial se están usando por todas las grandes empresas en sus procesos de selección y gestión de recursos humanos. En la primera fase del proceso, estos sistemas aportan su gran capacidad de filtrar con rapidez grandes volúmenes de información, en virtud de los criterios establecidos para cada puesto. En una segunda fase, permiten evaluar con precisión a los candidatos restantes.
Hoy en día, cada vez más organizaciones hacen uso de la Inteligencia Artificial en la gestión de los datos internos de las empresas, sobre todo en los procesos de transformación del negocio y la mejora de la prestación del servicio a diferentes áreas.
¿Qué involucran en los procesos de IA?
Los procesos de Inteligencia Artificial incluyen sistemas de selección pasiva, que filtran en función de unos parámetros establecidos (como las credenciales académicas o los años de experiencia laboral). Por lo tanto, pueden quedar descartados candidatos que podrían resultar adecuados, pero cuyas virtudes no son identificadas por la máquina.
Además, los riesgos de discriminación y sesgo en estos procesos existen y son reales, a menudo como consecuencia de los perfiles definidos, explícita o implícitamente, por las propias empresas.
Por otra parte, la empresa de consultoría Deloitte realizó un estudio llamado “El estado de la IA en la empresa”, en el cual se consultó sobre los principales desafíos de adopción de la IA en las organizaciones. La gestión de riesgos encabezó la lista, vinculada con los retos de integración y datos, así como con las preocupaciones de su implementación.
Aunque la preocupación es alta, la acción para mejorarlos está rezagada: menos de un tercio de adoptantes práctica más de tres actividades de administración de riesgos de IA, y menos de cuatro de cada 10 informan que su organización está “completamente preparada” para la gama de conflictos que les preocupan.
Para investigar si la gestión activa de los riesgos tiene algún beneficio tangible, Deloitte comparó dos grupos de organizaciones adoptantes de IA que los abordan de manera diferente. Los líderes (11%) emprenden más de tres prácticas y alinean sus esfuerzos de IA con los de su organización, mientras que los principiantes (51%) promueven hasta tres prácticas, pero no las están alineando con esfuerzos más amplios de la gestión de riesgos.
Los líderes creen que la Inteligencia Artificial tiene una mayor importancia estratégica, ya que el 40% considera que es “de importancia crítica” para su negocio en la actualidad. Por su parte, sólo se alcanza el 18% de los principiantes, y en dos años se espera que esas cifras aumenten al 63% y al 36%, respectivamente.
Por otra parte, los proveedores de soluciones de IA pueden mejorar su posicionamiento competitivo incorporando la gestión de riesgos en sus ofertas. Por ejemplo, pueden certificar que se realizan auditorías y pruebas periódicas de sus sistemas de IA para ayudar a garantizar la precisión, el cumplimiento normativo y la ausencia de sesgos.
Al reducir las amenazas para sus clientes, los proveedores pueden estar mejor posicionados para generar confianza y atraer más clientes. Al gestionar activamente los riesgos potenciales de la IA, tanto los adoptantes como los proveedores deberían mejorar sus posibilidades de poder avanzar y capitalizarla para seguir aportando recursos seguros y construir un mejor futuro del trabajo.
Fuentes:
https://www2.deloitte.com/us/en/insights/industry/technology/risks-of-artificial-intelligence.html