Fortia
  • Soluciones
  • Contacto
  • Recursos
    • Blog y Videos
    • Guías y Consejos
Conoce más
Fortia
  • Soluciones
  • Contacto
  • Recursos
    • Blog y Videos
    • Guías y Consejos
Conoce más

Riesgos ocasionados por el uso de Inteligencia Artificial

riesgos de la inteligencia artificial

Riesgos ocasionados por el uso de Inteligencia Artificial

  • noviembre 3, 2021
  • , 12:21 am
  • , Automatización Recursos Humanos, Ciberseguridad, Recursos Humanos 4.0, Tendencias Recursos Humanos

Aunque el uso de herramientas como la Inteligencia Artificial (IA) se ha popularizado en los últimos tiempos y ha ayudado a las organizaciones a mejorar ciertos procesos, no está exento de riesgos legales para empresas y organizaciones, por lo que es importante tener en mente este tipo de situaciones.

Por ejemplo, cuando Amazon descubrió que su herramienta de reclutamiento basada en Inteligencia Artificial mostraba un sesgo contra las mujeres, la reprogramó para ignorar explícitamente palabras relacionadas con el género. Sin embargo, el sistema revisado siguió aplicando patrones implícitos de género, como verbos altamente correlacionados con los hombres.

Este tipo de errores pueden causar problemas legales para las organizaciones que pueden convertirse en sanciones de corte penal, difíciles de contener para empresas y organizaciones.

Las herramientas de Inteligencia Artificial se están usando por todas las grandes empresas en sus procesos de selección y gestión de recursos humanos. En la primera fase del proceso, estos sistemas aportan su gran capacidad de filtrar con rapidez grandes volúmenes de información, en virtud de los criterios establecidos para cada puesto. En una segunda fase, permiten evaluar con precisión a los candidatos restantes.

Hoy en día, cada vez más organizaciones hacen uso de la Inteligencia Artificial en la gestión de los datos internos de las empresas, sobre todo en los procesos de transformación del negocio y la mejora de la prestación del servicio a diferentes áreas.

¿Qué involucran en los procesos de IA?

Los procesos de Inteligencia Artificial incluyen sistemas de selección pasiva, que filtran en función de unos parámetros establecidos (como las credenciales académicas o los años de experiencia laboral). Por lo tanto, pueden quedar descartados candidatos que podrían resultar adecuados, pero cuyas virtudes no son identificadas por la máquina.

Además, los riesgos de discriminación y sesgo en estos procesos existen y son reales, a menudo como consecuencia de los perfiles definidos, explícita o implícitamente, por las propias empresas.

Por otra parte, la empresa de consultoría Deloitte realizó un estudio llamado “El estado de la IA en la empresa”, en el cual se consultó sobre los principales desafíos de adopción de la IA en las organizaciones. La gestión de riesgos encabezó la lista, vinculada con los retos de integración y datos, así como con las preocupaciones de su implementación.

Aunque la preocupación es alta, la acción para mejorarlos está rezagada: menos de un tercio de adoptantes práctica más de tres actividades de administración de riesgos de IA, y menos de cuatro de cada 10 informan que su organización está “completamente preparada” para la gama de conflictos que les preocupan.

Para investigar si la gestión activa de los riesgos tiene algún beneficio tangible, Deloitte comparó dos grupos de organizaciones adoptantes de IA que los abordan de manera diferente. Los líderes (11%) emprenden más de tres prácticas y alinean sus esfuerzos de IA con los de su organización, mientras que los principiantes (51%) promueven hasta tres prácticas, pero no las están alineando con esfuerzos más amplios de la gestión de riesgos.

Los líderes creen que la Inteligencia Artificial tiene una mayor importancia estratégica, ya que el 40% considera que es “de importancia crítica” para su negocio en la actualidad. Por su parte, sólo se alcanza el 18% de los principiantes, y en dos años se espera que esas cifras aumenten al 63% y al 36%, respectivamente.

Por otra parte, los proveedores de soluciones de IA pueden mejorar su posicionamiento competitivo incorporando la gestión de riesgos en sus ofertas. Por ejemplo, pueden certificar que se realizan auditorías y pruebas periódicas de sus sistemas de IA para ayudar a garantizar la precisión, el cumplimiento normativo y la ausencia de sesgos.

Al reducir las amenazas para sus clientes, los proveedores pueden estar mejor posicionados para generar confianza y atraer más clientes. Al gestionar activamente los riesgos potenciales de la IA, tanto los adoptantes como los proveedores deberían mejorar sus posibilidades de poder avanzar y capitalizarla para seguir aportando recursos seguros y construir un mejor futuro del trabajo.

Fuentes:

https://www2.deloitte.com/us/en/insights/industry/technology/risks-of-artificial-intelligence.html

https://osha.europa.eu/es/publications/impact-artificial-intelligence-occupational-safety-and-health/view

Compartir en facebook
Compartir en linkedin

Copyright © 2020 Optimizado por Antar Poixtan.

Todos los derechos reservados.

Aviso de privacidad
Facebook-f Linkedin-in Instagram

Usamos cookies en nuestro sitio para darte la mejor experiencia al recordar tus preferencias y visitas repetidas. Al dar click en "Aceptar", nos autorizas a usar todas nuestras cookies programadas
Configuración de cookiesACEPTAR
Consentimiento

Resumen política de privacidad

Este sitio web utiliza cookies para mejorar su experiencia mientras navega por el sitio web. De estas, las cookies que se clasifican como necesarias se almacenan en su navegador, ya que son esenciales para el funcionamiento de las funcionalidades básicas del sitio web. También utilizamos cookies de terceros que nos ayudan a analizar y comprender cómo utiliza este sitio web. Estas cookies se almacenarán en su navegador solo con su consentimiento. También tiene la opción de optar por no recibir estas cookies. Pero la exclusión voluntaria de algunas de estas cookies puede afectar su experiencia de navegación.
Necesarias
Siempre activado
Las cookies necesarias son absolutamente esenciales para que el sitio web funcione correctamente. Esta categoría solo incluye cookies que garantizan funcionalidades básicas y características de seguridad del sitio web. Estas cookies no almacenan ninguna información personal.
No necesarias
Las cookies que pueden no ser particularmente necesarias para que el sitio web funcione y se utilizan específicamente para recopilar datos personales del usuario a través de análisis, anuncios y otros contenidos integrados se denominan cookies no necesarias. Es obligatorio obtener el consentimiento del usuario antes de ejecutar estas cookies en su sitio web.
GUARDAR Y ACEPTAR