La revolución tecnológica que el mundo ha experimentado en las últimas décadas, ha abierto muchas conversaciones con respecto a su alcance e impacto en diferentes ámbitos del ser humano.

Es claro que estas innovaciones han traído grandes beneficios para los individuos y las organizaciones. Sin embargo, también, ha sido utilizada inadecuadamente haciéndonos pensar cuál es la forma ética de proceder y cuáles son los límites de estos avances.

Para ello, es importante entender cómo es que las personas y las empresas deben conducirse para evitar un mal empleo de la tecnología.

Hablemos de ética y de tecnología

Proveniente de la palabra griega ethos, ética se define como un conjunto de rasgos y modos de comportamiento que conforman el carácter o la identidad de una persona o una comunidad.
Es como una segunda naturaleza, una de esencia moldeable y adquirida, que no es heredada biológicamente. Es la manera de ser, que se forma a través de hábitos que desarrollamos como parte de nuestro carácter.

Por tanto, la ética ayuda a guiar la conducta humana en cualquiera de sus actividades, entre ellas, en el uso de la tecnología. Su propósito es establecer cómo comportarse ante diversas experiencias, en beneficio propio y en el de los demás.

En el ámbito organizacional, involucra muchas decisiones estratégicas, como por ejemplo, inversión en Recursos Humanos, modernización, desarrollo y servicios de productos.
Las amenazas y oportunidades, pueden impactar significativamente el desempeño, distinguiéndose por su singularidad, complejidad y velocidad. 

Por ende, es importante comprender las dimensiones de la ética al trabajar en una empresa o institución y, en la utilidad de la tecnología de la información (TI). Indudablemente, los usuarios finales y los profesionales de esta área juegan un papel importante en el cumplimiento de la ética empresarial.

Aunque es clara la relevancia de tener prácticas alineadas con un código ético, hay ocasiones en que las organizaciones pasan por alto aspectos como la seguridad, la integridad, la confidencialidad, la solidaridad, el respeto, entre otros aspectos y proceden cometiendo graves errores.

A continuación le compartimos 10 casos recopilados por la revista Computer Weekly (2022), en los que la ética tecnológica se vio gravemente comprometida o bien, se evidenció cómo algunas organizaciones procedieron con integridad:

Forensic Architecture utiliza la tecnología en favor de los derechos humanos

En enero de 2022, Computer Weekly habló con Forensic Architecture (FA), una agencia de investigación internacional e interdisciplinaria que utiliza una variedad de tecnologías digitales para investigar violaciones de derechos humanos cometidas por estados y corporaciones en todo el mundo.

La conversación se centró en cómo FA utiliza varias tecnologías digitales, incluida la inteligencia de código abierto, el modelado 3D, la fotogrametría, la realidad virtual (VR), la extracción de datos, el análisis de audio y más, para investigar casos como el rechazo de migrantes a través de la frontera griega y el asesinato de Mark Duggan por la policía de Londres.

La historia detalla cómo FA aborda el uso de la tecnología para analizar y desafiar las cuentas oficiales de abuso estatal y corporativo. Su trabajo ha sido utilizado por una variedad de abogados y organizaciones no gubernamentales (ONG) centradas en los derechos humanos, y ha sido presentado ante paneles de las Naciones Unidas.

Vigilancia del Canal de la Mancha utilizada “para disuadir y castigar a los migrantes”

En marzo, el gobierno del Reino Unido fue criticado por gastar decenas de millones de libras en tecnologías de vigilancia fronteriza para disuadir a los inmigrantes de cruzar el Canal de la Mancha, en lugar de utilizar esos recursos para proporcionar un paso seguro.

Para monitorear el Canal de la Mancha, un tramo de agua de solo 21 millas de largo, el gobierno del Reino Unido utiliza una variedad de tecnologías de vigilancia avanzadas, incluidos drones no tripulados y satélites alimentados por IA.

Sin embargo, abogados, grupos de derechos humanos y organizaciones de apoyo a los inmigrantes argumentaron que, si bien estas tecnologías tienen la capacidad de proteger la vida de las personas si se usan de otra manera, actualmente se implementan con la clara intención de disuadir a los inmigrantes de cruzar, o ayudar a castigar a los que lo hacen.

Deliveroo acusado de destrucción sindical con el acuerdo de GMB

Desde que la Corte Suprema del Reino Unido dictaminó en febrero de 2021 que los conductores de Uber deberían clasificarse como trabajadores en lugar de autónomos, las condiciones de trabajo en todas las empresas de la economía informal han sido objeto de un mayor escrutinio.

En ese tiempo, muchas empresas de la economía informal han estado trabajando para recalibrar su relación con los trabajadores buscando firmar acuerdos con sindicatos más grandes.

Sin embargo, en mayo de 2022, la empresa de entrega de alimentos basada en aplicaciones Deliveroo fue acusada de “reventar suavemente a los sindicatos”, después de firmar un acuerdo con GMB, lo que los grupos de esta índole más pequeños han condenado como un “movimiento de relaciones públicas vacío y cínico”, diseñado para hundir a las bases, autoesfuerzos organizativos de los trabajadores de la empresa.

El Sindicato de Trabajadores Independientes de Gran Bretaña (IWGB) dijo que el “anuncio no es más que un movimiento de relaciones públicas cínico y vacío” destinado a tranquilizar a los inversores y clientes, en lugar de generar un cambio significativo para los trabajadores. 

También agregó que el reconocimiento en el acuerdo de los repartidores de Deliveroo como “autónomos” en lugar de “trabajadores”, merma aún más sus esfuerzos de organización, ya que este estado laboral significa que no tienen derecho legal a pago por enfermedad, pago de vacaciones o salario mínimo.

Un tribunal de EE. UU. dictamina que no hay conflicto de intereses en el caso de muertes mineras de empresas tecnológicas.

En noviembre de 2021, un juez de un tribunal de distrito de EE. UU. desestimó un caso legal contra 5 importantes empresas de tecnología de aquel país, acusadas por las familias de los niños mineros de cobalto muertos o mutilados, de beneficiarse a sabiendas de los abusos contra los derechos humanos en la República Democrática del Congo (RDC). Sin embargo, en julio de 2022, se descubrió que el juez presidente Carl J. Nichols tenía acciones y participaciones significativas en 4 de las 5 empresas. La Corte de Apelaciones de Estados Unidos para el Circuito del Distrito de Columbia ordenó que se denegara la moción para anular la decisión de Nichols: “Ni las compras del juez Nichols de bonos emitidos por varios apelados, ni sus compras de fondos mutuos o fondos negociados en bolsa, resultaron en violaciones”.

Los esfuerzos del sector tecnológico para erradicar el trabajo forzoso están fracasando

En julio de 2022, Computer Weekly habló con investigadores de derechos humanos y empresas de gestión de la cadena de suministro digital, acerca de cómo se puede identificar el trabajo forzoso, en las cadenas de suministro de tecnología y los límites del enfoque actual de este sector.

Dijeron que la detección del trabajo forzoso y la esclavitud, ya no es un problema tecnológico para el sector de TI, sino que la falta de intervención del gobierno y la inacción corporativa, son las principales barreras para un cambio efectivo.

Leo Bonanni, cofundador y director ejecutivo de la firma de transparencia de la cadena de suministro Sourcemap, indicó: “Se ha demostrado una y otra vez, que incluso las industrias que tienen materias primas provenientes de algunas de las partes más remotas del planeta pueden tener trazabilidad en tiempo real en sus productos de principio a fin; es solo una cuestión de adopción más generalizada y, no voy a mentir, es necesario que haya un cambio en la cultura de muchas empresas”.

Met Police aumenta el reconocimiento facial a pesar de las preocupaciones actuales

Para agosto de 2022, el Servicio de Policía Metropolitana (MPS) había implementado la tecnología de reconocimiento facial en vivo (LFR) 6 veces durante el año, marcando el primer conjunto de implementaciones desde febrero de 2020, cuando el uso de la tecnología se detuvo como consecuencia de la pandemia.

Si bien se escaneó la información biométrica de aproximadamente 144 mil 366 personas en el transcurso de estos despliegues, solo 8 fueron arrestados por delitos que incluyen posesión de drogas de Clase A con la intención de suministrar, agredir a un trabajador de emergencia, no comparecer ante el tribunal y una infracción de tránsito no especificada. .

Los trabajadores de Amazon en el Reino Unido organizan una serie de huelgas por ofertas salariales

Una ola de huelgas no oficiales se extendió por los almacenes de Amazon en el Reino Unido en agosto del año pasado, con cientos de trabajadores en todo el país organizando paros y ralentizaciones laborales de forma independiente, en protesta por los irrisorios aumentos salariales del gigante del comercio electrónico.

A partir del 3 de agosto de 2022 con el almacén LCY2 de Amazon en Essex, cuando 700 trabajadores de logística se retiraron espontáneamente, después de recibir una oferta de aumento salarial de 35 peniques, el personal de Amazon terminó organizando huelgas en, al menos, 10 instalaciones de la empresa por ofertas similares.

Los expertos en IA cuestionan los compromisos éticos de la industria tecnológica

En octubre de 2022, los expertos en Inteligencia Artificial ética compartieron a Computer Weekly que la expansión masiva de la ética de esta innovación, no necesariamente ha implicado mejores resultados, o incluso, a una reducción en el potencial de la tecnología para causar daño. Todo esto, a pesar de una avalancha de principios, pautas, marcos y declaraciones éticos de IA, mismos que fueron publicados por organizaciones privadas y agencias gubernamentales de todo el mundo, desde 2018.

El consenso emergente de investigadores, académicos y profesionales es que, en general, dichos documentos no han logrado exhibir por completo los daños creados por la Inteligencia Artificial, porque han malinterpretado fundamentalmente, el carácter social de la tecnología y cómo afecta (y es afectada) por corrientes políticas y económicas más extensas.

El escrutinio de la IA requiere auditorías de sistema integrales y de extremo a extremo

Durante la Conferencia Internacional de Auditoría Algorítmica inaugural, organizada en Barcelona el 8 de noviembre de 2022 por la firma de auditoría algorítmica Éticas, los expertos señalaron que las organizaciones deben realizar revisiones integrales, que consideren tanto los aspectos sociales como los técnicos de la IA, para comprender completamente los impactos de cualquier sistema.

Agregaron, sin embargo, que la falta de comprensión sobre cómo realizar auditorías holísticas y las limitaciones del proceso están frenando el progreso.

Met Police elimina a casi dos tercios de las personas de la “matriz de pandillas”

El MPS eliminó a más de mil 100 personas de su controvertida “matriz de violencia de pandillas” en noviembre de 2022 y se comprometió con un “rediseño completo” del sistema, ante la inminente acción legal del grupo activista de derechos humanos Liberty, que fue presentada en nombre del músico Awate Suleiman y el grupo de interés comunitario, Unjust UK en febrero del mismo año.

En la semana en que el caso debía presentarse ante los tribunales, el MPS acordó realizar una revisión completa de la base de datos y eliminó el 65% de todos los que figuran en la matriz.

Además de infringir los derechos humanos y la legislación de protección de datos, Liberty ha argumentado durante mucho tiempo que la operación de la matriz viola el derecho a la vida privada y familiar, ya que el amplio intercambio de datos personales del MPS con una variedad de terceros, pone a los afectados en una situación significativamente mayor  riesgo con exceso de vigilancia, exclusión escolar, desalojo y, en algunos casos, deportación o denegación de beneficios sociales.

Éstos son solo algunos casos, pero es un hecho que hay muchos más alrededor de todo el mundo. Lo trascendente de conocerlos es hacer un análisis honesto de cuáles son las prácticas organizacionales que se realizan y reflexionar si no vulneran de alguna forma, la integridad de las personas. 

Fuentes de Consulta:

Kloving S, (Diciembre 29, 2022). Top 10 technology and ethics stories of 2022. Computer Weekly. Recuperado de: https://www.computerweekly.com/news/252528401/Top-10-technology-and-ethics-stories-of-2022

¿Cómo Influye la Ética Tecnológica en la Gestión Empresarial? (s.f.) ¿Cómo Influye la Ética Tecnológica en la Gestión Empresarial? Efiempresa. Recuperado de: https://efiempresa.com/blog/efiempresa-etica-tecnologica/#:~:text=La%20%C3%A9tica%20tecnol%C3%B3gica%20involucra%20muchas,su%20singularidad%2C%20complejidad%20y%20velocidad.

Rea Academia de la Lengua Española (s.f.) Ethos. RAE. Recuperado de: https://dle.rae.es/ethos