Novedades del sitio

Desarrollo de software ético: Pregunte a Uber y Volkswagen

 
Imagen de System Administrator
Desarrollo de software ético: Pregunte a Uber y Volkswagen
de System Administrator - miércoles, 11 de octubre de 2017, 17:02
Grupo Colaboradores y Partners

Desarrollo de software ético: Pregunte a Uber y Volkswagen

por Cliff Saran

A raíz de la decisión de la organización británica TfL contra Uber, investigamos el papel del profesionalismo y la ética en el desarrollo de software.

Uber es la última empresa en quedar atrapada por el uso de software para ayudarlo a evitar las auditorías y pruebas oficiales.

Entre las razones por las que Transport for London (TfL) dijo en septiembre de 2017 que no renovaría la licencia de Uber para operar en Londres, se incluyó que el software desarrollado por la firma de taxis basada en aplicaciones evita que los funcionarios inspeccionen a sus conductores.

Mientras que los comentarios de los periódicos han sido en gran parte sobre la Asociación de Conductores de Taxis Licenciados, que representa a los conductores de taxi negro en Londres, haciendo un cabildeo de TfL contra Uber, una parte importante de su decisión fue el software oculto (stealth) de Uber.

Esta no es la primera vez que se ha encontrado que una empresa ha escrito software explícitamente para darle la vuelta a las pruebas y auditorías oficiales.

En mayo de 2014, se descubrió que Volkswagen había modificado su software de gestión de motores para detectar cuando sus coches diésel se estaban ejecutando en una prueba oficial de emisiones, de modo que pudiera reducir las emisiones. El fabricante de automóviles efectivamente escribió software específicamente para engañar, según el New York Times: "Volkswagen admitió que 11 millones de sus vehículos estaban equipados con software que se utilizó para engañar a las pruebas de emisiones".

El periódico informó que una prueba en carretera realizada por la Universidad de Virginia Occidental descubrió que algunos automóviles emitieron casi 40 veces los niveles permitidos de óxido de nitrógeno. Esto llevó a la Junta de Recursos del Aire de California a investigar a Volkswagen.

En cuanto a la decisión de TfL contra la renovación de la licencia de Uber para operar en Londres, entre sus preocupaciones estaba el uso del software llamado Greyball, que utiliza una técnica llamada geofencing para rodear, o cercar, instalaciones de gobierno y edificios oficiales.

El software presentará un sitio alternativo a los clientes, o personas que deseen reservar un viaje desde fuera de estos edificios, que se utiliza para evitar que los funcionarios reserven un viaje en Uber.

Otras ciudades se han preocupado con el uso del software Greyball. En una publicación en el blog, Gerald Gouriet y Charles Holland, de las cámaras de los abogados del Francis Taylor Building describieron el programa Greyball de Uber como un método para identificar al personal regulador usando la aplicación del cliente y así evitar la actividad reguladora.

"Uber inicialmente defendió fuertemente el programa, pero después de seis días, anunció que sería retirado", escribieron.

La Ciudad de Portland en los Estados Unidos publicó recientemente una auditoría sobre el uso del software Greyball en Uber, lo cual confirmó que la compañía de transporte había admitido el uso de dicho software. "En una carta fechada el 21 de abril de 2017, el abogado de Uber dio su segunda respuesta. En esta respuesta, la compañía admite haber utilizado el software Greyball en Portland por un período de dos semanas, del 5 de diciembre al 19 de diciembre de 2014, contra 17 cuentas de conductores individuales", dijo el informe de auditoría.

Los registros proporcionados por Uber muestran que tres de esos conductores solicitaron activamente y se les negaron los viajes en la plataforma de Uber, declaró la corte. La compañía dijo que nunca emprendería un esfuerzo similar para evadir a los reguladores en el futuro.

Sin embargo, como publicó nuestro sitio hermano, TheServerSide, el registro de la compañía de prácticas poco éticas en el desarrollo de software parece demostrar que hay una cultura de desprecio entre los gerentes.

En su blog sobre el acoso sexual en Uber, Susan Fowler escribió sobre una "cultura tóxica" en la empresa, donde los directivos se niegan a cooperar. "Recuerdo una reunión de equipo muy inquietante en la que uno de los directores se jactó de que nuestro equipo había retenido información crítica de negocios de uno de los ejecutivos, que podría favorecer a otro", escribió.

También existe el caso de la herramienta Uber God View, que infringe la privacidad de los usuarios al recopilar datos sobre su ubicación incluso cuando la aplicación Uber no está siendo utilizada.

Cobrar más de lo que se necesita

Más allá de Uber y Volkswagen, ejemplos de codificación no ética incluyen sobrecobro a los clientes, producir código de mala calidad o robar propiedad intelectual.

En un post en el repositorio de código abierto GitHub, un desarrollador ha estado buscando aumentar el perfil de la ética de codificación. El desarrollador describió cómo un empleador una vez le pidió que cambiara el valor de los vales de reembolso en un sitio de comercio electrónico para hacer que el reembolso valiera menos.

El codificador escribió: "Creo que necesitamos establecer un código de ética para los programadores. Los médicos, los trabajadores sociales e incluso los abogados tienen un código de ética, con consecuencias tangibles para escatimar en ellos. ¿Por qué no los programadores también? Quiero vivir en un mundo donde un programador que no ha aceptado seguir nuestro código de ética tiene dificultades para conseguir un empleo. Simplemente no es aceptable escribir código que sea dañino para los usuarios. ¿Qué demonios le pasa a esta gente?"

La declaración de ética de la Asociación de Maquinaria de Cómputoestablece que: "los ingenieros de software deben aprobar el software sólo si tienen una creencia bien fundada de que es seguro, cumple con las especificaciones, pasa pruebas apropiadas y no disminuye la calidad de vida, disminuye la privacidad o daña el medio ambiente. El efecto final del trabajo debe ser para el bien público".

La ética en la ingeniería de software es también un área que el BCS, The Chartered Institute for IT, ha estudiado. El Código de Conducta de BCS para sus miembros establece que: "Tendrán debidamente en cuenta la salud pública, la privacidad, la seguridad y el bienestar de los demás y el medio ambiente".

Responsabilidad con la sociedad

David Evans, director de políticas y comunidad de BCS, cree que un resultado primordial en el campo de la informática debería ser beneficiar a la sociedad y mejorar el bienestar humano. Para las organizaciones que valoran las relaciones con los clientes, la ética es muy importante. "En el mundo académico, la ética es la parte superior de la lista de verificación", dice.

Pero trabajar de manera ética puede ser un desafío. "La idea de beneficio público o bienestar humano convierte a la ética en un concepto equivocado", dice Evans. "Puedes perder la razón por la que lo haces. Queremos profesionales que hagan cosas que no causen daño a los demás, y también queremos que nuestro equipo de TI entienda los efectos de lo que hacen".

Según Evans, el valor de trabajar éticamente debe estar arraigado en la cultura corporativa, incluyendo el desarrollo de TI y software. Él dice que las organizaciones se benefician si la TI entiende el impacto humano de lo que hace.

El reto para las personas que trabajan en TI es que el impacto de su trabajo puede ser bastante abstracto, dice Evans. "Es bastante difícil pensar en lo que es ilegal. Y es más difícil conseguir que la gente entienda cómo su trabajo impactará a otras personas".

Implicaciones en la protección de datos

Un caso concreto es la Ley de Protección de Datos. Una empresa tal vez desee utilizar los datos de sus clientes de cierta manera para generar nuevas oportunidades.

"He visto compañías de renombre celebrando el éxito de la tecnología cuando sus desarrollos violan la Ley de Protección de Datos", dice Evans. "La ética puede restringirte de hacer cosas que pueden hacer dinero." Él argumenta que el intercambio de datos no es una pregunta ética: "Es la ley real".

Para el BCS, la ética va de la mano con el profesionalismo. La industria del software parece funcionar sin tener mucho en cuenta el impacto en las personas y las empresas. "Una empresa de construcción no puede construir una presa enorme sin consultoría", dice.

"Necesitaremos esto en software, pero el problema con Silicon Valley es que una pequeña startup en una habitación puede interrumpir las principales industrias de todo el mundo. El diálogo es necesario".

Inteligencia artificial y la ética

La industria está entrando ahora en el amanecer del aprendizaje automático, donde la inteligencia artificial (AI) se utiliza para procesar grandes cantidades de datos personales y luego tomar decisiones sin los caprichos de la toma de decisiones humanas.

La ética, en lo que se refiere a la AI, es uno de los temas que el autor, locutor y filósofo de tecnología Tom Chatfield estará hablando en la Cumbre de Tecnología de InterSystems el 18 de octubre.

"Estamos ocupados traduciendo el tejido de nuestras sociedades en algo legible a máquina: en datos en una escala que sólo las máquinas pueden manejar, y que a su vez alimentará la próxima generación de aprendizaje de máquina", dice.

Walker dice que hay dos puntos a considerar a medida que el mundo se traduce más al dominio digital: la calidad de la traducción, y su capacidad de iteración y mejora.

"Los volúmenes exponencialmente crecientes de datos manejados por nuestras herramientas pueden, cuando se usan bien, alimentar los pequeños datos procesables y las intuiciones intuitivas sobre las que las vidas humanas prosperan –pero también pueden crear un mundo encerrado en el que las decisiones ocurren más allá de nuestro escrutinio", explicó.

Para Walker, ésta es la diferencia entre las herramientas que pueden hacer que los registros de salud integrados estén disponibles en cualquier lugar, con sólo tocar un botón, y herramientas que niegan a alguien un seguro, con base en una inescrutable lectura algorítmica de su vida.

Más:

Link: http://searchdatacenter.techtarget.com