• Emprendedores
• NETSTUDIO

Ganar dinero en internet. Unas cuantas ideas de negocio.

Algoritmos que marginan a minorías, obligación de ceder tus datos a grandes tecnológicas o la dificultad para recuperar tu imagen dañada en internet. Estas soluciones persiguen la transparencia y cordura que internet ha olvidado.

Eticas Consulting: Contra los sesgos algorítmicos

La asignación de un crédito hipotecario, un seguro médico, el candidato elegido para un determinado puesto de trabajo, el orden prioritario para las intervenciones quirúrgicas, la concesión o no de un permiso penitenciario…Son solo algunas de las muchas decisiones que ya, a día de hoy, se toman en muchos países y empresas en base a lo que dictamina un algoritmo.

Ana Olmos, emprendedora y especialista en regulación de telecomunicaciones, gobernanza de Internet y seguridad informática, definía con estas sencillas palabras lo que es un algoritmo: “Una lista de reglas que se utilizan para resolver un problema. No son más que pasos, en un orden, que son definidos por un equipo humano y ejecutados por un ordenador cuando dicho algoritmo se ha programado”.

Si al algoritmo se le añade Inteligencia Artificial podemos incluso programar un aprendizaje por parte de la máquina –machine learning– que podrá acertar cada vez más y tener un algoritmo más perfecto. Ese conocimiento progresivo de la máquina se nutre de los datos que vamos metiendo de manera que, a mayor información introducida, más se supone que sabe, hasta el punto de poder delegar en la máquina “la automatización y agilizar un proceso que antiguamente era tan complejo que tenía que hacerse con personas muy experimentadas que se basaban en su intuición y un conocimiento difícil de transmitir”, decía Olmos.

Ante esta forma de proceder, la duda que surge es: ¿Y qué sucede cuando esa información que alimenta a la máquina para entrenar su aprendizaje no está equilibrada o deja fuera del espectro a minorías muy concretas? Pues que el algoritmo desprecia a estos colectivos en su análisis de predicciones. Es lo que se conoce como sesgos algorítmicos.

“Los algoritmos se entrenan en base a datos del pasado y se usan para tomar decisiones del presente”, declara Gemma Galdón, fundadora y CEO de Eticas Consulting. Si, por citar un ejemplo, una mujer pide un crédito hipotecario en un banco que hace una primera filtración en base a un algoritmo tiene menos posibilidades de conseguirlo que un hombre por la sencilla razón de que ese algoritmo ha sido entrenado con menos mujeres teniendo en cuenta que hasta hace unos años ni siquiera peder un préstamo. Así que, en igualdad de condiciones, una mujer será considerado como un perfil con mayor riesgo que un hombre.

De todo esto, se dio cuenta Galdón hace ya años. Consciente de sus antecedentes bastante atípicos –hija de una madre que la trajo al mundo a los 14 años, mujer, atea…– sabía que la mayoría de los algoritmos nunca la iban a tener en cuenta. Así que esta analista de políticas públicas especializada en el impacto social, legal y ético de las tecnologías se animó a fundar con otros socios una especie de consultora para concienciar a la sociedad de la trascendencia actual de los algoritmos y vigilar los posibles sesgos, intencionados o no.

Nace así, en 2012, Eticas Consulting…  (sigue leyendo)