Home / Cultura y Formación / Inteligencia artificial: 5 claves sobre cómo nos gobiernan los algoritmos

Inteligencia artificial: 5 claves sobre cómo nos gobiernan los algoritmos

Pbro. Alfonso Rocha Torres

No pasa un minuto sin que una máquina decida parte de tu futuro. No solo te recomiendan libros o películas; también deciden el tipo de interés que vas a pagar, que te llamen o no para una entrevista de trabajo, o seas candidato de cometer un delito.

Se esperaba que los programas informáticos fueran capaces de tomar esas decisiones de una forma más imparcial; desafortunadamente amplifican los prejuicios de los ingenieros que los crean.

Steve Wozniak, cofundador de Apple, denunció que la Apple Card le concedía a él una línea de crédito 10 veces superior a la de su mujer por culpa de las decisiones de un algoritmo. Este es un pequeño repaso, con la ayuda de la agencia Bloomberg y de Ricardo Peña, profesor de la Universidad Complutense de Madrid, para que sepas cómo los algoritmos te están gobernando sin que lo sepas, escrito para el diario El País por Guillermo Vega.

1 ¿Qué es un algoritmo?

Un algoritmo no es más que una secuencia finita de pasos en cada uno de los cuales se aplica mecánicamente una regla. que permite procesar una información o llevar a cabo una tarea. Un algoritmo puede ser básico: ordenar por orden alfabético. O una receta para hacer un pay de queso también. Los que hacen las empresas de tecnología son mucho más complicados. Facebook o Google han gastado miles de millones desarrollando los suyos. Con ellos ordenan y distribuyen las toneladas de información que alegremente les confiamos día a día.

2 ¿De dónde sacan los algoritmos la información?

De nosotros. De todas las pequeñas acciones que llevamos a cada momento. Cada vez que nos registramos en una web sobre salud o consultamos información en Wikipedia o cada vez que vemos un anuncio en nuestro smartphone vamos dejando un rastro que las compañías comparten entre sí para hacer negocio. Todo deja rastro, incluso el más ínfimo clic que haces, además que cruzan datos.

3 Entonces, ¿de dónde viene la discriminación?

Los datos en sí no son discriminatorios. Son solo datos. El problema surge de cómo se usan e interpretan, especialmente cuando caracterizan a una persona usando correlaciones o datos proxy : datos que de por sí no tienen gran interés, pero a partir de los cuales se pueden obtener otras que sí lo tienen. Así, lo que escuchas en YouTube o en Spotify puede determinar tu sexo o edad, o las cosas a las que le das el like pueden determinar tu posicionamiento ideológico o nivel económico. En 2017  Bloomberg publicó que Facebook había clasificado a algunos usuarios como homosexuales en función de las publicaciones a las que había dado like, sin que ellos lo admitieran.

¿Cuál es el problema?

Lo que hace el sistema/algoritmo es agrupar palabras por temas. O por tipo de ropa, si estamos organizando un armario. ¿Y si la máquina nos dice al ver unos pantalones que el sujeto es un hombre? ¿Es que la mujer no puede llevar pantalones? No, pero el algoritmo intuye que es probable que sea un hombre porque es más probable estadísticamente que sea un hombre. Así un algoritmo usado para analizar los riesgos para la salud de millones de pacientes en Estados Unidos discrimina sistemáticamente a la población negra. Y lo hace sin saber siquiera su raza.

4 ¿Cómo establece la máquina estas relaciones proxy?

Con datos. Cuantos más mejor. Es la forma de la que se nutre el llamado aprendizaje automático (machine learning). Los niños aprenden de sus padres y la escuela. En el caso del aprendizaje automático, se ceba a la máquina con miles y miles de textos para que encuentre patrones y aprenda por sí misma el idioma, lo que se conoce como mapeo de palabras. Además, tiene que haber una persona que valide las respuestas correctas y rechace las incorrectas. El problema surge con los prejuicios con que fueron programados. Si la máquina extrae conclusiones poco precisas de los datos puede llevar a conclusiones falsas.

5 ¿Qué se puede hacer para evitarlo?

El problema es tal que existe unos principios básicos de responsabilidad algorítmica. Esta la configuración ética, para evitar el sesgo y en caso de que se produzca, erradicarlo. Otro paso es la validación, que obliga a testearlos con pruebas experimentales y tests. Todos los datos usados, además deberían formar parte de un informe en el que se detalle su origen lo que se llama información pública, que ha de ser accesible y estar sujetos a auditorías externas.

Estamos pues… en manos de las empresas.

COMENTARIOS:                vivirenlapantalla@gmail.com

About Gabriela Ceja Ramirez

Check Also

¿Sé amar y perdonar como Dios desea que lo haga por mi bien?

Desarrollo Espiritual, VII DOMINGO, Ciclo A, 23 de Febrero de 2020. Jesús nos pide que …