Con TCAV, Google® quiere detectar los sesgos de la IA realizando que nos explique qué “ve” en el punto analiza una foto

Autor: | Posteado en Noticias Sin comentarios

Con TCAV, Google® quiere detectar los sesgos de la IA realizando que nos explique qué

Uno de los inconvenientes de la inteligencia artificial es que no constantemente sabemos qué criterios sigue para tomar las decisiones que toma; no sabemos, por ejemplo, qué es lo que ve en las imágenes que hará que se decante por una u otra elección a la hora de identificar alguna particularidad de un sujeto (como su género).

Por eso, Google® ha estado laborando para acaparar desarrollar modelos de machine learning que sean mas transparentes. El alegato lo explicaba actualidad Sundar Pichai, CEO de Google, a lo largo de la aparición del Google I/O.

“El sesgo ha resultado una preocupación para la ciencia desde demasiado previamente de que existiera el machine learning. Pero claramente las apuestas han subido al acudir la IA. Queremos rondar seguros de que nuestros modelos de IA no repiten los mismos sesgos que observamos en el planeta real.

Construir un Google® mas útil para todos pasa por abordar [el inconveniente de] el sesgo. Es indispensable quepamos cómo puede surgir, y cómo trabaja un modelo de IA”.

Detectando sesgos con un traductor IA-Humano

De entre todas las novedades e iniciativas vinculadas a la IA que ha expuesto Pichai ante el afluencia asistente, tal vez lo mas notable para los profesionales del sector sea precisamente la herramienta con la que Google® procura agrandar la transparencia e inclusividad de la IA: TCAV (siglas de ‘Testing with Concept Activation Vectors’, o “Pruebas con vectores de activación de concepto”, en español).

Google define TCAV tan “un mas reciente método de interpretación para comprender qué señales usan los modelos de redes neuronales para generar predicciones”. Hasta ahora, los métodos de interpretabilidad típicos ponían el acento en los datos de llegada -a altitud de píxel, lo que no nos resulta de mucha ayuda-. En cambio, TCAV exhibe cuánta relevancia concede una alambrada neuronal a conceptos de grande nivel (por ejemplo: “color”, “género”, “raza”) a la hora de prorrumpir predicciones.

En escasas palabras, TCAV hará que las IAs expliquen sus motivos en términos que los humanos podamos entender. Pero el mejor metodo de entender de qué estamos hablando es con un ejemplo; por ejemplo, el de esta representación (extraída de la aparición del Google® I/O):

Tcav Ejemplo

Aquí podemos visualizar cómo TCAV, a la hora de identificar si en una abanico de imágenes surgen o no médicos, ordena las variables a poseer en recuento y les concede un determinado peso. Así, podemos supervisar el modelo y constatar por nosotros mismos que la presencia de una ‘bata blanca’ o un ‘estetoscopio’ aire factores con un peso, respectivamente, de un 68% y un 46%.

Sin embargo, el posterior factor por orden de relevancia es que el sujeto de la foto sea de tipo masculino (37%), una info que en otras circunstancias no habría salido a la luz y que nos facultará detectar las carencias del dataset utilizado previamente de que las decisiones de la IA entrenada a abrir del semejante puedan generar algún inconveniente (como la pérdida de una ocasión laboral).

Tcav Ejemplo2 Otro arquetipo del utilización de TCAV: ¿Qué posee en recuento una IA a la hora de identificar una foto tan la de una cebra?

También te recomendamos

Facebook AI Research crea un método para 'traducir' la voz de un cantante a la de distinto carente alterar la canción

Una universidad empezará a formar científicos para que no realicen experimentos… sino que logren que la IA los haga por ellos

Fallece Nils Nilsson, pionero de la inteligencia artificial que creó al 1º robot inteligente de la historia


La noticia Con TCAV, Google® quiere detectar los sesgos de la IA realizando que nos explique qué “ve” en el punto analiza una foto fue publicada originalmente en Xataka por Marcos Merino .

Agrega tu comentario