Lo que 3 avezados que laboran con inteligencia artificial opinan encima GPT-3

Autor: | Posteado en Noticias Sin comentarios

Lo que 3 avezados que laboran con inteligencia artificial opinan encima GPT-3

Es el último boom en el interior de la industria de la Inteligencia Artificial. GPT-3 (siglas de Generative Pre-trained Transformer 3) es un modelo de lenguaje autorregresivo que utiliza el aprendizaje profundo para producir textos similares a los humanos. De la factoría OpenIA, aire numerosos los productores y especialistas en Inteligencia Artificial que están realizando diversas pruebas con este código (te recomendamos que leas este artículo de Xataka para conocer mas referente de GPT3).

Así que nosotros nos hemos caseta en contacto con unos cuantos especialistas en IA para conocer su apreciación encima GPT-3. Esto es lo que nos han contado.

Andrés Torrubia

CEO y cofundador de FIXR

Es, de los tres, el único que ha tenido ocasión de apoyarse GPT3, pese a que previamente de hacerlo ya realizó un podcast encima GPT-3 en el que contaba sus primeras impresiones.

Para que veamos el capacidad de esta herramienta, Andrés Torrubia ha introducido un tomo de Xataka en el que le preguntábamos a él y a otros avezados de IA qué podíamos abandonarse de esta tecnología en una década. ¿Qué resultados dio GPT3? Según Torrubia, la máquina fue capaz de anotar textos tan éste

Los avezados nos dicen que los avances aire demasiado interesantes, inconveniente aún quedan un montón de labor por hacer.

Andres Torrubia: “La Inteligencia Artificial es una aviso fundamental en el futuro de las empresas y de la sociedad. La IA es una aviso primordial del alteración digital que está viviendo la sociedad, y por acierto es fundamental que la población entienda sus implicaciones, que aire positivas. Pero la AI es mas que la IA, y no es una tecnología nueva, destino que está mas o carencia en su infancia. La AI no es la IA y la IA no es la AI. En mi opinión, en el futuro todas las empresas van a poseer una AI para el tratamiento de la información, que puede ser demasiado mas que la IA. Y esto es lo que hará que la IA sea tan importante, pues no se trata sólo de la tecnología, destino de la transformación de las empresas. Esta transformación es un proceso que posee que visualizar con la sociedad, la apariencia en la que la gente quiere interactuar con las empresas y con el mundo. La AI nos facultará fabricar empresas que cambien la apariencia en la que vivimos”.

“Si nos fijamos, el tomo es arreglado coherente. Tiene unos cuantos derrapes típicos tan “La AI no es la IA y la IA no es la AI” inconveniente por lo demás podría colar”, comenta. Y, en tono irónico, añade, “como verás mi acreditado rol(rpg) de “experto en IA” peligra”.

Foto Andres

Para Torrubia, GPT3 es 1 de los primeros arquetipos “donde observamos que sistemas de inteligencia artificial empiezan a trabajar con cierta sencillez y coherencia en poco que es (¿era?) patrimonio exclusivamente conciliador tan el lenguaje”. En este sentido, compara GPT3 y íntegramente el boom que ha provocado con lo ocurrido con anterioridad con los ordenadores que jugaban al ajedrez, “y a posteriori nos ganaron”; o con Go, pese a que “en visión por computador hay aún posiciones en las que los humanos somos mejores”. “En lenguaje aún estábamos a distancia de que los ordenadores inclusive pudieran anotar cosas moderadamente coherentes”, explica. Algo que GPT 3 ha venido a cambiar.

Por eso, las grandes aportaciones de este código se pueden resumir, según Torrubia, en dos. Por un lado, que GPT3 ha demostrado que “un modelo de IA no únicamente puede realizar las cosas mejor si le entrenas con mas datos y mas cómputo, destino que hace cosas mas actuales que previamente no era capaz de hacer”. Y, en este sentido, cree que “podemos anticipar un GPT3 mas abultado que haga lo semejante que GPT3 inconveniente mejor o inclusive que haga cosas nuevas”.

La 2ª gran aportación es tener una interfaz demasiado natural. “Cuando interaccionamos con programas las calva y salidas suelen rondar demasiado encasilladas en formatos adaptados a los ordenadores, no a las personas. En un modelo tan GPT3 una de las cosas interesantes es que escribes tomo y sencillamente GPT3 sigue escribiendo el resto. Esto abre opciones para que quien lo use no necesariamente sepa ausencia de programación”, detalla.

“GPT-3 posee una interfaz demasiado natural, acoplado mas a las personas, lo que abre opciones para que quien lo use no necesariamente sepa ausencia de programación”

Pero aún hay cosas que mejorar. Por ejemplo, que “el dimensión de lo que se le puede meter y el GPT-3 es de 2048 “tokens” (más o carencia igual a palabras) por lo que el contexto de cosas con pesaroso es pequeño”. Es decir, que pese a que GPT 3 sea capaz de anotar texto, no podría, por ejemplo, terminar una novela “manteniendo la coherencia con el inicio de la misma”.

“Otro defecto inconveniente que se puede visualizar tan una virtud es que, pese a que no lo parezca a priori, memoriza mas que razona”, ahonda Torrubia. “Cuando el GPT-3 se pone en marcha para calcular la posterior compromiso que posee que surgir en un tomo constantemente tarda lo mismo, no puede “darle mas vueltas” a una llegada mas complicada destino que constantemente dedica el semejante afán de cómputo a predecir la posterior palabra”.

Y, tan otros expertos, Andrés Torrubia tambien alude a los sesgos que constantemente poseen este andoba de sistemas. “La propia empresa que lo lidera (OpenAI) insiste en que los textos que puede generar pueden poseer contenidos tóxicos (e.g. falsedades, insultantes, racistas, etc.)”. Por decirlo de alguna manera, se trata de un sistema que vierte palabras carente poner ausencia en contexto y carente “sentido crítico (como lo entendemos nosotros)”. Es decir, que “el aparato no conoce si lo que está escribiendo es bueno, malo, falso, verdadero, triste, cómico, etc.”.

Así pues, pese a que GPT3 podría ser verdaderamente útil para tareas tan autocompletado de código (programación), mejores agentes conversacionales, inspiración para tareas creativas, resumir textos o realizar alteración de esquema de pequeños textos, este avezado cree que, al carencia a aniversario de hoy, “no se puede poner un aparato de este andoba para tareas críticas carente una monitorización humana”.

En cualquier caso, este avezado cree que “aún estamos demasiado a distancia de los límites de estos modelos (tanto cuantitativa tan cualitativamente)” por lo que, poseyendo en recuento tambien el progreso en IA, está convencido de que este semejante año “veremos modelos iguales superiores a GPT-3”.

Nerea Luis

Doctora en IA e ingeniera de Sngular

Aunque esta doctora en Inteligencia Artificial aún no ha podido probarlo, sí que se ha documentado e informado encima cómo funciona. Para Nerea Luis, GPT-3 es “la viva confirmación” de que el zona del Natural Language Processing “está avanzando mas que de ningún modo a pasos agigantados”.

Esta experta cree que podemos hacernos una idea del capacidad de esta herramienta en el acierto lo hacemos desde el prisma de una conversación y del esquema del lenguaje a utilizar. “GPT-3 es un generador de textos que intentará entregar una observación acorde a las expectativas esperadas por el cliente en en qué grado a contexto y esquema que se ha fijado en el tomo de exhibe que el aparato recibe tan entrada”, explica.

Foto Nerea

Más allí de haber resultado entrenado con 175 billones de parámetros (lo que botana un mas reciente objetivo en la industria), para ella la gran novedad y aportación de GPT3 es la técnica con la que trabaja, few-shot learning. “GPT-3 se ha entrenado con muchísimos corpus genéricos (como el de la representación abajo de este párrafo) de Internet o de libros. Sin embargo, su delegación va mas allí reconocimiento a que ha aprendido muchísimos patrones relacionados con el estilo, la estructura del tomo y entre palabras/frase”, explica Nerea Luis. “GPT-3 es capaz de instruirse mas actuales formas de generar tomo tan únicamente obteniendo unos escasos arquetipos tan entrada. Esto hará que sea capaz de transformar lenguaje natural a código de programación o a patrones de esquema o que entienda conceptos tan anotar un elucidación al esquema Youtube, antónimos o verdadero/falso”, añade.

Corpus

Sin embargo, el código no es acabado y aún posee demasiado margen de mejoría y de aplicación. Quizá por eso OpenAI ha abierto GPT-3 a través de un API para que, “precisamente, la gente explore los propios límites del aparato e invente usos que no habíamos pensado (ni nosotros ni sus creadores)”. En este punto, Nerea Luis recuerda que GPT-2 no se liberó directamente tras anunciarlo “porque se consideraba peligroso” mientras que GPT-3 se ha caseta en producción desde el aniversario 1 a través de el entrada al API. “Parece que esta ocasión OpenAI ha hecho un razonamiento mayor encima este tema”, expone.

“GPT-3 es la viva confirmación de que el zona del Natural Language Processing está avanzando mas que de ningún modo a pasos agigantados”

Nerea Luis no niega que el capacidad de GPT-3 puede usarse “para el mal” (ya con su predecesor se hablaba de generación automática de fake-news, entre otros) entregado que “ningún aparato de IA es perfecto” y, en el asunto de GPT3, “seguramente habrá formas de identificar fallos en el tomo generado”. Sin embargo, cree que cada ocasión “habrá que trabajar mas en pensamiento crítico a altitud individual y conocer la existencia de este andoba de herramientas o sistemas”.

Una de las cosas a optimizar será, con toda probabilidad, el inconveniente de los sesgos (“aunque han realizado un mini descomposición en el paper”) y el ‘cherry picking’ (es decir, que sólo llegue a los provecho o redes sociales “los arquetipos wow y no otros adonde su capacidad no es tan abultado o directamente falla”). Este mini-hilo del head of AI de Facebook lo recuento demasiado bien”, nos detalla.

Pero esta experta tambien está convencida de que observaremos mas avances en el cercano año “ahora que GPT-3 ha llamado la atención a altitud internacional”.

David Pereira

Responsable de Data & Intelligence para everis y del Centro de Excelencia global de IA para el conjunto NTT DATA.

Tampoco David Pereira ha tenido la ocasión de probarlo, pese a que reconoce que, posteriormente de haber analizado todos los usos prácticos, posee aún mas ganas de hacerlo.

Pereira cree que estamos ante una Demo de que, “a abatimiento de numerosas opiniones en contra, el Deep Learning aún posee recorrido para realizar avanzar el campo de la Inteligencia Artificial”, pese a que para eso se incurra en un gran impacto medioambiental (debido a la validación de cálculo y por acierto energía necesaria para entrenar un modelo del dimensión de GPT-3 (750 billones de parámetros vs los 1,5 billones de su “hermano pequeño” de 2019, GPT-2)”.

Foto David

La gran aportación de GPT3 es “su contribución a la democratización de la IA. Con GPT-3, carente entendimientos técnicos de Inteligencia Artificial y sabiendo cómo acarrear a cabo lo que ya se conoce tan “priming” o “prompt engineering” (dar a GPT-3 unas “instrucciones” en lenguaje natural claras del tomo que deseamos que genere) cualquier andoba va a poseer a su disposición una IA demasiado avanzada y con un altitud de generalización demasiado extenso (es decir, que nos va a delegación apoyar a solucionar tareas de demasiado distinta índole)”.

Algo de lo que ya estamos siendo testigos en el planeta de la “codificación de software, la automatización del procesamiento de documentos o cualquier distinto andoba de mensaje de tomo (correos electrónicos), la generación automática de documentos creativos a abrir de temáticas de nuestro interés o inclusive la generación de cuadros de potestad financieros a abrir de la info que proporcionemos de nuestro departamento o empresa”. Para este experto, el límite a los casos de utilización de GPT-3 va a provenir dictado “por la creatividad que seamos capaces de acaparar aplicando benévolas técnicas de “priming” de este modo tan por sus defectos”.

Pero, además, Pereira cree que 1 de los grandes retos, tal vez el mayor, sea el que OpenAI está abordando a lo largo de la fase de beta cerrada de su API: “el atención de los sesgos que GPT-3 ha demostrado ya en unos cuantos arquetipos compartidos por usuarios en redes sociales. Al pedirle al algoritmo que genere tweets encima conceptos tan judío, negro, mujer, holocausto, los resultados obtenidos han resultado claramente demasiado negativos”, explica.

“El límite a los casos de utilización de GPT-3 va a provenir dictada por la creatividad que seamos capaces de acaparar y por el atención de los sesgos”

Por eso, y tambien de controlar estos sesgos y su consecuente impacto encima colectivos ya discriminados, “debemos ser conscientes de que cualquier modelo de lenguaje avanzado tan GPT-3 (y sus futuras evoluciones) pueden implicar grandes riesgos para nuestra sociedad ya que puede ser usado para generar y distribuir info falsa y creíble por aviso de la ciudadanía. La propia OpenAI es consciente de estos inconvenientes y está abriendo a cuentagotas el entrada a la API, tambien de someter a un proceso de aprobación cualquier aplicación que haga utilización de GPT-3”, añade.

En cualquier caso, el futuro parece que estará plagado de avances en este campo, “debido a la creciente democratización de la validación de cálculo, que hará que vayamos viendo versiones mas potentes de estos modelos”. Tras recordar unos cuantos actuales avances en procesamiento del lenguaje o en modelos de traducción, Pereira cree que “la cuestion es cuándo observaremos avances significativos en el esquema de la propia arquitectura de modelos tan GPT-3, basada en el concepto de “Transformer” de 2017 y que nos lleven a distinto salto claramente drástico en la apariencia de usar estos algoritmos”.


La noticia Lo que 3 avezados que laboran con inteligencia artificial opinan encima GPT-3 fue publicada originalmente en Xataka por Arantxa Herranz .

Agrega tu comentario