Entender la ambigüedad lingüística y el impacto de Chat GPT

24 de febrero, 2023

¿Te has parado a pensar en lo complejo que es el lenguaje? Los seres humanos utilizamos el lenguaje todos los días para comunicarnos, pero hasta nosotros tenemos problemas con la ambigüedad y los distintos significados que pueden tener las palabras que utilizamos. Ahora imagina intentar enseñar a un ordenador cómo entender el lenguaje. Este es el objetivo del Procesamiento del Lenguaje Natural (NLP), un campo que se centra en el desarrollo de algoritmos y tecnologías que puedan ayudar a las máquinas a entender el lenguaje humano. Esta entrada del blog profundiza en uno de los retos más importantes del NLP: la ambigüedad lingüística. Vamos a examinar cómo se enfrentan los sistemas de NLP a tres de las formas más comunes de ambigüedad lingüística y a ver qué mejoras se pueden introducir en este campo fascinante.

Ambigüedad lingüística

Uno de los mayores retos de la PNL es hacer frente a la ambigüedad lingüística. Para ayudar a comprender y atajar este problema, los investigadores en PNL han identificado tres niveles principales de ambigüedad que los sistemas modernos de PNL deben abordar:

• Léxico
• Sintáctico
• Semántico

Sin embargo, estos niveles no siempre están perfectamente definidos y pueden solaparse entre sí. Por ejemplo, un sonido o una palabra ambiguos (léxico) también pueden afectar a la estructura de la frase (sintáctico) y, en última instancia, al significado de la frase (semántico). Aunque los sistemas de PNL han avanzado mucho en el análisis de estas formas de ambigüedad, aún queda mucho por hacer para superar los retos que plantean los niveles más complejos de ambigüedad, como la pragmática y el discurso.

1. Ambigüedad léxica

Si alguna vez has leído una frase y te has preguntado qué quería decir realmente el autor, se trata de un problema común causado por la ambigüedad léxica. Esto ocurre cuando las palabras o frases tienen varios significados. Hay dos tipos principales de ambigüedad léxica:

– Homonimia: dos palabras que parecen o suenan igual, pero tienen significados diferentes. También puedes encontrar homófonos (palabras con el mismo sonido, pero distinta ortografía) y homógrafos (palabras con la misma ortografía, pero distinto significado).

– Polisemia: una palabra con varios significados.

2. Ambigüedad sintáctica

La ambigüedad sintáctica, también conocida como anfibología, surge de la confusión de estructuras de frases más que de palabras individuales. Esto puede ocurrir cuando un conjunto de palabras de una frase tiene varias interpretaciones.

Por ejemplo, “María vio a Juan con un telescopio”. En este caso, la frase preposicional “con un telescopio” podría significar tanto que María vio a Juan usando un telescopio como que Juan llevaba un telescopio cuando María lo vio.

3. Ambigüedad semántica

La ambigüedad semántica se produce cuando una frase tiene más de una interpretación debido a la falta de contexto. Esto ocurre con frecuencia con los pronombres.

Por ejemplo, en la frase “Mi madre y mi hermana se pusieron tristes después de que ella le gritara”, no podemos saber a quién se están refiriendo “ella” y “su” sin más información.

A veces, la falta de contexto confunde aún más las cosas.

Por ejemplo, “Ella me quiere”, que podría referirse a cualquiera sin más información.

Esta ambigüedad se da sobre todo con la ironía, el sarcasmo y las metáforas. Estos elementos lingüísticos son difíciles de entender para las máquinas, ya que requieren un conocimiento y un contexto que van más allá del significado superficial de la palabra y la frase.

Ambigüedad en NLP

El procesamiento del lenguaje natural (NLP) es un campo que consiste en hacer que los ordenadores entiendan y generen el lenguaje humano. Sin embargo, uno de los mayores retos a los que se enfrentan los modelos lingüísticos es la ambigüedad. La falta de contexto suele provocar errores en aplicaciones como los sistemas de respuesta a preguntas, la recuperación de información o la traducción de idiomas. Aunque se han utilizado técnicas como los sistemas de desambiguación del sentido de la palabra (WSD) y las bases de conocimiento para abordar la ambigüedad, la falta de contexto sigue siendo un problema importante.

1. Ambigüedad léxica en NLP

La ambigüedad léxica puede causar problemas para los sistemas de procesamiento del lenguaje natural. En el pasado, era difícil que los ordenadores diferenciaran entre palabras homónimas sin contexto. Sin embargo, con el uso de las embeddings contextuales modernas, que tienen en cuenta las palabras que las rodean, estas mismas palabras con diferentes significados tendrán diferentes integraciones. Se trata de un avance significativo para tareas de NLP como la vinculación de entidades, donde es esencial distinguir entre nombres de personas o lugares.

2. Ambigüedad sintáctica en NLP

La ambigüedad sintáctica es otro de los retos a los que se enfrenta la NLP. Una forma de entender las estructuras de las frases es el análisis sintáctico de dependencias. Este proceso examina la relación entre frases, basándose en la suposición de que existe una relación directa, o dependencia, entre las unidades lingüísticas dentro de las frases. Se asigna una etiqueta de dependencia a cada token de entrada.

Una forma popular de realizar el etiquetado de dependencia es con el uso de SpaCy, una biblioteca de Python ampliamente utilizada para la NLP. Sin embargo, la precisión del etiquetado depende de los datos de entrenamiento del modelo.

Por ejemplo, la frase “Mary saw John with a telescope” es ambigua en cuanto al sustantivo al que se refiere la palabra “telescope”. En este caso, el modelo de inglés de SpaCy etiqueta “telescope” como complemento de “Mary”, lo que es incorrecto.

Esto demuestra la complejidad de la ambigüedad sintáctica en la NLP y cómo puede afectar al rendimiento del modelo. Los modelos dependen en gran medida de la calidad de sus datos de entrenamiento, lo que puede conducir a un sesgo de confirmación debido a la relevancia estadística.

3. Ambigüedad semántica en NLP

En NLP, la deducción de información semántica se ha vuelto más precisa con el uso de:

– Embeddings contextuales: Su objetivo es captar la semántica de las palabras en diferentes contextos.

– Mecanismo de atención: Se centra en distintas partes de una frase en función de su relevancia.

Estos avances también han mejorado la tarea de resolución de co-referencia Se trata de identificar todas las expresiones de un texto que se refieren a la misma entidad del mundo real. En concreto, se trata de entender a qué sustantivos de una frase se refiere un pronombre.

En algunos casos, el pronombre puede tener similitudes con varios sustantivos, pero el mecanismo de atención puede ayudar a identificar a qué sustantivo se refiere realmente el pronombre.

Chat GPT

Los grandes modelos lingüísticos (LLM) se han convertido en la fuerza dominante de la NLP, y la tendencia actual es armonizar su rendimiento con las intenciones del usuario. En el 2022, OpenAI lanzó dos modelos de GPT-3. En primer lugar, InstructGPT, en el que los comentarios humanos eran esenciales para mejorar el rendimiento. Más tarde, se lanzó ChatGPT4, que fue entrenado para interactuar con los usuarios y recibir observaciones.

Estos modelos parecen dar prioridad a dar una respuesta frente a no dar ninguna, lo que puede ser útil en casos de preguntas mal formuladas o incomprensibles. Los modelos se han utilizado para escribir, automatizar, generar código, plantear preguntas de conocimiento común y razonar.

GPT-3 es capaz de generar contenidos como escribir ensayos, poesía, chistes y otros tipos de escritos copiando en parte lo que ha visto durante su entrenamiento. A pesar de ello, el texto que genera suele mostrar altos niveles de creatividad y calidad comparables a los de los humanos. Como resultado, GPT-3 se puede utilizar con eficacia para diversas tareas de escritura, como la creación de contenidos web para SEO, la redacción de argumentos de venta, y la creación de eslóganes para nuevos productos.

Chat GPT ha sido un logro significativo en la superación del problema de la generación fiable de un lenguaje similar al humano para la interacción y el diálogo. Aunque aún queda mucho por hacer, sobre todo en cuanto a la interacción ética, Chat GPT es revolucionario para las tecnologías de NLP. Este avance es un paso importante para demostrar el potencial de los modelos que se comportan de forma “similar a la humana”.

Experimento con la ambigüedad lingüística

Para profundizar en el potencial de Chat GPT, unos empleados del departamento de Inteligencia Artificial de dezzai llevó a cabo experimentos para evaluar la capacidad de ChatGPT para resolver la ambigüedad en distintos niveles lingüísticos. Crearon nuevas pruebas para evaluar la ambigüedad en los niveles léxico, sintáctico y semántico, e introdujeron frases ambiguas mediante instrucciones para analizar los resultados de ChatGPT. Los resultados mostraron que ChatGPT detectaba bien la ambigüedad semántica, pero tenía problemas con la sintáctica. El modelo tenía algunos puntos positivos, como la resolución de co-referencias, pero también reveló debilidades como el sesgo de género sobre la gramática en algunas situaciones no ambiguas. La falta de sistematicidad también se identificó como un problema. En general, ChatGPT obtuvo buenos resultados, pero aún tiene margen de mejora en cuanto a la gestión de la ambigüedad lingüística.

Descubre más sobre su análisis de los puntos fuertes y débiles del modelo ChatGPT en relación con la ambigüedad lingüística.

Conclusión

En conclusión, la ambigüedad lingüística supone un reto importante para el Procesamiento del Lenguaje Natural, pero este campo ha progresado de manera notable a la hora de abordarla. Gracias a los avances en la incrustación contextual, el mecanismo de atención y la resolución de co-referencias, los modelos de NLP son ahora más capaces de captar el significado de las frases ambiguas. Sin embargo, aún queda mucho camino por recorrer para abordar plenamente la ambigüedad lingüística, especialmente en los modelos conversacionales. El desarrollo de grandes modelos lingüísticos como GPT-3 y ChatGPT4 es un paso prometedor para llenar este vacío, pero se necesita más investigación para garantizar que estos modelos puedan manejar una amplia gama de contextos lingüísticos y proporcionar respuestas precisas y pertinentes. A medida que la NLP siga evolucionando, esperamos ver más avances en el tratamiento de la ambigüedad lingüística, lo que hará que la comunicación entre humanos y máquinas sea más natural y eficaz.