24/11/2014 - Una nueva herramienta de software libre permitirá procesar de manera más rápida y eficiente textos y documentos de la web

Menéame

Un equipo de investigadores del CiTIUS, formado por expertos en las áreas de Computación de Altas Prestaciones (HPC) y Procesamiento de Lenguaje Natural (PLN) ha conseguido desarrollar una herramienta que permite adaptar automáticamente aplicaciones utilizadas en el ámbito del procesamiento de textos y documentos a modelos de computación paralela compatibles con clústeres multi-core, lo que reducirá notablemente los tiempos de ejecución y permitirá trabajar con volúmenes de datos muy superiores a los que se manejan en la actualidad.

El gran desafío de los datos online

La ingente cantidad de información que se incorpora diariamente a Internet no para de aumentar. Se estima que en sólo 24 horas generamos cerca de 2,5 trillones de bytes (2,5 Exabytes), o lo que es lo mismo: cerca de 27 GB por segundo, el equivalente a una temporada completa de Juego de Tronos en Alta Definición (HD). Para comprender la magnitud de la cifra, basta con señalar que el 90% de los datos disponibles actualmente en todo el mundo han sido creados apenas a lo largo de los dos últimos años.

De esta enorme cantidad de datos (agrupados bajo el anglicismo Big Data), sólo el 5% se puede considerar información estructurada; el 95% restante (que está compuesto por textos, principalmente) no cuenta con ningún tipo de organización ni estructura, lo que representa un serio problema a la hora de acceder y gestionar toda la información disponible.

El trabajo realizado por los investigadores del CiTIUS facilitará esta labor, ya que los resultados obtenidos harán posible el análisis de los datos de una forma más sencilla y eficiente. Su propuesta se ha basado en el diseño de un nuevo sistema que permite transformar el software usado para el Procesamiento del Lenguaje Natural (habitualmente programado en el lenguaje informático Perl, y ejecutado de manera secuencial) en una solución compatible con las tecnologías Big Data.

Con sólo introducir unas etiquetas en la aplicación original, esta herramienta de traducción permite al programador convertir automáticamente todo su código Perl en código Java adaptado al paradigma MapReduce, habilitándolo así para su ejecución en un clúster (es decir, permitiendo su ejecución simultánea en múltiples cores o nodos de computación). De esta forma, se logra multiplicar la velocidad de cómputo por un factor proporcional al número de procesadores disponibles (por ejemplo: si se dispone de 1000 procesadores, el código resultante será, en el caso ideal, aproximadamente 1000 veces más eficiente que la solución secuencial).

‘Perldoop’, la herramienta de código abierto

Otra característica reseñable de esta investigación, que ha dado lugar a la herramienta de traducción Perldoop, es que los resultados se han hecho públicos bajo una licencia de software libre, con el objetivo de que esté a disposición del mayor número posible de usuarios y profesionales. Como explica el profesor Juan Carlos Pichel, investigador principal y responsable del proyecto, la decisión se tomó porque «el desarrollo de soluciones Big Data para el Procesamiento de Lenguaje Natural» (PLN) «sólo está, en este momento, al alcance de las compañías más potentes». Con la solución propuesta, y unos conocimientos mínimos de programación, será posible convertir cualquier código programado en lenguaje Perl a una solución capaz de funcionar en un clúster de computación.

Entre las principales ventajas de esta nueva solución destaca especialmente su versatilidad, ya que se trata de una herramienta de propósito general; gracias a ello, podrán beneficiarse aplicaciones de ámbitos tan diversos como la traducción automática, el análisis de información en blogs, o incluso el procesado de datos genéticos.

El Colegio Oficial de Ingenieros Industriales de Aragón y La Rioja (COIIAR) acogió ayer por la tarde, en su sede de la calle Coso, la jornada “Hidrógeno: una Visión Global”, una conferencia que ha ofrecido un recorrido por el panorama internacional del hidrógeno, sus principales mercados, los proyectos de referencia en desarrollo y el papel ...

La Unión Internacional de Ferrocarriles (UIC) acaba de publicar una nueva edición del Atlas de Alta Velocidad ferroviaria en el mundo, que ya es la 7.ª. El Atlas constituye la referencia más completa y con mayor reconocimiento internacional de la situación de la alta velocidad ferroviaria global en 2025 y es un informe desarrollado técnicamente por ...

El plazo de candidaturas para la edición 2026 del Premio Talgo a la Excelencia Profesional de la Mujer en la Ingeniería entra ya en su recta final y queda menos de un mes para optar al Premio.

Este premio nace para reconocer el talento, la dedicación y el impacto de mujeres ingenieras que ...

Por noveno año consecutivo, hoy se ha presentado el IX Barómetro Industrial del COGITI-Cátedra Internacional COGITI de Ingeniería y Política Industrial (UCAM), elaborado por el Consejo General de la Ingeniería Técnica Industrial de España (COGITI), con la colaboración de la Fundación Caja de Ingenieros, que recoge la percepción de los cerca de 3.000 Ingenieros ...

La Asamblea General Ordinaria de La Mutua de los Ingenieros ha aprobado los resultados correspondientes al ejercicio 2025, un año marcado por el crecimiento de la actividad, el fortalecimiento de los compromisos y la consolidación de iniciativas estratégicas en los ámbitos de la innovación, la sostenibilidad y en concreto, la acción social.

Más información