24/11/2014 - Una nueva herramienta de software libre permitirá procesar de manera más rápida y eficiente textos y documentos de la web

Menéame

Un equipo de investigadores del CiTIUS, formado por expertos en las áreas de Computación de Altas Prestaciones (HPC) y Procesamiento de Lenguaje Natural (PLN) ha conseguido desarrollar una herramienta que permite adaptar automáticamente aplicaciones utilizadas en el ámbito del procesamiento de textos y documentos a modelos de computación paralela compatibles con clústeres multi-core, lo que reducirá notablemente los tiempos de ejecución y permitirá trabajar con volúmenes de datos muy superiores a los que se manejan en la actualidad.

El gran desafío de los datos online

La ingente cantidad de información que se incorpora diariamente a Internet no para de aumentar. Se estima que en sólo 24 horas generamos cerca de 2,5 trillones de bytes (2,5 Exabytes), o lo que es lo mismo: cerca de 27 GB por segundo, el equivalente a una temporada completa de Juego de Tronos en Alta Definición (HD). Para comprender la magnitud de la cifra, basta con señalar que el 90% de los datos disponibles actualmente en todo el mundo han sido creados apenas a lo largo de los dos últimos años.

De esta enorme cantidad de datos (agrupados bajo el anglicismo Big Data), sólo el 5% se puede considerar información estructurada; el 95% restante (que está compuesto por textos, principalmente) no cuenta con ningún tipo de organización ni estructura, lo que representa un serio problema a la hora de acceder y gestionar toda la información disponible.

El trabajo realizado por los investigadores del CiTIUS facilitará esta labor, ya que los resultados obtenidos harán posible el análisis de los datos de una forma más sencilla y eficiente. Su propuesta se ha basado en el diseño de un nuevo sistema que permite transformar el software usado para el Procesamiento del Lenguaje Natural (habitualmente programado en el lenguaje informático Perl, y ejecutado de manera secuencial) en una solución compatible con las tecnologías Big Data.

Con sólo introducir unas etiquetas en la aplicación original, esta herramienta de traducción permite al programador convertir automáticamente todo su código Perl en código Java adaptado al paradigma MapReduce, habilitándolo así para su ejecución en un clúster (es decir, permitiendo su ejecución simultánea en múltiples cores o nodos de computación). De esta forma, se logra multiplicar la velocidad de cómputo por un factor proporcional al número de procesadores disponibles (por ejemplo: si se dispone de 1000 procesadores, el código resultante será, en el caso ideal, aproximadamente 1000 veces más eficiente que la solución secuencial).

‘Perldoop’, la herramienta de código abierto

Otra característica reseñable de esta investigación, que ha dado lugar a la herramienta de traducción Perldoop, es que los resultados se han hecho públicos bajo una licencia de software libre, con el objetivo de que esté a disposición del mayor número posible de usuarios y profesionales. Como explica el profesor Juan Carlos Pichel, investigador principal y responsable del proyecto, la decisión se tomó porque «el desarrollo de soluciones Big Data para el Procesamiento de Lenguaje Natural» (PLN) «sólo está, en este momento, al alcance de las compañías más potentes». Con la solución propuesta, y unos conocimientos mínimos de programación, será posible convertir cualquier código programado en lenguaje Perl a una solución capaz de funcionar en un clúster de computación.

Entre las principales ventajas de esta nueva solución destaca especialmente su versatilidad, ya que se trata de una herramienta de propósito general; gracias a ello, podrán beneficiarse aplicaciones de ámbitos tan diversos como la traducción automática, el análisis de información en blogs, o incluso el procesado de datos genéticos.

CT ha iniciado su primer contrato con Repsol Química en el complejo de La Pobla de Mafumet (Tarragona). Se trata de un servicio de supervisión de obra, en modalidad de contrato abierto y con una duración prevista de cinco años, que abarca todas las unidades e instalaciones del Complejo Industrial de Repsol Química. Es el ...

El Ilustre Colegio Oficial de Ingenieros Industriales de Galicia (ICOIIG) celebra este viernes 26 de septiembre en la Escuela de Ingeniería Industrial (sede Campus) de la Universidad de Vigo la jornada “El futuro de la Ingeniería”, una cita que reúne a profesionales, empresas, estudiantes y universidad con el objetivo de reflexionar sobre los retos y oportunidades ...

El Premio Emprendedor Naval 2025, que busca reconocer ideas o proyectos en fase inicial relacionados con el ámbito naval o marítimo, arranca su fase final, que concluirá con la elección del proyecto ganador de entre los 4 seleccionados como finalistas. Entre ellos, un innovador yate que integra cultura, naturaleza y gastronomía; un pionero servicio de renderizado ...

La gran cita anual de la energía regresa a Compostela. La Ciudad de la Cultura de Santiago acogerá del 8 al 10 de octubre la segunda edición de los Energy Days, un foro de debate sobre energía, industria y digitalización organizado por el Cluster de Energías Renovables de Galicia (Cluergal). Tras el éxito alcanzado ...

Red Eléctrica, la filial de Redeia responsable del transporte y la operación del sistema eléctrico en España, culmina los trabajos del tendido eléctrico submarino del primero de los dos circuitos que unirán el sistema eléctrico de Ceuta con el peninsular.

El barco cablero Giulio Verne, de Prysmian, ha sido recibido a su llegada ...