Mineração de texto

Text mining, ou mineração de texto em português, é uma técnica de seleção e extração de informações úteis de grandes quantidades de texto.

Categoria de Tecnologia

Postado em 28 março 2022

Atualizado em 27 dezembro 2022

Palavras-chave: text,mining,mineração,de,texto,tópico,automatizar,automização,detector,de,spam,walt,disney

Visualizações: 1705

Há uma imensa quantidade de informação acumulada na internet. Essas informações podem ser armazenadas em texto, imagem, vídeo e som.

Se pensarmos em um produto famoso em um site de comércio eletrônico como o amazon, podemos ter uma infinidade de avaliações escritas por vários usuários. Todas essas avaliações geram uma grande quantidade de informação úteis que podem ser aproveitadas. Porém processar esses dados manualmente pode se tornar uma tarefa difícil para humanos, uma vez que a quantidade de texto pode ser extremamente volumosa.

Invés de fazer análises de modo manual, podemos automatizar esses processos usando mineração de texto.

O que é mineração de texto?

A mineração de texto pertence a uma área da computação que foca no processamento de grandes quantidades de texto e na extração de informações úteis. Esse processo é realizado através de técnicas de processamento de linguagem natural (PLN), que permite que os computadores sejam capazes de compreender e interpretar o idioma humano.

Qualquer tipo de texto que esteja disponível em formato digital, incluindo documentos de texto, artigos, livros, páginas de internet, mensagens de e-mail e postagens em redes sociais podem ser processados. A mineração de texto pode processar textos em diferentes idiomas e formatos. Esses formatos podem ser textos não estruturados como o texto puro e textos estruturados como HTML, XML e JSON.

Técnicas de mineração de texto podem fazer uma diversidade de tarefas, como:

  • Classificação
  • Agrupamento
  • Extração
  • Associação
  • Sumarização

Classificação

Classificação de conteúdo baseando-se no texto. Exemplos de categorias que podem ser classificadas são: esportes, notícias, política e entretenimento. Essa técnica tem grande importância para o algoritmo poder filtrar as informações a serem pesquisadas em sistemas de busca.

Agrupamento

Agrupa textos baseando-se no seu conteúdo, significado e no parâmetro de pesquisa. Um exemplo disso é a sigla SP e a palavra São Paulo, ambos possuem o mesmo significado, porém são escritos de uma forma diferenciada. Porém, dependendo do conteúdo do texto a sigla pode ter um significado diferente. A mineração de texto consegue diferenciar esse tipo de informação de acordo com o contexto.

Extração

Organiza e registra os dados coletados de modo estruturado, possibilitando a integração de outras tecnologias como banco de dados, que contribuem para a conveniência e precisão de sistemas, como sistemas de busca ou sistemas que usam métodos de filtragem de conteúdo ou categoria.

Associação

Palavras que são usadas juntas com frequência. Um exemplo de associação é Japão e Samurai, ambas palavras são utilizadas em conjunto com bastante frequência. Essa associação pode ser aproveitada para buscas de conteúdos relacionados, aumentando a eficiência dos resultados da busca.

Sumarização

Resume um texto grande em um texto pequeno, juntando os principais pontos do conteúdo escrito. Técnica útil na divulgação de artigos ou notícias em redes sociais.

extração de porções importantes de um texto

O que é um texto puro ou texto simples na mineração de texto?

Um texto puro é um texto não estruturado, não possuindo códigos adicionais para representar título, subtítulo, parágrafo 1, parágrafo 2, etc. Ou seja o texto está todo junto, “armazenado” no mesmo espaço.

Nesse caso, é necessário a divisão desse texto em partes para tornar possível a análise de texto.

Divisão e análise, ambas são técnicas de mineração de texto.

Exemplos de textos em texto puro são:

  • Livros
  • Emails
  • Páginas na web

O que é texto estruturado na mineração de texto?

O texto estruturado é um texto divido em várias partes, como título, parágrafo 1, parágrafo 2, etc.

Um exemplo de estruturação de texto:

Se podemos sonhar, também podemos tornar nossos sonhos realidade.
– Walt Disney 1979

A citação acima é um exemplo de texto puro. Se estruturarmos o texto acima teremos a tabela abaixo:

Tópico Sonhos
Autor Walt Disney
Ano 1979

Ao extrairmos os dados acima, podemos obter informações de forma mais específica e detalhada, melhorando a mineração de texto de modo geral.

mineração de texto

Qual é a importância da mineração de texto?

Os minérios que extraímos da natureza, não possuem um grande valor na sua forma pura. Ao serem processados, esses minérios obtém mais valor, pois traz grandes utilidades para seus compradores. Na mineração de texto acontece a mesma coisa.

Ao processarmos uma grande quantidade de texto com um objetivo concreto em mente, podemos obter resultados extremamente benéficos para negócios ou empresas.

Como a mineração de texto é usada?

A mineração de texto possui várias funcionalidades, como:

  • Classificador de tópico (Usado em sites de notícias para separar os tópicos como econômia, esportes, tecnologia…)
  • Identificador de spam (Bastante usado nos emails, usado para filtrar spams)
  • Detecção de imitação de texto (Crimes de copiar texto de outros autores e publicar no próprio nome)
  • Autocorreção de textos (Erros de português)
  • Agrupamento de vários textos se baseando nas palavras usando com mais frequência (Usado nas avaliações de algum local no mapa do google maps)

Além dos exemplos acima, a mineração de textos tem muitos outras utilidades e funcionalidades. Se usada de forma super eficiente é até capaz de fazer a previsão do futuro da bolsa de valores.

Conclusão

A mineração de texto é uma prática que trabalha em conjunto com machine learning. Quanto mais dados armazenados no banco de dados, mais benéficos podem ser seus resultados.

Pode trazer grandes vantagens para empresas que trabalham com uma grande quantidade de dados, automatizando certos processos e fazendo análise.

Projetos práticos

Integrando Laravel com o protocolo MQTT para comunicação entre dispositivos

Projeto de comunicação entre dois dispositivos ESP8266 e Raspberrypi4. Laravel irá funcionar como servidor e receptor de dados de temperatura e umidade coletados com o DHT11.

Criando o esqueleto de um jogo de tiro 2D visto de cima usando P5.js

Usando lógicas matemáticas como trigonometria para criar e calcular o esqueleto de um jogo de tiro 2D em javascript

Criando um jogo de guerra nas estrelas em javascript usando a biblioteca p5.js

Jogo simples de guerra espacial desenvolvido em javascript. Esse jogo usa cálculos de física para simular efeitos de atrito e inércia.

Implementando um algoritmo de pathfinding

Implementando um programa que encontra a menor distância entre dois pontos dentro de um labirinto usando o algoritmo A* (a-estrela).

Criando um sistema de mini garagem automatizada integrada com um sistema de monitoramento independente

Desenvolvimento de um sistema de monitoramento que exibi todos os eventos que acontecem na garagem automatizada, como abertura de portões ou ocupação de vagas.

Veja também

Nunca se sabe quando tem alguém nos espionando no nosso computador

Um computador conectado à internet está exposto a diversos perigos. O spyware é um deles e é esse malware responsável por roubar contas de redes sociais.

A comunicação entre dispositivos existe graças aos protocolos

Alguns desses protocolos é o HTTP que usamos em nossos navegadores. Sem esses protocolos teríamos alguns problemas na comunicação de dispositivos através da internet.

LPWA Low Power Wide Area

LPWA é a abreviação de Low Power Wide Area. LPWA é um modo de comunicação wireless entre dispositivos. É principalmente utilizado em dispositivos IoT.

Edge Computing

Edge Computing em português significa, computação de borda. É um modelo de computação usado para melhorar a eficácia no processamento e envio de dados.

Terminal

Interface dedicada ao desenvolvedor ou especialista da computação para executar comandos ao computador sem a presença de um mouse.

Firewall

O firewall atua como barreira entre as redes interna e externa, bloqueando tráfego de pacotes de dados considerados suspeitos ou inseguros.