Mineração de texto

Text mining, ou mineração de texto em português, é uma técnica de seleção e extração de informações úteis de grandes quantidades de texto.

Categoria de Tecnologia

Postado em 28 março 2022

Atualizado em 27 dezembro 2022

Palavras-chave: text,mining,mineração,de,texto,tópico,automatizar,automização,detector,de,spam,walt,disney

Visualizações: 1388

Há uma imensa quantidade de informação acumulada na internet. Essas informações podem ser armazenadas em texto, imagem, vídeo e som.

Se pensarmos em um produto famoso em um site de comércio eletrônico como o amazon, podemos ter uma infinidade de avaliações escritas por vários usuários. Todas essas avaliações geram uma grande quantidade de informação úteis que podem ser aproveitadas. Porém processar esses dados manualmente pode se tornar uma tarefa difícil para humanos, uma vez que a quantidade de texto pode ser extremamente volumosa.

Invés de fazer análises de modo manual, podemos automatizar esses processos usando mineração de texto.

O que é mineração de texto?

A mineração de texto pertence a uma área da computação que foca no processamento de grandes quantidades de texto e na extração de informações úteis. Esse processo é realizado através de técnicas de processamento de linguagem natural (PLN), que permite que os computadores sejam capazes de compreender e interpretar o idioma humano.

Qualquer tipo de texto que esteja disponível em formato digital, incluindo documentos de texto, artigos, livros, páginas de internet, mensagens de e-mail e postagens em redes sociais podem ser processados. A mineração de texto pode processar textos em diferentes idiomas e formatos. Esses formatos podem ser textos não estruturados como o texto puro e textos estruturados como HTML, XML e JSON.

Técnicas de mineração de texto podem fazer uma diversidade de tarefas, como:

  • Classificação
  • Agrupamento
  • Extração
  • Associação
  • Sumarização

Classificação

Classificação de conteúdo baseando-se no texto. Exemplos de categorias que podem ser classificadas são: esportes, notícias, política e entretenimento. Essa técnica tem grande importância para o algoritmo poder filtrar as informações a serem pesquisadas em sistemas de busca.

Agrupamento

Agrupa textos baseando-se no seu conteúdo, significado e no parâmetro de pesquisa. Um exemplo disso é a sigla SP e a palavra São Paulo, ambos possuem o mesmo significado, porém são escritos de uma forma diferenciada. Porém, dependendo do conteúdo do texto a sigla pode ter um significado diferente. A mineração de texto consegue diferenciar esse tipo de informação de acordo com o contexto.

Extração

Organiza e registra os dados coletados de modo estruturado, possibilitando a integração de outras tecnologias como banco de dados, que contribuem para a conveniência e precisão de sistemas, como sistemas de busca ou sistemas que usam métodos de filtragem de conteúdo ou categoria.

Associação

Palavras que são usadas juntas com frequência. Um exemplo de associação é Japão e Samurai, ambas palavras são utilizadas em conjunto com bastante frequência. Essa associação pode ser aproveitada para buscas de conteúdos relacionados, aumentando a eficiência dos resultados da busca.

Sumarização

Resume um texto grande em um texto pequeno, juntando os principais pontos do conteúdo escrito. Técnica útil na divulgação de artigos ou notícias em redes sociais.

extração de porções importantes de um texto

O que é um texto puro ou texto simples na mineração de texto?

Um texto puro é um texto não estruturado, não possuindo códigos adicionais para representar título, subtítulo, parágrafo 1, parágrafo 2, etc. Ou seja o texto está todo junto, “armazenado” no mesmo espaço.

Nesse caso, é necessário a divisão desse texto em partes para tornar possível a análise de texto.

Divisão e análise, ambas são técnicas de mineração de texto.

Exemplos de textos em texto puro são:

  • Livros
  • Emails
  • Páginas na web

O que é texto estruturado na mineração de texto?

O texto estruturado é um texto divido em várias partes, como título, parágrafo 1, parágrafo 2, etc.

Um exemplo de estruturação de texto:

Se podemos sonhar, também podemos tornar nossos sonhos realidade.
– Walt Disney 1979

A citação acima é um exemplo de texto puro. Se estruturarmos o texto acima teremos a tabela abaixo:

Tópico Sonhos
Autor Walt Disney
Ano 1979

Ao extrairmos os dados acima, podemos obter informações de forma mais específica e detalhada, melhorando a mineração de texto de modo geral.

mineração de texto

Qual é a importância da mineração de texto?

Os minérios que extraímos da natureza, não possuem um grande valor na sua forma pura. Ao serem processados, esses minérios obtém mais valor, pois traz grandes utilidades para seus compradores. Na mineração de texto acontece a mesma coisa.

Ao processarmos uma grande quantidade de texto com um objetivo concreto em mente, podemos obter resultados extremamente benéficos para negócios ou empresas.

Como a mineração de texto é usada?

A mineração de texto possui várias funcionalidades, como:

  • Classificador de tópico (Usado em sites de notícias para separar os tópicos como econômia, esportes, tecnologia…)
  • Identificador de spam (Bastante usado nos emails, usado para filtrar spams)
  • Detecção de imitação de texto (Crimes de copiar texto de outros autores e publicar no próprio nome)
  • Autocorreção de textos (Erros de português)
  • Agrupamento de vários textos se baseando nas palavras usando com mais frequência (Usado nas avaliações de algum local no mapa do google maps)

Além dos exemplos acima, a mineração de textos tem muitos outras utilidades e funcionalidades. Se usada de forma super eficiente é até capaz de fazer a previsão do futuro da bolsa de valores.

Conclusão

A mineração de texto é uma prática que trabalha em conjunto com machine learning. Quanto mais dados armazenados no banco de dados, mais benéficos podem ser seus resultados.

Pode trazer grandes vantagens para empresas que trabalham com uma grande quantidade de dados, automatizando certos processos e fazendo análise.

Projetos práticos

Desenvolvendo o campo de visão de um personagem em um plano 2D

Detectando objetos que entram dentro do campo de visão do personagem. Útil para servir de "gatilho" para eventos em um jogo.

Caixa eletrônico usando arquitetura limpa

Usando JavaFX e arquitetura limpa para criar um aplicativo de caixa eletrônico extremamente simples.

Tutorial de programação do jogo da serpente em javascript

Programando o clássico jogo da serpente usando o framework p5.js. Tutorial indicado para iniciantes da programação que querem aprender os conceitos básico da área criando jogos.

Desenvolvendo um jogo de quebra blocos em javascript

Programando um jogo clássico de arcade usando javascript e p5.js. O usuário deve quebrar os blocos utilizando uma bola ao mesmo tempo que evita que a bola saia pela parte inferior da tela

Usando dados fornecidos pelo TSE para simular o gráfico das eleições presidenciais de 2022

Simulação dos gráficos do segundo turno das eleições presidenciais, utilizando python e ferramentas de análise de dados, pandas e jupyter.

Veja também

Nunca se sabe quando tem alguém nos espionando no nosso computador

Um computador conectado à internet está exposto a diversos perigos. O spyware é um deles e é esse malware responsável por roubar contas de redes sociais.

A manutenção de softwares é o maior pesadelo de um programador quando o código parece um campo minado

Existe muitos programadores que escrevem algoritmos mal planejados. Essa falta de planejamento dificulta a manutenção do aplicativo e aumenta a probabilidade de novos bugs.

Acessibilidade Digital

Prática que visa em incluir todas as pessoas digitalmente, incluindo idosos e deficientes, para que possam ter acesso a informação.

CPU Unidade central de processamento

O CPU é considerado o cérebro do computador, responsável por tarefas como gerenciar instruções de dispositivos de entrada e fazer cálculos.

Internet profunda (Deep web)

Camada da internet onde sistemas de busca convencionais não conseguem acessar por diversos motivos, deixando de indexar o conteúdo.

Busca binária

A busca binária usa o método de divisão de conquista que visa em dividir os problemas em pequenos problemas até que eles se resolvam sozinhos.