Olá amigos,
Finalizando o post, vamos abordar as soluções de BIG DATA e conhecer sobre o Hadoop, uma
plataforma open source desenvolvida
especialmente para processamento e análise de grandes volumes de
dados, sejam eles estruturados ou não estruturados.
Vocês poderão se aprofundar um pouco mais sobre o tema BIG DATA visitando os links no final deste post.
Boa leitura!
Soluções de Big Data
Além de lidar com volumes extremamente grandes de dados dos mais
variados tipos, soluções de Big Data também
precisam trabalhar com distribuição de processamento e
elasticidade, isto é, suportar aplicações com
volumes de dados que crescem substancialmente em pouco tempo.
O problema é que os bancos de dados "tradicionais",
especialmente aqueles que exploram o modelo relacional, como o MySQL, o
PostgreSQL e o Oracle, não se mostram adequados a estes
requisitos, já que são menos flexíveis.
Isso acontece porque bancos de dados relacionais normalmente se baseiam
em quatro propriedades que tornam a sua adoção segura e
eficiente, razão pela qual soluções do tipo
são tão populares: Atomicidade, Consistência,
Isolamento e Durabilidade. Esta combinação é
conhecida como ACID, sigla para o uso destes termos em inglês:
Atomicity, Consistency, Isolation e Durability.
Vejamos uma breve descrição de cada uma:
- Atomicidade: toda transação deve ser atômica, isto é, só pode ser considerada efetivada se executada completamente;
- Consistência: todas as regras aplicadas ao banco de dados devem ser seguidas;
- Isolamento: nenhuma transação pode interferir em outra que esteja em andamento ao mesmo tempo;
- Durabilidade: uma vez que a transação esteja concluída, os dados consequentes não podem ser perdidos.
O problema é que este conjunto de propriedades é por
demais restritivo para uma solução de Big Data. A
elasticidade, por exemplo, pode ser inviabilizada pela atomicidade e
pela consistência. É neste ponto que entra em cena o
conceito de NoSQL, denominação que muitos atribuem
à expressão em inglês "Not only SQL", que em
tradução livre significa "Não apenas SQL" (SQL -
Structured Query Language - é, em poucas palavras, uma linguagem
própria para se trabalhar com bancos de dados relacionais).
O NoSQL faz referência às soluções de bancos
de dados que possibilitam armazenamento de diversas formas, não
se limitando ao modelo relacional tradicional. Bancos do tipo
são mais flexíveis, sendo inclusive compatíveis
com um grupo de premissas que "compete" com as propriedades ACID: a
BASE (Basically Available, Soft state, Eventually consistency -
Basicamente disponível, Estado Leve, Eventualmente consistente).
Não é que bancos de dados relacionais tenham ficado
ultrapassados - eles são e continuarão por muito tempo
sendo úteis a uma série de aplicações. O
que acontece é que, geralmente, quanto maior um banco de dados
se torna, mais custoso e trabalhoso ele fica: é preciso
otimizar, acrescentar novos servidores, empregar mais especialistas em
sua manutenção, enfim.
Via de regra, escalar (torná-lo maior) um bancos de dados NoSQL
é mais fácil e menos custoso. Isso é
possível porque, além de contar com propriedades mais
flexíveis, bancos do tipo já são otimizados para
trabalhar com processamento paralelo, distribuição global
(vários data centers), aumento imediato de sua capacidade e outros.
Além disso, há mais de uma categoria de banco de dados NoSQL,
fazendo com que soluções do tipo possam atender à
grande variedade de dados que existe, tanto estrurados, quanto
não estruturados: bancos de dados orientados a documentos, bancos
de dados chave/valor, bancos de dados de grafos, enfim.
Exemplos de bancos de dado NoSQL são o Cassandra, o MongoDB, o HBase, o CouchDB e o Redis. Mas, quando o assunto é Big
Data, apenas um banco de dados do tipo não basta. É
necessário também contar com ferramentas que permitam o
tratamento dos volumes. Neste ponto, o Hadoop é, de longe, a
principal referência.
 |
| Exemplos de bancos de dados noSQL: Cassandra, MongoDB, HBase, CouchDB e Redis |
O que é Hadoop?
O Hadoop é uma
plataforma open source desenvolvida
especialmente para processamento e análise de grandes volumes de
dados, sejam eles estruturados ou não estruturados. O projeto
é mantido pela Apache Foundation, mas conta com a
colaboração de várias empresas, como
Yahoo!, Facebook, Google e IBM.
Pode-se dizer que o projeto teve início em meados de 2003,
quando o Google criou um modelo de programação que
distribui o processamento a ser realizado entre vários
computadores para ajudar o seu mecanismo de busca a ficar mais
rápido e livre da necessidades de servidores poderosos (e caros).
Esta tecnologia recebeu o nome de MapReduce.
Alguns meses depois, o Google apresentou o Google File System
(GFS), um *sistema de arquivos especialmente preparado para lidar com
processamento distribuído e, como não poderia deixar de
ser no caso de uma empresa como esta, grandes volumes de dados (em
grandezas de terabytes ou mesmo petabytes).
*Em poucas palavras, o sistema de arquivos é um conjunto de instruções
que determina como os dados devem ser guardados, acessados, copiados, alterados, nomeados,
eliminados e assim por diante.
Em 2004, uma implementação open source do GFS foi
incorporada ao Nutch, um
projeto de motor de busca para a Web. O Nutch enfrentava problemas de
escala - não conseguia lidar com um volume grande de
páginas - e a variação do GFS, que recebeu o nome
Nutch Distributed Filesystem (NDFS), se mostrou como uma
solução. No ano seguinte, o Nutch já contava
também com uma implementação do MapReduce.
Na verdade, o Nutch fazia parte de um projeto maior: uma biblioteca
para indexação de páginas chamada Lucene. Os responsáveis
por estes trabalhos logo viram que o que tinham em mãos
também poderia ser usado em aplicações diferentes
das buscas na Web. Esta percepção motivou a
criação de outro projeto que engloba
características do Nutch e do Lucene: o Hadoop, cuja
implementação do sistema de arquivos recebeu o nome de
Hadoop Distributed File System (HDFS).
O Hadoop é tido como uma solução adequada para Big
Data por vários motivos:
- É um projeto open source, como já informado, fato que
permite a sua modificação para fins de
customização e o torna suscetível a melhorias
constantes graças à sua rede de
colaboração. Por causa carcterística,
vários projetos derivados ou complementares foram - e ainda
são - criados;
- Proporciona economia, já que não exige o pagamento de
licenças e suporta hardware convencional, permitindo a
criação de projetos com máquinas consideravelmente
mais baratas;
- O Hadoop conta, por padrão, com recursos de tolerância a
falhas, como replicação de dados;
- O Hadoop é escalável: havendo a necessidade de
processamento para suportar uma quantidade maior de dados, é
possível acrescentar computadores sem necessidade de realizar
reconfigurações complexas no sistema.
É claro que o Hadoop pode ser usado em conjunto com bancos de
dados NoSQL. A própria Apache Foundation mantém uma
solução do tipo que é uma espécie de
subprojeto do Hadoop: o já mencionado banco de dados HBase, que funciona atrelado ao HDFS.
O Hadoop, é bom frisar, é a opção de maior
destaque, mas não é a única. É
possível encontrar outras soluções
compatíveis com NoSQL ou que são baseadas em Massively
Parallel Processing (MPP), por exemplo.
Finalizando
Não podemos considerar as soluções de Big Data
como um arsenal computacional perfeito: sistemas do tipo são
complexos, ainda desconhecidos por muitos gestores e profissionais de
TI e a sua própria definição ainda é
passível de discussão.
O fato é que a ideia de Big Data reflete um cenário real:
há, cada vez mais, volumes de dados gigantescos e que, portanto,
exigem uma abordagem capaz de aproveitá-los ao máximo.
Apenas para dar uma noção deste desafio, a IBM divulgou
no final de 2012 que, de acordo com as suas estimativas, 90% dos dados
disponíveis no mundo foram gerados apenas nos dois anos anteriores.
Diante deste ponto de vista, é um tanto quanto precipitado
encarar a expressão "Big Data" como uma mero "termo da moda".
Para saber mais sobre o assunto, você pode consultar os links que
serviram de referência para este texto:
- data.ime.usp.br/sbbd2012/artigos/pdfs/sbbd_min_01.pdf;
- www.edge.org/conversation/reinventing-society-in-the-wake-of-big-data;
- papers.ssrn.com/sol3/papers.cfm?abstract_id=2205145;
- www.ibm.com/software/data/bigdata;
- strata.oreilly.com/2012/01/what-is-big-data.html;
- www.insidecounsel.com/...-data-why-a-bigger-is-better-mentality-ma;
- www.mckinsey.com/.../Big_data_The_next_frontier_for_innovation.
Escrito por Emerson Alecrim - Escrito em 13_03_2013 - Atualizado em 13_03_2013
Fonte: http://www.infowester.com/big-data.php acessado em 01/08/2014
Nenhum comentário:
Postar um comentário