begin process at 2012 05 30 14:01:08
  Trouver un code source :
 
dans
 
Accueil > Forum > 

PHP

 > 

Base de données

 > 

MySQL

 > 

Demande d'idées pour traiter un flux important de données


Derniers messages déposésPoser une question dans le forum ou lancer une discussion

Demande d'idées pour traiter un flux important de données

jeudi 13 mars 2008 à 17:15:00 | Demande d'idées pour traiter un flux important de données

johnkro

Bonjour tout le monde,
 
je suis à la recherche d'idées pour traiter un flux important de données, provenant de serveurs. Je m'explique. Je suis en stage, et il y a différents programmes écrits en PERL (que je devrais optimiser par la suite), qui récupèrent des informations provenant de différents serveurs et les envoient à un collecteur. Le problème se situe au niveau de ce collecteur. A l'heure actuel, le collecteur écrit les informations dans une pile de type FIFO, donc les premières qui rentrent seront les premières à être traiter en sortie.

Le problème est qu'il y a saturation au niveau de cette pile. Je cherche donc des idées pour améliorer le fonctionnement de cette pile. J'avais penser écrire les informations à traiter dans une base MySQL, ce qui m'aurait permis de traiter les infos identiques en les regroupant.

Si vous avez des idées ou des pistes, n'hésitez pas.

Merci d'avance.
vendredi 14 mars 2008 à 07:48:04 | Re : Demande d'idées pour traiter un flux important de données

malalam

Administrateur CodeS-SourceS
Réponse acceptée !
Hello,

il faudrait plus d'infos. Sous quelle forme se présente cette pile, quels sont les traitements, quand et comment ? Comment sature-t-elle ? etc
vendredi 14 mars 2008 à 14:11:24 | Re : Demande d'idées pour traiter un flux important de données

johnkro

Réponse acceptée !
Je n'ai pas encore toutes les informations concernant cette pile.
 
Pour l'instant, je travaille sur l'amont, donc sur les serveurs (récupération des infos et envoi). Il y a déjà pas mal de boulot à ce niveau. Mais la plus grosse partie des objectifs se situera au niveau du traitement de la pile, qu'il faudrait remplacer par un système plus performant.

Donc ce que je sais c'est qu'il y a saturation de l'espace disque au niveau de cette pile, mais uniquement périodiquement, mais c'est déjà de trop. En fait, l'appli fonctionne persque toujours très correctement, mais par moment le volume de données entrant et bien trop supérieur à la vitesse de traitement en sortie...

Euh voilà pour l'instant, j'en sais pas vraiment plus, les infos vont venir au fur et à mesure, car là il y a déjà pas mal de chose (notamment de codes) à digérer. Mais je cherche plus des idées que des solutions aux problèmes...

Merci


Cette discussion est classée dans : données, flux, traiter, important, idées


Répondre à ce message

Sujets en rapport avec ce message

Base de données, php et flux [ par benjimanweb ] J'aimerai savoir s'il est possible de créer un script permettant de voir ce que l'ordinateur verifie sur la base de données lorsque l'on clique sur le Recupérer des données d'un flux rss [ par Damiou ] Voila j'écris ce post parce que j'ai bsoin de votre aide.Je voudrais récuperer certaines données météorlogiques qui nous sont données à partir d'un fl Flux de données [ par Shune ] Bonjour,Je débute totalement en Web Développement et me voici embarqué dans un gros projet :)Je ne sais pas si je suis vraiment dans la bonne section Webservices / flux de données/ API/ XML - Football [ par contactbleu ] Hello, Je suis à la recherche d'un web-services me permetant d'afficher les scores de foot du mondial (World Cup) 2010. Qui a des idées ou des info FLux RSS PHP [ par medanass ] SVP j'ai besoin d'aide , j'arrive a récupéré les données d'un autre sites web dans ma propre page avec un flux RSS ,mais le problème c'est q insertion dans la base de données [ par bmounaj ] salut! j'ai un probleme d'insertion dans la base de données! sachant que ma connexion est établie, que la requette est juste, je me suis assurée en fa configurer une base de données avec php [ par laguchori ] Bonjour, j'ai créé une table avec MySQL et une page php dans laquelle je vaudrai afficher quelque données,enregistré mon problème c'est que je ne sais base de données résultats sportifs [ par samoz63 ] Bonjour, Je souhaite créer un site de résultats sportifs. Mon objectif est de pouvoir renseigner via un formulaire (uniquement accessible par moi) l Moyen d'accéder à une base de données externe [ par monoski ] Bonsoir tout le monde, Voilà, je vais vendre des logiciels pour le compte d'un partenaire commercial. Nous souhaitons activer les accès de mes utilis Accéder à la base de données mysql 1&1 Serveur Virtuel Linux [ par sismo2007 ] Je n'y arrive pas???? merci d'avance pour votre aide


Nos sponsors


Sondage...

Comparez les prix

CalendriCode

Mai 2012
LMMJVSD
 123456
78910111213
14151617181920
21222324252627
28293031   

Consulter la suite du CalendriCode

A découvrir



 
Développement réalisé par Nicolas SOREL (Nix) avec l'aide de : Cyril DURAND et Emmanuel (EBArtSoft), Merci à Vincent pour ses précieux conseils.
CodeS-SourceS.com© Toute reproduction même partielle est interdite sauf accord écrit du Webmaster
CodeS-SourceS.com© est une marque déposée tous droits réservés

Google Coop CodeS-SourceS Google Coop CodeS-SourceS
Temps d'éxécution de la page : 1,092 sec (3)

Nous contacter | Annoncer sur CodeS-SourceS | Mentions légales