Tags:
create new tag
, view all tags

Stage de François Bock - DUT Schuman - [10/04/17 au 23/06/17]

Important : cette page est réservée au suivi du stage, merci de ne pas la modifier

Informations générales pour les stagiaires

Pour toute information concernant ce stage : contacter Mireille, Françlois

Sujet

Stage (Avril - juin 2017)

Avril

  • 10, arrivée, presentation de l'observatoire
  • 10, présentation des métiers et services
  • 10, présentation du sujet de stage & lecture de documents
  • 11, lecture document sur le modèle W3C Provenance, et sur l'IVOA
  • 11 - 14 Création d'un modele relationnel

  • 18, création de script postgreSQL pour créer une BDD
  • 19, insertion de lignes de test dans cette base
  • 20, création d'un trigger PostgreSQL pour ajout automatique de donnée dans une table & test du script
  • 21, discussion avec les tuteurs sur le travail effectué, decouverte du format VOTAble
  • 21, début de rédaction permettant de lire un fichier VOTable

  • 24, Le script permettant de lire un fichier VOTable est terminé
  • 25, Test de ce script, probleme d'encodage utf-8
  • 25, Optimisation du script VOTable, résolution partiel du probleme d'encodage
  • 26, Ecriture d'un script Python permettant de créer un fichier VOTable en fonction d'une requete SQL donnée
  • 27-28, probleme de données qui se perd lors de l'ingestion d'un fichier VOTable
  • Premiere phase du MLD
Phase1

  • MLD 2eme phase
2eme etape
  • MLD 3eme phase
Phase3

Mai

  • 2, toujours en recherche d'une solution pour les informations qui se perdent
  • 3, résolution du probleme, grace a l'ajout d'une table spéciale dans la BDD
  • 4, compréhension du format JSON et création d'un script qui parse un fichier JSON
  • 5, création d'un script python qui permet de generer un fichier JSON suivant une requete SQL donnée en entré
  • 5, création d'une petite interface graphique qui permet une connexion a la base de donnée, mais abandonné car jugé inutile

  • 9-10, création d'une fonction qui remplit la base de données avec un fichier JSON donnée en entrée.
  • 11, test de cette fonction, probleme d'encode UTF-8 comme le format VOTable
  • 12, correction du probleme d'encodage + discussions avec les tuteurs
  • 12, création d'un script qui test la validité d'un fichier JSON et VOTable

  • 15, correction d'un bug dans le trigger SQL (Il manqué une conditions)
  • 15, correction d'un probleme de clé unique dans la base (Création d'un couple d'identifiant unique)
  • 16-19, création de script permettant de retracé l'historique d'une donnée dans un seul sens (Descente)

  • Exemple de génération basique
Graphique basique
  • Exemple de génération complexe
Graphe Complet

  • 22-23, création d'une interface graphique permettant de générer les graphiques
  • 24-30, amélioration du programme qui permet maintenant de générer un graphe dans les 2 sens (ascendant et descendant)

  • Interface:
Interface graphique


Juin

  • 1, présentation du travail aux tuteurs
  • 1-2, optimisation des programmes, tests, correction de bug
  • 5-6, documentation des scripts.
  • 7-9, ajouts de nouvelles tables dans la base (collections et parametre)

Liens

Versions testables

  • Les différents scripts sont présents dans les pieces jointes
  • interface.py est le programme le plus intéressant a testé (création des graphes)

Documentation

Travail post stage éventuel

Liste des améliorations à envisager

  • Optimisation des différents scripts en particulier celui qui permet de générer des graphes getProg.py

Bugs connus

  • Des problemes d'encodages peuvent survenir dans certains cas
  • Probleme relationnel dans la base suivant l'orde d'insertions des données exemple ( ne pas inserer une donnée dans la table "Used" si l'entité n'as pas été encore déclarée
Topic attachments
I Attachment Action Size Date Who Comment
Texttxt ConvertPROVN.py.txt manage 0.8 K 2017-06-22 - 12:12 UnknownUser  
PNGpng Graph2_2.png manage 156.4 K 2017-06-12 - 21:33 UnknownUser  
PNGpng Interface.png manage 19.9 K 2017-06-12 - 21:44 UnknownUser  
PNGpng Phase1.png manage 15.6 K 2017-06-12 - 21:11 UnknownUser  
JPEGjpg Phase2.jpg manage 57.1 K 2017-06-12 - 21:11 UnknownUser  
JPEGjpg Phase3.jpg manage 86.8 K 2017-06-12 - 21:11 UnknownUser  
PNGpng ProvGraph1.png manage 27.8 K 2017-06-12 - 21:34 UnknownUser  
PNGpng ProvGraph2.png manage 156.4 K 2017-06-12 - 21:34 UnknownUser  
PDFpdf Rapport_BOCK_Franois.pdf manage 1294.2 K 2017-06-22 - 14:07 UnknownUser  
PDFpdf Soutenance.pdf manage 2452.0 K 2017-06-22 - 14:08 UnknownUser  
Texttxt checkFiles.py.txt manage 4.0 K 2017-06-22 - 11:41 UnknownUser  
Texttxt dbManagement.py.txt manage 4.2 K 2017-06-22 - 15:26 UnknownUser  
Unknown file formatsql deleteTable.sql manage 0.2 K 2017-06-22 - 11:43 UnknownUser  
Unknown file formatgz fichierStage.tar.gz manage 138.3 K 2017-06-22 - 15:25 UnknownUser  
Texttxt fillJSON.py.txt manage 4.4 K 2017-06-22 - 11:41 UnknownUser  
Texttxt fillVOTABLE.py.txt manage 4.1 K 2017-06-22 - 11:41 UnknownUser  
Texttxt generateGraph.py.txt manage 15.7 K 2017-06-22 - 11:41 UnknownUser  
Texttxt interface.py.txt manage 6.3 K 2017-06-22 - 11:41 UnknownUser  
Texttxt parseJson.py.txt manage 0.6 K 2017-06-22 - 11:52 UnknownUser  
Texttxt queryJson.py.txt manage 2.1 K 2017-06-22 - 15:27 UnknownUser  
Texttxt queryVO.py.txt manage 3.1 K 2017-06-22 - 11:46 UnknownUser  
Unknown file formatsql trigger.sql manage 0.8 K 2017-06-22 - 11:43 UnknownUser  
Topic revision: r5 - 2017-06-22 - FrancoisBock
 
This site is powered by the TWiki collaboration platform Powered by PerlCopyright © 2008-2024 by the contributing authors. All material on this collaboration platform is the property of the contributing authors.
Ideas, requests, problems regarding TWiki? Send feedback