vidjil issueshttps://gitlab.inria.fr/vidjil/vidjil/-/issues2022-04-26T11:36:02+02:00https://gitlab.inria.fr/vidjil/vidjil/-/issues/4840Clés obligatoires dans le .json d'un pre-process ?2022-04-26T11:36:02+02:00Mathieu GiraudClés obligatoires dans le .json d'un pre-process ?Following discussion from [!691](https://gitlab.inria.fr/vidjil/vidjil/-/merge_requests/691#note_348535):
> > @magiraud : Il devrait y avoir une modification sur `doc/vidjil-format.md` pour spécifier les nouveaux champs (pas tous, il...Following discussion from [!691](https://gitlab.inria.fr/vidjil/vidjil/-/merge_requests/691#note_348535):
> > @magiraud : Il devrait y avoir une modification sur `doc/vidjil-format.md` pour spécifier les nouveaux champs (pas tous, ils dépendent du pre-process, mais au moins le cadre général).
> @flothoni: La seule clef obligatoire est la `parameters` qui déclenche la conversion en `Preprocess` dans le fuse. (...)
> Doit-on rendre d'autres clefs indispensable ? Spécifier par exemple les champs `producer`, `run_timestamp`, `stats` et `warnings` ? Il faudrait mettre une mention dans le code pour vérifier la validité de ces clef dans les Preprocess.https://gitlab.inria.fr/vidjil/vidjil/-/issues/4358Avoir un historique des sha1 de prod-client, prod-server (et des déploiements)2020-09-23T17:14:18+02:00Mathieu GiraudAvoir un historique des sha1 de prod-client, prod-server (et des déploiements)Entre le moment où quelque chose est mergé dans `dev` et passe en prod, il peut y avoir du temps, et ces temps sont différents suivant algo/client/serveur. En cas de bug, on aimerait savoir "depuis quand est cette version sur tel déploie...Entre le moment où quelque chose est mergé dans `dev` et passe en prod, il peut y avoir du temps, et ces temps sont différents suivant algo/client/serveur. En cas de bug, on aimerait savoir "depuis quand est cette version sur tel déploiement".
Avoir quelque part un historique des sha1 des branches de prod (voire des déploiements quand ce n'est pas ~"dev-cd" automatique) ? N'a-t-on pas déjà cela avec les paquets ~"server-docker" ?https://gitlab.inria.fr/vidjil/vidjil/-/issues/4326Monitorer les slaves2020-06-10T13:10:23+02:00Mathieu GiraudMonitorer les slavesMême chose que #4324 mais pour le ~"dev-ci". C'est par exemple jouable de déployer plusieurs serveurs Prometheus et d'avoir un seul Grafana qui récupère tout, ou d'avoir cela directement récupéré par Gitlab.
Permettrait probablement d'a...Même chose que #4324 mais pour le ~"dev-ci". C'est par exemple jouable de déployer plusieurs serveurs Prometheus et d'avoir un seul Grafana qui récupère tout, ou d'avoir cela directement récupéré par Gitlab.
Permettrait probablement d'avancer sur #3397, et plus généralement d'être conscient de notre taux d'occupation des slaves.https://gitlab.inria.fr/vidjil/vidjil/-/issues/4324Monitorer le serveur : temps réel + historique2024-01-22T14:22:49+01:00Mathieu GiraudMonitorer le serveur : temps réel + historiqueComplément à #4037, évoqué avec @flothoni et @mikael-s :
- nombre de jobs par jour
- nombre de fichiers uploadés / taille totale
- charge CPU (plus dur ?)
- incidents
éventuellement sur plusieurs serveurs
Graphiques historiques (à...Complément à #4037, évoqué avec @flothoni et @mikael-s :
- nombre de jobs par jour
- nombre de fichiers uploadés / taille totale
- charge CPU (plus dur ?)
- incidents
éventuellement sur plusieurs serveurs
Graphiques historiques (à quel point le lundi est plus chargé ? les congés ?), par curiosité, mais aussi pour nous aider à mieux gérer les incidents.
Via Gitlab ? https://docs.gitlab.com/ee/administration/monitoring/performance/Web 2024.04https://gitlab.inria.fr/vidjil/vidjil/-/issues/4297Utiliser les alertes de gitlab ?2020-05-23T08:00:17+02:00Mathieu GiraudUtiliser les alertes de gitlab ?Gitlab 13.0, alertes: https://docs.gitlab.com/ee/user/project/operations/alert_management.html
Et de [nombreuses issues](https://gitlab.com/gitlab-org/gitlab/-/issues?label_name=Category%3AAlert+Management) et aussi
https://about.gitlab...Gitlab 13.0, alertes: https://docs.gitlab.com/ee/user/project/operations/alert_management.html
Et de [nombreuses issues](https://gitlab.com/gitlab-org/gitlab/-/issues?label_name=Category%3AAlert+Management) et aussi
https://about.gitlab.com/direction/monitor/debugging_and_health/alert_management/
Intérêt (pour nous) ? Par rapport à #3745 ?https://gitlab.inria.fr/vidjil/vidjil/-/issues/4063Reporter au monitor les différents sha1 (client, server), voire version algo2021-10-12T19:40:20+02:00Mathieu GiraudReporter au monitor les différents sha1 (client, server), voire version algoOn aimerait savoir d'un coup d'oeil ce qui est déployé.
#1847 #2939
vdj#414 vdj#344On aimerait savoir d'un coup d'oeil ce qui est déployé.
#1847 #2939
vdj#414 vdj#344https://gitlab.inria.fr/vidjil/vidjil/-/issues/4037Savoir quelle est la charge du serveur2022-05-12T11:42:48+02:00Mathieu GiraudSavoir quelle est la charge du serveurSuggéré par @Anne : ses analyses qui prennent quelques minutes. Mais, selon la charge du serveur, ses jobs peuvent attendre de quasiment rien à... plusieurs heures. Il serait intéressant pour les utilisateurs de savoir par exemple combie...Suggéré par @Anne : ses analyses qui prennent quelques minutes. Mais, selon la charge du serveur, ses jobs peuvent attendre de quasiment rien à... plusieurs heures. Il serait intéressant pour les utilisateurs de savoir par exemple combien de jobs sont en attente.
cc @duez https://gitlab.inria.fr/vidjil/vidjil/-/issues/3928Monitor et dock2019-06-12T14:37:52+02:00Mathieu GiraudMonitor et dockA-t-on ce qu'il faut dans les docks pour reporter au moniteur ?
#3926A-t-on ce qu'il faut dans les docks pour reporter au moniteur ?
#3926https://gitlab.inria.fr/vidjil/vidjil/-/issues/3745Gestion des erreurs client (et serveur ?)2021-09-09T18:42:05+02:00Mathieu GiraudGestion des erreurs client (et serveur ?)Gitlab s'interface désormais à Sentry : https://sentry.io/welcome/
On peut avoir une vue tel que : https://docs.gitlab.com/ce/user/project/operations/error_tracking.html#error-tracking-list...
Est-ce que cela vaurait le coup d'utiliser...Gitlab s'interface désormais à Sentry : https://sentry.io/welcome/
On peut avoir une vue tel que : https://docs.gitlab.com/ce/user/project/operations/error_tracking.html#error-tracking-list...
Est-ce que cela vaurait le coup d'utiliser quelque chose de ce type ?
Pour mémoire, on ramène bien les erreurs client par des appels à `database.js`, mais... on ne fait pas grand chose de cela.
cc @flothoni
https://gitlab.inria.fr/vidjil/vidjil/-/issues/3707Stocker les tickets à / Accéder aux tickets depuis l'extérieur du Dock2020-10-20T12:58:41+02:00Mathieu GiraudStocker les tickets à / Accéder aux tickets depuis l'extérieur du DockOn souhaite pouvoir accéder aux erreurs sur le serveur, même après redémarrage/mise à jour d'un dock.On souhaite pouvoir accéder aux erreurs sur le serveur, même après redémarrage/mise à jour d'un dock.https://gitlab.inria.fr/vidjil/vidjil/-/issues/3069Empecher la modifications d'un patient lorsque des analyses sont en attente2019-03-15T09:50:50+01:00Thonier FlorianEmpecher la modifications d'un patient lorsque des analyses sont en attenteUn utilisateur m'a fait remonté des délais récurrents dans l'analyses de leur données.
Après avoir regarder plus en détail, je m'aperçois qu'ils lancent des jobs lourds (sur de gros fichiers) et si rien ne bouge au bout de 2h, ils recha...Un utilisateur m'a fait remonté des délais récurrents dans l'analyses de leur données.
Après avoir regarder plus en détail, je m'aperçois qu'ils lancent des jobs lourds (sur de gros fichiers) et si rien ne bouge au bout de 2h, ils rechargent toutes les données et relances , pensant que notre serveur est dans les choux.
Je leur ai donc expliqué que ce comportement entraîne une surcharge du serveur et que ça n'améliore pas la situation. Cependant, je n'ai pas de possibilité de leur montrer la charge serveur pour le moment. (cf #2945).
En attendant, peut-on bloquer une nouvelle demande d'analyses, le changement des données fasta voir la déétion d'un patient si il en a déjà une en attente ? Je pense que nous avions déjà fait ce qu'il fallait pour les analyses, mais comme ici les données sont rechargées (et le patient précédent supprimé puis recrée dans la foulée) je ne pense pas que notre filtre fonctionne.
En tous cas l'idée ici est d’empêcher la délétion/création de patients lorsque les gens ont l’impression que rien ne bouge côté frontend. Cela peux passer par un simple message d'alerte lorsqu'il tente de supprimer un patient (Une analyse est en attente sur ce patient. Êtes-vous certain de vouloir le supprimé ? ).
On pourrait aussi signaler un ordre dans la file d'attente du scheduler pour qu'ils puissent voir que ça avance.
Vous en pensez-quoi ? Vous avez des propositions la dessus ?
@magiraud @mikael-s @RyanHerbhttps://gitlab.inria.fr/vidjil/vidjil/-/issues/2965Avoir plus de détails dans le mail des tickets / erreurs web2py2017-12-20T17:00:59+01:00Mathieu GiraudAvoir plus de détails dans le mail des tickets / erreurs web2pyEn particulier pour les hébergements à distance, ce serait intéressant d'avoir dans le mail de web2py la trace des erreurs 500.
cc @RyanHerbEn particulier pour les hébergements à distance, ce serait intéressant d'avoir dans le mail de web2py la trace des erreurs 500.
cc @RyanHerbhttps://gitlab.inria.fr/vidjil/vidjil/-/issues/2958Avoir un mysql-write.log, INSERT et UPDATE2017-12-19T09:54:55+01:00Mathieu GiraudAvoir un mysql-write.log, INSERT et UPDATEOriginellement dans #2957.
@mikael-s :
> Sinon ne logger que les INSERT ou UPDATE ? (à voir si c'est possible…)
@magiraud :
> Sinon ne logger que les INSERT ou UPDATE ? (à voir si c'est possible…)Originellement dans #2957.
@mikael-s :
> Sinon ne logger que les INSERT ou UPDATE ? (à voir si c'est possible…)
@magiraud :
> Sinon ne logger que les INSERT ou UPDATE ? (à voir si c'est possible…)https://gitlab.inria.fr/vidjil/vidjil/-/issues/2957Avoir un mysql.log2017-12-19T20:28:42+01:00Mathieu GiraudAvoir un mysql.logSera utile en post-mortem, mais aussi en ~"server-speed".
https://stackoverflow.com/questions/650238/how-to-show-the-last-queries-executed-on-mysql
https://stackoverflow.com/questions/303994/log-all-queries-in-mysqlSera utile en post-mortem, mais aussi en ~"server-speed".
https://stackoverflow.com/questions/650238/how-to-show-the-last-queries-executed-on-mysql
https://stackoverflow.com/questions/303994/log-all-queries-in-mysqlhttps://gitlab.inria.fr/vidjil/vidjil/-/issues/2945Graphe d'activité du serveur2019-05-06T13:00:42+02:00Mathieu GiraudGraphe d'activité du serveurSuggéré lors d'une réunion à ~"LIL-Lille" : on pourrait avoir un graphe montrant les périodes d'activité / de charge. Public pour le serveur public.Suggéré lors d'une réunion à ~"LIL-Lille" : on pourrait avoir un graphe montrant les périodes d'activité / de charge. Public pour le serveur public.https://gitlab.inria.fr/vidjil/vidjil/-/issues/2941Affichage du nombre de patients/runs/sets2018-03-22T14:50:48+01:00Mathieu GiraudAffichage du nombre de patients/runs/setsDepuis la pagination, l'info sur le nombre de patients est généralement fausse (ou elle montre ce qui est sur la page).
@mikael-s : "C'est tout de même parfois pertinent, en résultat de recherche"
Corriger si possible (pas sûr, ~"serve...Depuis la pagination, l'info sur le nombre de patients est généralement fausse (ou elle montre ce qui est sur la page).
@mikael-s : "C'est tout de même parfois pertinent, en résultat de recherche"
Corriger si possible (pas sûr, ~"server-speed") ou sinon l'enlever pour la vue par défaut.
@mikael-s : "On a bien une bonne info quelque part, voir la page des users."
Voir aussi #1682.https://gitlab.inria.fr/vidjil/vidjil/-/issues/2763Pouvoir comparer une db live et une db sauvegardée2017-10-30T12:09:41+01:00Mathieu GiraudPouvoir comparer une db live et une db sauvegardéeDiscussion avec @RyanHerb : ce serait pertinent d'avoir un outil (dans `scripts` ?) pour comparer plusieurs versions de la db, par exemple une en prod dans web2py et une autre sauvegardée en csv (ou autre ? #2762 plus dur). (Voir même de...Discussion avec @RyanHerb : ce serait pertinent d'avoir un outil (dans `scripts` ?) pour comparer plusieurs versions de la db, par exemple une en prod dans web2py et une autre sauvegardée en csv (ou autre ? #2762 plus dur). (Voir même deux version de la db de prod ?).
Utilisations potentielles : vérifier la cohérence d'une sauvegarde avec ce qu'on a, être rassuré lors des opérations de maintenance (par exemple transferts #2063) ou lors de situations dégradées...
Un diff serait assez dur. Cherche-t-on a mapper aussi certaines ou toutes les valeurs ?
Quelques critères possibles donnant déjà un aperçu:
- Tailles des différentes tables
- Derniers id des différentes tables
- Les éléments des tables aux ids 1000, 2000...
(`db-stats.py` donne certaines de ces infos, mais ne peut rien faire avec du `.csv`.)https://gitlab.inria.fr/vidjil/vidjil/-/issues/2758Scripts et print de python32017-10-26T18:18:53+02:00Mathieu GiraudScripts et print de python3Les programmes dans `scripts` sont en py2... mais doivent utiliser, depuis les mises à jour de web2py, le `print()` de py3.
Voir aussi #2393.Les programmes dans `scripts` sont en py2... mais doivent utiliser, depuis les mises à jour de web2py, le `print()` de py3.
Voir aussi #2393.https://gitlab.inria.fr/vidjil/vidjil/-/issues/2757Avoir des scripts de monitoring utilisant un accès en lecture seule2017-10-26T16:28:51+02:00Mathieu GiraudAvoir des scripts de monitoring utilisant un accès en lecture seuleBeaucoup de choses qui sont dans `scripts` pourraient être lancés avec un accès garantissant qu'il n'y a qu'un accès en lecture seule sur la db.
@RyanHerb : "Par exemple créer un utilisateur et gérer cela via mysql"Beaucoup de choses qui sont dans `scripts` pourraient être lancés avec un accès garantissant qu'il n'y a qu'un accès en lecture seule sur la db.
@RyanHerb : "Par exemple créer un utilisateur et gérer cela via mysql"https://gitlab.inria.fr/vidjil/vidjil/-/issues/2151Avoir un mécanisme automatique détectant un downtime de la db2017-02-22T17:07:39+01:00Mathieu GiraudAvoir un mécanisme automatique détectant un downtime de la dbDiscussion originale dans vdj#353.
On veut informer les utilisateurs lors d'un downtime. Idéalement on aimerait avoir une notification manuelle (#2152), mais on n'est pas toujours disponible, ne serait-ce que hors des heures de bureau...Discussion originale dans vdj#353.
On veut informer les utilisateurs lors d'un downtime. Idéalement on aimerait avoir une notification manuelle (#2152), mais on n'est pas toujours disponible, ne serait-ce que hors des heures de bureau sur notre fuseau horaire.
@mikael-s :
> Si db.vidjil.org ne répond pas, la notification pourrait apparaître automatiquement. Mais quelle est la définition de « db.vidjil.org ne répond pas » ? Car c'est déjà un peu le rôle du timeout…
> Peut-être un truc qui s'active en utilisant les messages de UptimeRobot ou du monitor Vidjil ?
@magiraud :
> Il peut y avoir un truc automatique disant "down since Xxxx, we will check soon" (éventuellement "More news to come at 9:30am") qui se lance "tout seul" si c'est offline 10/30 minutes de suite...
@RyanHerb