Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Raphael Mazelier
On 10/06/2020 16:13, Olivier Bonvalet wrote: Je ne pense pas qu'on puisse extrapoler, mais chez nous (on utilise Netdata en exporteur), avec en tout 25 millions de métriques pour ~600 serveurs, raffraichis toutes les 10 secondes et conservées 6 mois, ça représente un peu moins de 6To. Mais...

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Raphael Mazelier
On 10/06/2020 12:39, Charles-Christian Croix wrote: Bonjour. Je suis un peu étonné de vos différentes conclusions sur Prometheus. Je gère actuellement un architecture Prometheus de 10 serveurs prometheus (2 par DC + 2 Fédération). Cette stack collecte plus de 500k métriques chaque minutes et

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Olivier Bonvalet
Oui c'est du Prometheus (sous Docker, pour le multi-tenant). En terme d'IO c'est étonnament calme, mais c'est stocké sur du LVM- cache, avec 10% sur NVMe. Généralement les clients consultent surtout les datas fraiches, qui sont donc très probablement sur les NVMe. Les accès aux données plus ancien

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Wallace
Jolies stats, stocké avec Prometheus du coup? Et les IO disques sur les 6To c'est pas trop lourd? Le 10/06/2020 à 16:13, Olivier Bonvalet a écrit : > Je ne pense pas qu'on puisse extrapoler, mais chez nous (on utilise > Netdata en exporteur), avec en tout 25 millions de métriques pour ~600 > serv

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Olivier Bonvalet
Je ne pense pas qu'on puisse extrapoler, mais chez nous (on utilise Netdata en exporteur), avec en tout 25 millions de métriques pour ~600 serveurs, raffraichis toutes les 10 secondes et conservées 6 mois, ça représente un peu moins de 6To. Mais... on stocke beaucoup (trop ?) de choses. (à vrai di

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Charles-Christian Croix
Retour intéressant, quel poids pèse tes métriques stockées sur Prometheus? > 265Go > Tu les stockes localement sur les edges ou sur ceux fédérant? > Sur les prometheus de fédération. Les edges ne garde que entre 1h et 1 jours de donnée. > Merci > Karles -- Charles-Christian Croix

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Wallace
Bonjour, Retour intéressant, quel poids pèse tes métriques stockées sur Prometheus? Tu les stockes localement sur les edges ou sur ceux fédérant? Merci Le 10/06/2020 à 12:39, Charles-Christian Croix a écrit : > > Bonjour. > > Je suis un peu étonné de vos différentes conclusions sur Prometheus.

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Olivier Bonvalet
Le mercredi 10 juin 2020 à 13:56 +0200, Xavier Beaudouin a écrit : > Hello, > > L'UI de Prometheus est pas mal, même si d'un point de vue perso je > n'adhère pas, mais c'est une question de gouts évidement. > Par contre chose que j'ai effectivement remarqué comme tout infra > grafana like, c'est q

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Xavier Beaudouin
Hello, > Je suis un peu étonné de vos différentes conclusions sur Prometheus. (...) > Pour l'archivage ou la rétention longue duré il existe différente solution que > nous n'utilisons pas. La solution qui monte est [ https://thanos.io/ | > https://thanos.io ] > Nous pensons créé un service d'e

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Charles-Christian Croix
Bonjour. Je suis un peu étonné de vos différentes conclusions sur Prometheus. Je gère actuellement un architecture Prometheus de 10 serveurs prometheus (2 par DC + 2 Fédération). Cette stack collecte plus de 500k métriques chaque minutes et garde un historique de 90 jours. Les métriques proviennen

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Wallace
Merci Philippe et Raphael, je pense en effet que le KISS du syslog à l'ancienne me parait une bonne solution notamment pour l'archivage légal, j'avais pas pensé à renvoyé une autre fois vers un autre composant, ça me parait évident maintenant. Le stockage de prometheus clairement non, au delà de 2

Re: [FRsAG] Syslog et Prometheus

2020-06-10 Par sujet Raphael Mazelier
Bonjour; Gros sujet. Coté métriques le couple prometheus/grafana semble avoir gagné temporairement la partie.  Ceci étant cela ne vient pas sans challenge. Prometheus est très efficace mais il ne gère pas le downsampling et le stockage long terme out of the box. Il existe plein de solution

Re: [FRsAG] Syslog et Prometheus

2020-06-09 Par sujet Philippe Bourcier
Re, > - partie log exploitation non compressée sur une période de quelques > jours pour corréler avec les métriques, par la suite c'est compressé et > archivé avec éventuellement la possibilité d'aller revoir un évènement > en arrière Un rsyslog centralisé en front avant ta stack EL(K)... comme c

[FRsAG] Syslog et Prometheus

2020-06-09 Par sujet Wallace
Bonjour à tous, On arrive pas à se décider sur le choix de stockage de logs et de métrique dans le cadre de la centralisation de logs syslog et des métriques récupérée par Prometheus. Le contexte est plusieurs centaines de systèmes (99% Debian, 1% autre (BSD, appliance). Jusqu'à présent on avait